Êtes-vous un sex-symbol ou un meurtrier ? Cette app a la réponse !

Êtes-vous un sex-symbol ou un meurtrier ? Cette app a la réponse !

Postez un selfie ou une photo de vous et attendez le résultat. Comment ImageNet Roulette vous a-t-elle catégorisé(e) ? Un pilote d’avion ? Une prof de math ? Un aventurier ? Il y a peu de chances en tout cas pour que le résultat se soit approché de la vérité... C’est ce qu’ont voulu démontrer les créateurs de cette intelligence artificielle (IA) de reconnaissance d’images, actuellement exposée au musée Fondazione Prada de Milan. 

La preuve par l’exemple 

Les projections vont bon train quant au rôle que tiendra l’IA dans le futur. Lui demandera-t-on de prendre nos décisions ou de recruter pour nous ? Prendra-t-elle nos jobs ? Dans tous les cas, nous n’en sommes pas encore là tant la technologie reste pour l’instant imparfaite. Certes, grâce au machine learning, les robots sont désormais capables de reconnaître un objet sur une image. Mais pour ce qui est des humains, le chemin à parcourir est encore long. 

ImageNet Roulette se base sur ImageNet, une banque de données qu’utilisent les chercheurs en intelligence artificielle pour mener leurs travaux. Et le moins que l’on puisse dire, c’est que les résultats qu’elle génère en termes de catégorisation des êtres humains sont surprenants. Voire parfois même grotesques. En ce qui me concerne, au moment où j’écris cet article, je ressors comme quelqu’un d’excentrique et de... geek ! Peut-être parce que je porte des lunettes... 

Du drôle et du moins drôle 

Dans ce cas-ci, c’est risible. Mais parfois, c’est beaucoup moins drôle. Les profils à la mine trop boudeuse ou mal rasés par exemple sont facilement identifiés comme malhonnêtes, sans domicile ou même suspects de meurtre. Une sentence plutôt inquiétante, surtout quand on pense que l’IA sera sans doute utilisée un jour pour sélectionner le bon candidat à un poste, ou décider quelle sentence s’impose pour tel ou tel accusé.  

Heureusement, sur ImageNet Roulette, si on n’est pas satisfait du résultat, il suffit de recommencer la prise de vue en arborant un air plus jovial ou simplement en améliorant la résolution du cliché. En l’espace d’un clin d’œil, sans même changer de tenue, on peut ainsi passer de l’image d’un tueur en série à celle de sex-symbol, ou d’hystérique à celle de présentatrice de JT.  

Un miroir de la société 

Comment expliquer un tel grand écart ? Tout simplement parce que l’intelligence artificielle, entraînée grâce aux réponses de milliers d’humains, reflètent tous les stéréotypes véhiculés dans la société. Y compris les plus répréhensibles, comme les stéréotypes sexistes ou racistes.  

Une blonde aux lèvres pulpeuses a toutes les chances d’être taxée de « superficielle » alors que le terme « négro » pourra s’inscrire sur le selfie d’un Noir. C’est ce qu’ont voulu dénoncer les initiateurs d’ImageNet Roulette.  

Sur le même sujet
Quotidien connecté
 
À la Une du Soir.be
 

Vos réactions

Règles de bonne conduite / Un commentaire abusif? Alertez-nous

Le choix de la rédaction
  1. La mort tragique de George Floyd, dont les manifestants scandent le nom - ici, en sit-in à Raleigh, en Caroline du Nord -, aura servi de catalyseur à une colère grandissante.

    Etats-Unis: un déferlement de violence, exutoire aux failles de la société

  2. 700 personnalités prônent une taxe sur les transactions financières, un recours aux moyens de la BCE et des banques et assurances pour financer la relance.

    «On peut financer la relance sans argent des Etats»

  3. Il y a quelques jours, le Bois de la Cambre a été partiellement rouvert au trafic des voitures.

    Après la solidarité, le partage?

La chronique
  • Après la solidarité, le partage?

    Il est des débats dont personne ne sort gagnant. Ni l’objet, ni les participants, ni les intéressés. Des refrains qui deviennent des ritournelles. Le disque s’use, s’enraye, s’épuise, et finalement se reprend et repart. La ritournelle… Celle de la fusion des polices locales bruxelloises, après certains faits divers, pas tous, sans que l’on sache vraiment pourquoi parce que ni le manque de dialogue ni l’absence de concertation entre zones n’est une cause identifiée du problème… Celle de la négation ou mise sous tutelle d’une Région qui n’en serait pas vraiment une lorsque Bruxelles se fait trop complexe, trop encombrante, trop entreprenante dans une politique d’enseignement, de culture ou de petite enfance. Celle d’une ville morcelée entre des baronnies, aux nobles seigneurs (les bourgmestres), privilégiant leur once de pouvoir à l’efficacité de l’action publique.

    Celle d’une capitale qui mériterait bien peu son titre, parce qu’inhospitalière pour les autres habitant(e)s du Royaume que les sien(ne)s, ingrate envers celles et ceux qui, au-delà de ses frontières, la font vivre. Ces couplets-...

    Lire la suite

  • Un baromètre pour regarder la crise économique dans les yeux

    La double peine, c’est ce que nous inflige le Covid-19 : les morts d’abord, les destructions d’emploi en vue. Deux terribles factures qui s’enchaînent : à peine venons-nous de quitter le pic du nombre de décès, des contaminations et de la crise sanitaire que nous plongeons dans le pire de la crise économique.

    Si nos systèmes de santé ont été confrontés à une pandémie sans précédent inattendue, impréparée et inédite, notre système économique, lui, fait face au défi le plus lourd depuis la Seconde...

    Lire la suite