Êtes-vous un sex-symbol ou un meurtrier ? Cette app a la réponse !

Êtes-vous un sex-symbol ou un meurtrier ? Cette app a la réponse !

Postez un selfie ou une photo de vous et attendez le résultat. Comment ImageNet Roulette vous a-t-elle catégorisé(e) ? Un pilote d’avion ? Une prof de math ? Un aventurier ? Il y a peu de chances en tout cas pour que le résultat se soit approché de la vérité... C’est ce qu’ont voulu démontrer les créateurs de cette intelligence artificielle (IA) de reconnaissance d’images, actuellement exposée au musée Fondazione Prada de Milan. 

La preuve par l’exemple 

Les projections vont bon train quant au rôle que tiendra l’IA dans le futur. Lui demandera-t-on de prendre nos décisions ou de recruter pour nous ? Prendra-t-elle nos jobs ? Dans tous les cas, nous n’en sommes pas encore là tant la technologie reste pour l’instant imparfaite. Certes, grâce au machine learning, les robots sont désormais capables de reconnaître un objet sur une image. Mais pour ce qui est des humains, le chemin à parcourir est encore long. 

ImageNet Roulette se base sur ImageNet, une banque de données qu’utilisent les chercheurs en intelligence artificielle pour mener leurs travaux. Et le moins que l’on puisse dire, c’est que les résultats qu’elle génère en termes de catégorisation des êtres humains sont surprenants. Voire parfois même grotesques. En ce qui me concerne, au moment où j’écris cet article, je ressors comme quelqu’un d’excentrique et de... geek ! Peut-être parce que je porte des lunettes... 

Du drôle et du moins drôle 

Dans ce cas-ci, c’est risible. Mais parfois, c’est beaucoup moins drôle. Les profils à la mine trop boudeuse ou mal rasés par exemple sont facilement identifiés comme malhonnêtes, sans domicile ou même suspects de meurtre. Une sentence plutôt inquiétante, surtout quand on pense que l’IA sera sans doute utilisée un jour pour sélectionner le bon candidat à un poste, ou décider quelle sentence s’impose pour tel ou tel accusé.  

Heureusement, sur ImageNet Roulette, si on n’est pas satisfait du résultat, il suffit de recommencer la prise de vue en arborant un air plus jovial ou simplement en améliorant la résolution du cliché. En l’espace d’un clin d’œil, sans même changer de tenue, on peut ainsi passer de l’image d’un tueur en série à celle de sex-symbol, ou d’hystérique à celle de présentatrice de JT.  

Un miroir de la société 

Comment expliquer un tel grand écart ? Tout simplement parce que l’intelligence artificielle, entraînée grâce aux réponses de milliers d’humains, reflètent tous les stéréotypes véhiculés dans la société. Y compris les plus répréhensibles, comme les stéréotypes sexistes ou racistes.  

Une blonde aux lèvres pulpeuses a toutes les chances d’être taxée de « superficielle » alors que le terme « négro » pourra s’inscrire sur le selfie d’un Noir. C’est ce qu’ont voulu dénoncer les initiateurs d’ImageNet Roulette.  

Sur le même sujet
Quotidien connecté
 
À la Une du Soir.be
 

Vos réactions

Règles de bonne conduite / Un commentaire abusif? Alertez-nous

Le choix de la rédaction
  1. Il n’y a pas actuellement deux centres de dépistage où le fonctionnement du testing est identique. © Belga / Eric Lalmand

    Coronavirus: il suffira (bientôt) d’un SMS pour se faire tester

  2. Les dégâts ont été indescriptibles dans la capitale du Liban.

    Beyrouth: comment le nitrate d’ammonium peut se transformer en dangereux explosif

  3. Le président Bouchez s’astreint à un certain silence ne donnant plus d’interview et ne se répandant plus sur les réseaux sociaux. Histoire d’éviter toute polémique dommageable. © Pierre-Yves Thienpont

    Négociations fédérales: les libéraux soignent leurs bleus, attendant de revenir au jeu

La chronique
  • Lettre d’Europe: pour le climat, un objectif de papier mais des mesures insuffisantes en Belgique

    Comme la plupart des pays d’Europe, la Belgique connaîtra une forte baisse de ses émissions de gaz à effet de serre suite au ralentissement économique causé par la crise du Covid-19. Selon le Bureau du Plan, organisme indépendant d’intérêt public qui réalise des études et de la prospective, elles devraient plonger de 13 % entre 2019 et 2020. Mais le répit sera de courte durée : elles devraient ensuite se redresser. A tel point que, selon les experts du Plan, la baisse enregistrée entre 2019 et 2025 ne devrait être finalement que de 5 %.

    Si elle se vérifie, cette trajectoire ne permettra pas à la Belgique d’atteindre son objectif de réduction : -35 % par rapport à 2005 dans le secteur non-industriel (non-ETS, en jargon). Mais les prévisions du Plan ont ceci de particulier qu’elles sont réalisées « à politiques inchangées ». Les experts n’intègrent dans leurs calculs que les décisions prises et en...

    Lire la suite

  • Ras-le-bol? Est-ce vraiment bien le moment?

    L’adhésion à la lutte contre le Covid est-elle en train de filer entre les doigts des autorités politiques et sanitaires ? Pas de sondage encore, mais des impressions recueillies ici et là, une fatigue lancinante, un ras-le-bol qui va crescendo alors que paradoxalement la pandémie rebondit.

    Face au Covid, la communication politique et scientifique est cruciale.

    Elle doit convaincre du bien-fondé de l’effort collectif et individuel. Mais à quoi servent...

    Lire la suite