Êtes-vous un sex-symbol ou un meurtrier ? Cette app a la réponse !

Êtes-vous un sex-symbol ou un meurtrier ? Cette app a la réponse !

Postez un selfie ou une photo de vous et attendez le résultat. Comment ImageNet Roulette vous a-t-elle catégorisé(e) ? Un pilote d’avion ? Une prof de math ? Un aventurier ? Il y a peu de chances en tout cas pour que le résultat se soit approché de la vérité... C’est ce qu’ont voulu démontrer les créateurs de cette intelligence artificielle (IA) de reconnaissance d’images, actuellement exposée au musée Fondazione Prada de Milan. 

La preuve par l’exemple 

Les projections vont bon train quant au rôle que tiendra l’IA dans le futur. Lui demandera-t-on de prendre nos décisions ou de recruter pour nous ? Prendra-t-elle nos jobs ? Dans tous les cas, nous n’en sommes pas encore là tant la technologie reste pour l’instant imparfaite. Certes, grâce au machine learning, les robots sont désormais capables de reconnaître un objet sur une image. Mais pour ce qui est des humains, le chemin à parcourir est encore long. 

ImageNet Roulette se base sur ImageNet, une banque de données qu’utilisent les chercheurs en intelligence artificielle pour mener leurs travaux. Et le moins que l’on puisse dire, c’est que les résultats qu’elle génère en termes de catégorisation des êtres humains sont surprenants. Voire parfois même grotesques. En ce qui me concerne, au moment où j’écris cet article, je ressors comme quelqu’un d’excentrique et de... geek ! Peut-être parce que je porte des lunettes... 

Du drôle et du moins drôle 

Dans ce cas-ci, c’est risible. Mais parfois, c’est beaucoup moins drôle. Les profils à la mine trop boudeuse ou mal rasés par exemple sont facilement identifiés comme malhonnêtes, sans domicile ou même suspects de meurtre. Une sentence plutôt inquiétante, surtout quand on pense que l’IA sera sans doute utilisée un jour pour sélectionner le bon candidat à un poste, ou décider quelle sentence s’impose pour tel ou tel accusé.  

Heureusement, sur ImageNet Roulette, si on n’est pas satisfait du résultat, il suffit de recommencer la prise de vue en arborant un air plus jovial ou simplement en améliorant la résolution du cliché. En l’espace d’un clin d’œil, sans même changer de tenue, on peut ainsi passer de l’image d’un tueur en série à celle de sex-symbol, ou d’hystérique à celle de présentatrice de JT.  

Un miroir de la société 

Comment expliquer un tel grand écart ? Tout simplement parce que l’intelligence artificielle, entraînée grâce aux réponses de milliers d’humains, reflètent tous les stéréotypes véhiculés dans la société. Y compris les plus répréhensibles, comme les stéréotypes sexistes ou racistes.  

Une blonde aux lèvres pulpeuses a toutes les chances d’être taxée de « superficielle » alors que le terme « négro » pourra s’inscrire sur le selfie d’un Noir. C’est ce qu’ont voulu dénoncer les initiateurs d’ImageNet Roulette.  

Sur le même sujet
Quotidien connecté
 
À la Une du Soir.be
 

Vos réactions

Règles de bonne conduite / Un commentaire abusif? Alertez-nous

Le choix de la rédaction
  1. Le Premier ministre Alexander De Croo, retrouve, à ce stade, un rôle de coordonnateur.

    Reconfinement: le fédéral reprend la main avant de frapper plus fort

  2. Selon des avocats qui défendent plusieurs patrons de l’horeca, «
les arrêtés ministériels qui ont imposé les fermetures totales ou partielles des établissements violent certaines libertés fondamentales, comme la liberté de travail et de commerce et la Constitution
».

    Coronavirus: la gestion juridique de la crise critiquée

  3. Emmanuel Macron a infligé la douche froide que les Français redoutaient.

    Coronavirus: la France replonge en confinement

La chronique
  • Coronavirus – «La vie devant toi, jour 93»: le voyage

    Hier, il s’est passé un truc incroyable.

    On avait rendez-vous avec Kris, un super pote, du côté de la rue de Namur, à Bruxelles. On s’était dit qu’on se trouverait un petit café à emporter et puis qu’on irait se promener. Tant qu’on peut. C’est la phrase de la semaine, ça, « tant qu’on peut ».

    On est allés chez Tich mais c’était fermé. Alors on est allés chez Jat, en face. On a pris un cappuccino et un chocolat chaud et, dans la rue derrière – la rue Brederode –, on s’est assis sur un banc devant le nº10 qui est vraiment une jolie maison, genre la maison en pain d’épices d’Hansel et Gretel. N’allez pas voir sur Google Maps, tout le quartier a été flouté, une vraie purée de pois. A cause du Palais royal, sans doute.

    Donc on est là, tranquilles, chacun à un bout du banc. Kris est triste parce qu’on lui a volé son beau vélo. Et triste aussi parce que son métier, c’est voyager. Parcourir le monde de bout en bout, rentrer...

    Lire la suite

  • La détresse sanitaire générale force à l’union et au confinement

    Rien n’aurait pu empêcher l’épidémie qui frappe tous les pays européens aujourd’hui, et rien ou pas grand-chose ne pourra empêcher qu’elle sévisse encore avec une grande intensité jusqu’au printemps prochain et le retour de la chaleur. Cela nous laissera alors quelques mois pour trouver un vaccin et être, on l’espère, parés quand il reprendra vigueur à l’automne. Parce qu’il reprendra vigueur. Ces propos sont de l’épidémiologiste français Martin Blachier, conseiller de l’OMS et de la Commission européenne. L’interview qu’il nous accorde...

    Lire la suite