La diversité rend notre technologie plus intelligente !

La diversité rend notre technologie plus intelligente !

Omniprésents dans nos vies, les algorithmes sont partout. Netflix, Facebook, Tinder... les algorithmes que l’on trouve en intelligence artificielle régissent nos vies. Ils nous évaluent en nous attribuant des notes et, sans même que nous nous en rendions compte, prennent des décisions importantes à notre place. Des décisions qui ont un impact sur nos vies.  

De la recommandation de séries en fonction de nos goûts à la décision du prêt hypothécaire de la maison de nos rêves, en passant par le choix de notre futur compagnon, les algorithmes fonctionnent tous de la même manière. Ils sont constitués d’une suite d’instructions qui permet d’obtenir un résultat. 

Derrière leur côté supposément objectif, les algorithmes sont basés sur des critères qui ne font pas intervenir l’homme et par conséquent, nos émotions. Ils sont particulièrement pratiques pour prendre des décisions difficiles à notre place, comme par exemple désigner les personnes d’une entreprise à licencier. L’algorithme a fait son choix et l’homme obéit, sans se poser de questions. 

Et si les algorithmes avaient tort ? 

Lorsqu’on y regarde de plus près, les algorithmes sont en fait constitués d’instructions encodées par des ingénieurs, des mathématiciens ou encore des chercheurs, qui ont, comme tout le monde, des opinions et des idées préconçues qui ne reflètent pas toujours la réalité. Sur le plan humain, certes, les préjugés se révèlent parfois protecteurs et relèvent de notre instinct de survie, mais dans les algorithmes, ils engendrent des discriminations. 

La scène technologique est composée essentiellement des mêmes profils avec un manque en termes de diversité de genre, de génération et de culture. Ainsi, en Belgique, le secteur des nouvelles technologies est principalement dominé par des hommes, blancs, issus des classes moyennes et supérieures, et qui ont fait des études.   

Exemples de discrimination due aux algorithmes          

Prenez l’application de « dating » Tinder. En plus de lire nos messages pour nous évaluer sur notre intelligence et notre « désirabilité », celle-ci attribue des points « bonus » pour les hommes et des points « malus » pour les femmes pour des niveaux de carrière et de compétences équivalents.1 

Dans un autre registre, les femmes noires qui voyagent en avion aux Etats-Unis sont régulièrement victimes d’attouchements discriminatoires parce que les portiques de sécurité n’arrivent pas à scanner les tresses et les cheveux plus épais.2 Les agents de sécurité procèdent alors à des fouilles du cuir chevelu à la recherche d’objets dangereux. 

Finalement, l’Intelligence Artificielle (et les algorithmes qui la composent) n’est pas si intelligente que ça. Et si nous ne sommes pas vigilants, d’autres cas de discrimination se reproduiront encore et encore. La seule solution est de faire évoluer ces algorithmes et d’inclure plus de diversité dans le processus de développement des applications et des projets. 

Grâce à la diversité, la créativité sera favorisée, encourageant la recherche de nouvelles perspectives pour le projet, ce qui mènera à plus d’innovation et à une meilleure prise de décision. Il est fondamental aujourd’hui de comprendre ce qui se cache derrière ces algorithmes qui régissent nos vies et de les corriger afin de réduire les inégalités. Parce que, finalement, nous sommes tous victimes à un moment ou un autre de la décision arbitraire d’un algorithme. 

 

1 L'amour sous algorithme de Judith Duportail  

2 http://www.lefigaro.fr/international/2016/01/19/01003-20160119ARTFIG00239-la-fouille-des-cheveux-des-femmes-noires-dans-les-aeroports-americains-fait-polemique.php 

Sur le même sujet
Avis d'expert
 
À la Une du Soir.be
À découvrir sur Le Soir +
 

Vos réactions

Règles de bonne conduite / Un commentaire abusif? Alertez-nous

Le choix de la rédaction
  1. «On sait que l’épidémie fait des ravages au Brésil mais dans quelle mesure le variant est en cause alors que les mesures sanitaires sont inexistantes, que les hôpitaux débordent et que la médication vient à manquer?» s’interroge Yves Van Laethem. © Reuters.

    Coronavirus: dominant en Belgique, le variant britannique fait, pour l’instant, barrage à ses rivaux

  2. belgaimage-171378034-full

    Coronavirus: les voyages hors Union européenne ne sont plus interdits

  3. La semaine du 26 avril risque d’être une semaine culturelle mouvementée...

    Culture: protestations en vue et action en justice

La chronique
  • Les parcs, ces lieux essentiels

    C’est l’envers du décor urbain, plutôt dense, souvent bruyant, parfois chaotique… Entre le quartier Nord, désert bureaucratique, et Laeken, royalement grouillante, une oasis de calme et de verdure. Rien d’un mirage, dix hectares de parc. Appellation vernaculaire : Tour et Taxis. Car c’est là qu’il démarre, sur fond de Manhattan bruxellois ; le décor, hérité de Couleur Café, donne aux larges pelouses une petite touche américaine. De l’espace, au naturel, vert teinté de sauvage. Ça joue de la bombe aérosol ou de la batte de cricket, ça fonce ou ça chipote sur deux roues, parfois trois. Ça s’agglutine un chouïa au pied de l’Obélisque des droits humains… Une entorse aux règles covid (la bière, le masque, la bulle…) qui sonne comme un hommage à la Déclaration universelle des droits de l’homme, un écho, aussi, aux propos de Françoise Tulkens, ancienne juge à la Cour européenne des droits de l’homme, qui, lorsque l’ex-ministre Céline Fremault (CDH) l’avait sollicitée comme caution de ce projet, insistait « les articles de cette Déclaration...

    Lire la suite

  • Nous ne sommes pas égales devant le virus

    J’en ai vraiment assez, mais bon, moi, je ne peux pas encore me plaindre. » Cette phrase, nous l’avons souvent entendue au cours des derniers mois, nous l’avons même prononcée. Parce que nous avions la chance de passer ce confinement avec un salaire, un jardin, un vaste appartement, pas d’enfants à la crèche ou scolarisés, pas de maladies graves.

    Le filtre du « genre »

    Aujourd’hui, l’analyse des impacts...

    Lire la suite