La diversité rend notre technologie plus intelligente !

La diversité rend notre technologie plus intelligente !

Omniprésents dans nos vies, les algorithmes sont partout. Netflix, Facebook, Tinder... les algorithmes que l’on trouve en intelligence artificielle régissent nos vies. Ils nous évaluent en nous attribuant des notes et, sans même que nous nous en rendions compte, prennent des décisions importantes à notre place. Des décisions qui ont un impact sur nos vies.  

De la recommandation de séries en fonction de nos goûts à la décision du prêt hypothécaire de la maison de nos rêves, en passant par le choix de notre futur compagnon, les algorithmes fonctionnent tous de la même manière. Ils sont constitués d’une suite d’instructions qui permet d’obtenir un résultat. 

Derrière leur côté supposément objectif, les algorithmes sont basés sur des critères qui ne font pas intervenir l’homme et par conséquent, nos émotions. Ils sont particulièrement pratiques pour prendre des décisions difficiles à notre place, comme par exemple désigner les personnes d’une entreprise à licencier. L’algorithme a fait son choix et l’homme obéit, sans se poser de questions. 

Et si les algorithmes avaient tort ? 

Lorsqu’on y regarde de plus près, les algorithmes sont en fait constitués d’instructions encodées par des ingénieurs, des mathématiciens ou encore des chercheurs, qui ont, comme tout le monde, des opinions et des idées préconçues qui ne reflètent pas toujours la réalité. Sur le plan humain, certes, les préjugés se révèlent parfois protecteurs et relèvent de notre instinct de survie, mais dans les algorithmes, ils engendrent des discriminations. 

La scène technologique est composée essentiellement des mêmes profils avec un manque en termes de diversité de genre, de génération et de culture. Ainsi, en Belgique, le secteur des nouvelles technologies est principalement dominé par des hommes, blancs, issus des classes moyennes et supérieures, et qui ont fait des études.   

Exemples de discrimination due aux algorithmes          

Prenez l’application de « dating » Tinder. En plus de lire nos messages pour nous évaluer sur notre intelligence et notre « désirabilité », celle-ci attribue des points « bonus » pour les hommes et des points « malus » pour les femmes pour des niveaux de carrière et de compétences équivalents.1 

Dans un autre registre, les femmes noires qui voyagent en avion aux Etats-Unis sont régulièrement victimes d’attouchements discriminatoires parce que les portiques de sécurité n’arrivent pas à scanner les tresses et les cheveux plus épais.2 Les agents de sécurité procèdent alors à des fouilles du cuir chevelu à la recherche d’objets dangereux. 

Finalement, l’Intelligence Artificielle (et les algorithmes qui la composent) n’est pas si intelligente que ça. Et si nous ne sommes pas vigilants, d’autres cas de discrimination se reproduiront encore et encore. La seule solution est de faire évoluer ces algorithmes et d’inclure plus de diversité dans le processus de développement des applications et des projets. 

Grâce à la diversité, la créativité sera favorisée, encourageant la recherche de nouvelles perspectives pour le projet, ce qui mènera à plus d’innovation et à une meilleure prise de décision. Il est fondamental aujourd’hui de comprendre ce qui se cache derrière ces algorithmes qui régissent nos vies et de les corriger afin de réduire les inégalités. Parce que, finalement, nous sommes tous victimes à un moment ou un autre de la décision arbitraire d’un algorithme. 

 

1 L'amour sous algorithme de Judith Duportail  

2 http://www.lefigaro.fr/international/2016/01/19/01003-20160119ARTFIG00239-la-fouille-des-cheveux-des-femmes-noires-dans-les-aeroports-americains-fait-polemique.php 

Sur le même sujet
Avis d'expert
 
À la Une du Soir.be
À découvrir sur Le Soir +
 

Vos réactions

Règles de bonne conduite / Un commentaire abusif? Alertez-nous

Le choix de la rédaction
  1. Platja d’Aro, près de Girona.

    Retour au confinement: la Belgique sur ses gardes

  2. Dans le monde entier, les scientifiques s’activent pour trouver le moyen de guérir ou prévenir le coronavirus.

    Immunité: comment l’organisme se défend contre le coronavirus

  3. Emmanuel Marill, directeur France et Belgique de l’entreprise américaine Airbnb, a licencié entre 20 et 25
% de ses effectifs.

    Les habitudes des Belges sur AirBNB: la campagne a la cote

La chronique
  • Lettre d’Europe: la pandémie s’éloigne, les questions climatiques restent

    Que la pandémie s’éloigne effectivement ou que les Européens s’habituent simplement à vivre avec elle, une chose est sûre : la lutte contre le changement climatique et ses conséquences dévastatrices sur nos vies reste notre plus grand défi.

    À Bruxelles, la Pologne va trouver sur la table des négociations le problème du CO2 car certains pays de l’Union européenne veulent que le Fonds pour une transition juste (avec, à la clé, 8 milliards d’euros pour la Pologne) soit accordé uniquement si Varsovie adhère à l’objectif européen de neutralité carbone fixé à 2050. Si, en décembre dernier, le gouvernement polonais est parvenu à retarder la décision, de nombreuses capitales européennes veulent aujourd’hui subordonner l’accord budgétaire à une décision claire de la Pologne sur la politique climatique communautaire.

    Cracovie la plus polluée

    Pourquoi, en Pologne, où près de la moitié de la...

    Lire la suite

  • Vacances, j’oublie tout? Euh non…

    À défaut de vaccin, voici donc une piqûre de rappel venue de Catalogne, mais aussi de Lombardie et de Vénétie : notre été 2020 n’est pas livré à l’insouciance mais sera en liberté surveillée. Avec plus que jamais dans les valises, outre les crèmes solaires, un indispensable sens des responsabilités pour ceux et celles qui décident de quitter leur domicile pour voyager en Belgique ou à l’étranger, mais aussi l’extrême vigilance des autorités publiques. Il faut en effet être assuré qu’un processus automatique et sans faille se déclenche...

    Lire la suite