Des recherches non genrées en ligne mènent malgré tout à des résultats qui favorisent le point de vue masculin, selon une nouvelle étude réalisée par des chercheurs en psychologie. De plus, selon ces travaux produits par l’Université de New York, ces mêmes résultats ont un effet sur les internautes en favorisant les biais genrés et en influençant potentiellement les décisions en matière d’embauche.
Les résultats, publiés dans Proceedings of the National Academy of Sciences, font partie des nouveaux développements concernant la façon dont l’intelligence artificielle peut altérer nos perceptions et nos actions.
« On craint de plus en plus que les algorithmes utilisés par les systèmes d’IA contemporains produisent des résultats discriminatoires, présumément parce qu’ils sont formés à l’aide de données au sein desquelles sont enchâssés des biais sociétaux », mentionne Madalina Vlasceanu, la principale autrice de l’étude. « Il en résulte que leur utilisation par des humains peut entraîner la propagation, plutôt que la réduction, des disparités existantes. »
« Nos conclusions font pression pour un modèle d’IA éthique qui combine la psychologie humaine et des approches informatiques et sociologiques pour mettre l’accent sur la formation, le fonctionnement et la mitigation des biais algorithmiques », ajoute le coauteur David Amodio.
De son côté, Meredith Broussard, autrice d’Artificial Unintelligence : How Computers Misunderstand the World, juge que « certaines idées des années 1950 à propos du genre sont toujours bien présentes dans nos bases de données ».
Pour s’attaquer à la propagation des biais présents dans les systèmes d’IA, les chercheurs responsables de l’étude ont mené des travaux visant à déterminer si le degré d’inégalité au sein d’une société est transposable sous la forme de tendances en matière de biais dans les résultats fournis par l’algorithme et, le cas échéant, si l’exposition à de tels résultats pourrait influencer les décideurs humains, qui agiraient alors en fonction de ces biais.
Tout d’abord, les spécialistes se sont tournés vers le Global Gender Gap Index (GGGI), qui contient un classement des inégalités de genre dans plus de 150 pays. Cet indice représente l’ampleur des inégalités de genre en matière de participation et d’opportunités économiques, d’accès aux services d’éducation, de santé et d’espérance de vie, ainsi que d’opportunités politiques, le tout pour 153 nations.
Par la suite, pour évaluer s’il existait un biais genré dans les résultats de recherche, ou en termes de résultats algorithmiques, les chercheurs ont examiné si des mots faisant référence autant à un homme qu’à une femme, comme « personne », « étudiant » (student, en anglais, NDLR), ou encore « humain », étaient plus souvent perçus comme étant des mots liés à un homme.
Arrimer les perceptions et la réalité
Pour y parvenir, les scientifiques ont effectué des recherches d’images sur Google pour le mot « personne » au sein d’une nation (dans sa langue majoritaire), le tout pour 37 pays différents. Les résultats ont démontré que la proportion d’images masculines produites par ces recherches était plus élevée dans les pays avec une inégalité de genre plus prononcée, ce qui signifie que les biais algorithmiques correspondent aux biais sociétaux.
Les chercheurs ont répété l’expérience trois mois plus tard, avec un échantillon de 52 pays, y compris les 31 de la première phase de test. Les résultats s’inscrivaient dans la foulée des premiers travaux.
Mme Vlasceanu et M. Amodio ont par la suite voulu déterminer si l’exposition à de tels résultats algorithmiques peuvent altérer les perceptions des individus et leurs décisions, selon des méthodes qui correspondent aux inégalités sociales préexistantes.
Pour ce faire, ils ont effectué une série d’expériences impliquant près de 400 femmes et hommes américains.
Dans le cadre de ces tests, les participants se sont fait dire qu’ils voyaient les résultats Google Images pour quatre professions avec lesquelles ils étaient sans doute peu familiers : chandler, drapier, perruquier et lapidaire. La composition genrée des images correspondant à chaque profession était sélectionnée pour représenter les résultats de recherche pour représenter les résultats de recherche pour le mot-clé « personne » des nations ayant un indice d’inégalité élevé (environ 90 % d’hommes pour 10 % de femmes en Hongrie et Turquie), ainsi que les pays avec un faible indice d’inégalité (environ 50-50 en Islande ou en Finlande). Cela a permis aux chercheurs de copier les résultats de recherche dans différents pays.
Avant de visionner les résultats de recherche, les participants ont offert des jugements concernant le genre probable des membres des quatre professions, ce qui a permis d’évaluer leurs perceptions. D’ailleurs, les participants, hommes comme femmes, ont estimé que les membres de ces professions étaient davantage des hommes que des femmes.
Cependant, après s’être fait poser la même question après avoir visionné les résultats de recherche, les participants vivant dans des conditions plus équitables ont renversé leur vision du genre des membres des différentes professions, alors que ceux provenant de zones moins équitables ont au contraire maintenu leur perception genrée en faveur des hommes.
Par la suite, les chercheurs ont évalué l’impact possible des recherches en ligne sur l’embauche de travailleurs. À quel point des hommes et des femmes ont-ils des chances d’être retenus pour pratiquer les différents métiers examinés? À l’instar de l’étape précédente, les participants vivant dans des conditions plus égalitaires étaient davantage portés à estimer qu’autant d’hommes que de femmes pourraient être embauchés, alors que le déséquilibre en faveur des hommes s’est maintenu du côté des participants affectés par une égalité moins prononcée.
