Plus les participants de l’étude croyaient les stéréotypes sur l’intelligence, plus ils jugeaient que les femmes ou les personnes noires brillantes étaient peu répandues dans la vraie vie.
Browsing: biais
« Les gens disent « pas moi! », mais il appert qu’à l’instar de plusieurs autres travaux de recherche en psychologie, il s’agit en fait d’un problème largement répandu à travers l’ensemble des partis politiques, ainsi qu’à travers une bonne partie du spectre en matière d’éducation. Le problème, ce n’est pas seulement la désinformation, mais les filtres de notre propre esprit. En fait, l’enjeu est peut-être même surtout de ce côté. »
« Cela démontre qu’une fois que les gens auront accès à un tel algorithme, ils s’appuieraient sur celui-ci et pourraient changer leur comportement. Si l’algorithme soutient que quelque chose est un mensonge, les gens sont prêts à abonder dans ce sens. Cela est inquiétant, et cela démontre que nous devrions être prudents avec cette technologie. »
« En ce moment, nous avons un problème avec ces modèles, qui sont non seulement biaisés, mais proposent aussi de la désinformation. Cependant, il existe un grand potentiel démocratique pour les citoyens, si nous sommes en mesure d’améliorer les modèles langagiers afin d’offrir des réponses nuancées et de l’information exacte. »
Puisqu’il s’agirait d’aider à prendre des décisions politiques, des enjeux délicats s’ajoutent: les « conseils » de l’IA pourraient-ils être influencés par les intentions de ceux qui l’ont programmée?
À cause du mode même de fonctionnement de l’IA, qui consiste à la nourrir d’immenses bases de données, ces biais reflètent ceux qui, conscients ou inconscients, existent dans notre société, se retrouvent donc dans ces bases de données, et chez les programmeurs.
« Si l’impact des systèmes d’IA injustes a déjà été largement documenté, que ce soit des logiciels de recrutement qui favorisent les hommes, aux programmes de reconnaissance faciale qui sont moins efficaces pour les femmes noires que pour les hommes blancs, le danger représenté par les voitures sans conducteur est très important. »
« La plupart des gens ne comprennent pas complètement comment le système fonctionne, puisque les géants du web ne dévoilent pas les rouages de leurs algorithmes. »
Les chercheurs affirment que leur outil d’analyse sera rendu disponible gratuitement, en plus d’être relativement facile à utiliser pour le public, en venant ainsi « démocratiser la surveillance ».
D’autres variations du test employé amènent ainsi les chercheurs à conclure que le degré de confiance en soi semble affecter la fiabilité de la mémoire à court terme.
