« S’il est important de s’attaquer au potentiel de dérive existant, comme la création de fausses nouvelles et l’augmentation du risque de fraude, il serait prématuré de faire adopter des lois s’appuyant sur des menaces existentielles présumées. »
Browsing: intelligence artificielle
« Ce qui rend CICERO si bon à Diplomacy, c’est que l’IA a enregistré un grand nombre de parties, et sait donc comment jouer. L’ordinateur peine à être vraiment convainquant ou vraiment retors, et ne réagit pas vraiment à ce que disent les autres joueurs. »
Au dire des auteurs des travaux, la plupart des études portant sur l’IA capable de jouer aux échecs se concentrent sur le fait de jouer des coups augmentant les chances de gagner. Mais cela ne permet pas toujours d’avoir des parties intéressantes.
Si l’ordinateur ne possède pas d’existence légale et ne peut être « propriétaire » d’un bien, comment lui imposer une peine au civil? Et comment la « punir » au criminel, puisqu’elle ne peut être menacée d’emprisonnement, se demande le chercheur.
« Nous avons testé cet effet dans huit catégories de produits et services, et les résultats étaient les mêmes à chaque fois: c’est se mettre en position désavantageuse que d’inclure ce genre de termes dans des descriptions. »
« En gros, nos résultats laissent entendre que malgré l’effet bénéfique de l’IA générative sur la créativité individuelle, il est peut-être nécessaire d’offrir une mise en garde, si ce genre de systèmes d’IA est employé plus largement pour accomplir des tâches créatives. »
« Cela démontre qu’une fois que les gens auront accès à un tel algorithme, ils s’appuieraient sur celui-ci et pourraient changer leur comportement. Si l’algorithme soutient que quelque chose est un mensonge, les gens sont prêts à abonder dans ce sens. Cela est inquiétant, et cela démontre que nous devrions être prudents avec cette technologie. »
« Si les gens sentent qu’ils n’ont pas d’autonomie, ils ne seront pas heureux. »
Melissa Malzkuhn, qui enseigne à l’Université Gallaudet de Washington, une institution pour les sourds et malentendants, voit du potentiel dans ce travail, même si elle qualifie certaines des traductions réalisées par l’IA « d’inintelligibles ».
La question de la sécurité des habitants se pose, mais aussi celle des priorités: considérant le nombre énorme de terrains à déminer, les premiers ciblés sont ceux suffisamment loin du front pour être réutilisables à des fins agricoles.
