Selon les auteurs des travaux, les modèles langagiers ont eu besoin d’environ 1,6 seconde pour comprendre la commande d’un passager, ce qui est considéré comme acceptable, dans un contexte non-urgent, « mais qui devrait être amélioré pour les situations où un véhicule doit réagir plus vite ».
« Je crois que nous devrions nous inquiéter de toute technologie qui est capable de mentir sur ses capacités, puisque cela pourrait mener à de la manipulation des utilisateurs, peut-être même d’une façon jamais prévue par cet utilisateur, ou encore même les développeurs. »
Oui, on peut dépenser 1100$ pour un téléphone intelligent qui est rapide, puissant, dispose d’un écran clair, prend de très bonnes photos. Mais le consommateur n’a franchement rien à gagner à sortir le chéquier pour une série de services numériques qui semblent tenir davantage de l’esbrouffe que de la véritable innovation.
« S’il est important de s’attaquer au potentiel de dérive existant, comme la création de fausses nouvelles et l’augmentation du risque de fraude, il serait prématuré de faire adopter des lois s’appuyant sur des menaces existentielles présumées. »
« Ce qui rend CICERO si bon à Diplomacy, c’est que l’IA a enregistré un grand nombre de parties, et sait donc comment jouer. L’ordinateur peine à être vraiment convainquant ou vraiment retors, et ne réagit pas vraiment à ce que disent les autres joueurs. »
Au dire des auteurs des travaux, la plupart des études portant sur l’IA capable de jouer aux échecs se concentrent sur le fait de jouer des coups augmentant les chances de gagner. Mais cela ne permet pas toujours d’avoir des parties intéressantes.
Si l’ordinateur ne possède pas d’existence légale et ne peut être « propriétaire » d’un bien, comment lui imposer une peine au civil? Et comment la « punir » au criminel, puisqu’elle ne peut être menacée d’emprisonnement, se demande le chercheur.
« Nous avons testé cet effet dans huit catégories de produits et services, et les résultats étaient les mêmes à chaque fois: c’est se mettre en position désavantageuse que d’inclure ce genre de termes dans des descriptions. »
« En gros, nos résultats laissent entendre que malgré l’effet bénéfique de l’IA générative sur la créativité individuelle, il est peut-être nécessaire d’offrir une mise en garde, si ce genre de systèmes d’IA est employé plus largement pour accomplir des tâches créatives. »
« Cela démontre qu’une fois que les gens auront accès à un tel algorithme, ils s’appuieraient sur celui-ci et pourraient changer leur comportement. Si l’algorithme soutient que quelque chose est un mensonge, les gens sont prêts à abonder dans ce sens. Cela est inquiétant, et cela démontre que nous devrions être prudents avec cette technologie. »
