Cryptographie: ceci n’est pas Terminator

Agence Science-Presse

Deux ordinateurs auraient inventé un langage que personne ne comprend? Pas vraiment. Ils ont appris à protéger leurs communications. Ce qui, dans le vaste monde de l’informatique, n’est pas la même chose.

C’est une nouvelle provenant de la cryptographie qui en a fait frémir plus d’un ces derniers jours. À en croire certaines sources, on aurait pu se croire transporté dans un univers de science-fiction où un ordinateur central était sur le point de prendre le contrôle de la planète.

Plus prosaïquement, deux chercheurs, Martin Abadi et David G. Andersen, de l’équipe Google Brain, révèlent dans un article publié sur ArXiv le 24 octobre avoir programmé deux réseaux de neurones artificiels — ou deux algorithmes, Alice et Bob. Ce « duo » a été programmé de manière à pouvoir essentiellement faire une chose: communiquer entre eux. Mais avec une condition: qu’ils s’efforcent de communiquer sans qu’un troisième algorithme, appelé Eve, ne puisse les décoder.

Ce qui a été fait: l’un envoyait à l’autre un message encodé, avec la clef de décodage. Au début — pendant à peu près les 7000 premières tentatives — ni Bob ni Eve n’étaient capables de déchiffrer les messages d’Alice. Petit à petit, à force d’essais et d’erreurs, la clef de Bob — avec un peu d’aide des programmeurs — lui a permis d’établir suffisamment de corrélations avec les messages d’Alice pour que son taux de réussite grimpe en flèche. Après 15 000 messages, Bob et Alice communiquaient en clair, tandis qu’Eve n’était plus capable de suivre.

Il est toutefois difficile de parler d’un apprentissage « autonome » puisqu’un grand esprit au-dessus d’eux — le programmeur — leur donnait une « bonne note » ou une « mauvaise note » si plus de la moitié des réponses était vraie ou fausse. Par ailleurs, il est difficile de parler d’un langage, comme certains journalistes l’ont écrit: si l’expéditeur remplace un nombre comme 011 par une séquence comme 11 010 101, cela exige de la part du récepteur un long travail de décodage, mais n’en fait pas pour autant une nouvelle langue. Comme l’a écrit sur son blogue l’expert en sécurité informatique Bruce Schneier: « cette histoire concerne plus l’intelligence artificielle et les réseaux de neurones que la cryptographie… N’importe qui peut concevoir un chiffrement qu’il n’est pas capable de casser lui-même. »

Enfin, Alice et Bob en sont arrivés à ce résultat parce qu’ils étaient programmés pour viser en priorité le secret, plutôt que le message. Il n’y a aucune motivation autonome de leur part, par exemple pour dialoguer sur la météo ou la qualité de la transmission.

Quant aux éventuelles implications pour des services secrets qui espéreraient mettre au point une méthode d’encodage indéchiffrable, elles ne sont pas évidentes: rien ne permet de garantir que la façon dont les algorithmes ont procédé pour se « comprendre » serait reproductible.