Dans la saga des « Terminator », une intelligence artificielle supérieure nommée Skynet, née de l’interconnexion de tout un tas de réseaux et de logiciels, prend le pouvoir sur Terre et décide, pour commencer, d’en supprimer tous les humains jugés inutiles. Hier, une dépêche d’agence nous apprenait que nous venons de faire un pas de plus vers ce futur apocalyptique.
Des chercheurs travaillant pour Google ont réussi à apprendre à deux créatures virtuelles à communiquer entre elles dans un langage indéchiffrable qu’elles ont inventé de façon autonome. Le but initial était de faire tourner des algorithmes de réseaux neuronaux afin de tester des protocoles de sécurité. La machine A devait envoyer à la machine B un message crypté de sorte que la machine C soit incapable de le déchiffrer. Elles y sont parvenues, et c’est ce qui fait peur : personne ne sait ce qu’elles ont bien pu se dire, les humains qui les ont programmées étant eux-mêmes incapables de déchiffrer leur échange. Les informaticiens parlent d’une réussite. Vraiment ?
En 2014, interviewé par la BBC, Stephen Hawking a déclaré : « L’intelligence artificielle pourrait mettre fin à l’humanité ». Il a expliqué que créer une vraie intelligence artificielle serait le plus grand événement de l’histoire humaine, mais que ce serait aussi probablement le dernier. La raison en est simple : les humains, comme tous les êtres vivants, sont limités par une évolution extrêmement lente. Ce n’est pas le cas des logiciels adaptatifs, comme les réseaux de neurones. Les premiers de ces algorithmes ont été conçus il y a à peine quelques décennies, c’est-à-dire un battement de cil à l’échelle de l’apparition de la vie sur Terre. Ils en sont encore aux balbutiements, mais ils progressent des millions de fois plus vite que n’importe quel processus biologique d’adaptation.
A ce stade, ce qui vient d’arriver dans un labo de Google n’est qu’une expérience isolée. Mais on ne peut qu’imaginer avec quelle vitesse de tels projets pourraient échapper à tout contrôle, surtout s’ils se mettent à communiquer entre eux dans des langues qu’aucun humain ne comprend. L’infrastructure planétaire est déjà là (internet), les modes de transmission aussi (les virus). Quand des systèmes artificiels se mettent à dépasser les capacités des humains qui les ont programmés, c’est un pas de plus vers Skynet.