Notice sur la « singularité technologique » dans l’encyclo-philo (2023).
Premières lignes :
L’expression « singularité technologique » ou « point de singularité technologique » désigne un événement spéculatif à venir, intimement lié au développement d’une authentique intelligence artificielle (désormais IA) et censé bouleverser l’ordre des choses.
On se souvient qu’Homère, au livre VIII de l’Iliade, mettait en scène le Dieu Héphaïstos concevant ce que l’on pourrait appeler (de manière sans doute anachronique) des « robots » humanoïdes conscients, des servantes artificielles faites pour assister leur maître et créateur. L’idée de parvenir à créer des machines réellement autonomes, pensantes, conscientes, capables de faire au moins autant de choses que les êtres humains, est donc loin d’être récente. Le sentiment qu’il y a urgence à ce sujet ou désastre imminent l’est en revanche beaucoup plus. Puisque la possibilité de créer et d’avoir l’usage de ces machines semble aujourd’hui à portée de main, et puisqu’une discipline bien établie – l’IA – semble œuvrer à cette fin, un certain nombre de questions (en particulier morales) se posent aujourd’hui à nous de manière pressante. La signature en 2015 d’une lettre ouverte alertant des dangers de l’IA par des grands noms de la discipline ou de la scène scientifique internationale (Stephen Hawking, Nick Bostrom, Stuart Russell, Max Tegmark, etc.) en témoigne. La dernière partie de cette lettre, consacrée aux « priorités de recherches à long terme », soulève justement la question de notre impréparation face à « la possibilité de machines superintelligentes ».