Le Parlement européen a adopté l’AI Act*, loi européenne sur l’intelligence artificielle, unique au niveau mondial. Le texte édicte des règles pour encadrer les systèmes d’intelligence artificielle ; il est le résultat de mois de débats et de négociations. Car les craintes se font plus présentes et les alertes plus fortes avec l’apparition de machines capables de reproduire le travail humain en mieux, de créer des compositions artistiques, de reproduire les voix et les visages, de les identifier et les traquer partout, de faire la guerre. Aujourd’hui ces machines d’intelligence artificielle ont acquis des capacités remarquables non seulement pour manipuler mais aussi pour générer du langage, qu’il s’agisse de mots, de sons ou d’images. C’est le cas emblématique de ChatGPT, développé la start-up californienne OpenAI. Un seuil vient dès lors d’être franchi, événement qui fait dire au célèbre essayiste Yuval Noah Harari dans une tribune à The Economist : « l’intelligence artificielle a piraté le système d’exploitation de notre civilisation ». Nous en publions ici des extraits.

Le langage est la matière dont est faite la quasi-totalité de la culture humaine. Les droits de l’homme, par exemple, ne sont pas inscrits dans notre ADN. Il s’agit plutôt d’artefacts culturels que nous avons créés en racontant des histoires et en écrivant des lois. Les dieux ne sont pas des réalités physiques. Ce sont plutôt des artefacts culturels que nous avons créés en inventant des mythes et en écrivant des écritures.

L’argent est lui aussi un artefact culturel. Les billets de banque ne sont que des morceaux de papier colorés et, à l’heure actuelle, il s’agit simplement d’informations numériques stockées dans des ordinateurs. Ce qui donne de la valeur à l’argent, ce sont les histoires que les banquiers, les ministres des finances et les gourous de la crypto-monnaie nous racontent à son sujet. Ils sont souvent d’excellents conteurs.

Que se passera-t-il lorsqu’une intelligence non humaine deviendra meilleure que l’homme moyen pour raconter des histoires, composer des mélodies, dessiner des images et rédiger des lois et des écritures ? Lorsque les gens pensent à ChatGPT et à d’autres nouveaux outils d’intelligence artificielle, ils pensent d’abord aux écoliers qui utilisent l’intelligence artificielle pour rédiger leurs dissertations. Qu’arrivera-t-il au système scolaire lorsque les enfants feront cela ? Mais ce genre de question ne tient pas compte de la situation dans son ensemble. Oubliez les dissertations scolaires. Pensez à la prochaine course présidentielle américaine en 2024 et essayez d’imaginer l’impact des outils d’IA qui peuvent être utilisés pour produire en masse du contenu politique, des fausses nouvelles et des écritures pour de nouvelles sectes. Car il se pourrait qu’à l’avenir nous assistions à la naissance des premiers cultes dont les textes vénérés seraient rédigés par une intelligence non-humaine. Tout au long de l’histoire, les religions ont revendiqué une source non humaine pour leurs livres saints. Cela pourrait bientôt devenir une réalité.

Conversations intimes

Plus prosaïquement, nous pourrions bientôt nous retrouver à mener de longues discussions en ligne sur l’avortement, le changement climatique ou l’invasion russe de l’Ukraine avec des entités que nous pensons être des humains, mais qui sont en réalité des IA. Or l’IA pourrait affiner ses messages avec une telle précision qu’elle aurait de bonnes chances de nous influencer.

Grâce à sa maîtrise du langage, l’IA pourrait même nouer des relations intimes avec les gens et utiliser le pouvoir de l’intimité pour changer nos opinions et nos visions du monde. Dans une bataille politique pour les esprits et les cœurs, l’intimité est l’arme la plus efficace, et l’IA vient d’acquérir la capacité de produire en masse des relations intimes avec des millions de personnes. Nous savons tous qu’au cours de la dernière décennie, les médias sociaux sont devenus un champ de bataille pour le contrôle de l’attention humaine. Avec la nouvelle génération d’IA, le champ de bataille se déplace de l’attention à l’intimité. Qu’adviendra-t-il de la société et de la psychologie humaines lorsque les IA se battront contre les IA pour créer de fausses relations intimes avec nous, qui pourront ensuite être utilisées pour nous convaincre de voter pour tel ou tel politicien ou d’acheter tel ou tel produit ?

Même sans créer de « fausse intimité », les nouveaux outils de l’IA auront une influence considérable sur nos opinions et nos visions du monde. Pourquoi s’embêter à chercher, alors qu’il suffit de demander à l’oracle ? Les secteurs de l’information et de la publicité devraient être terrifiés. Pourquoi lire un journal quand je peux demander à l’oracle de me donner les dernières nouvelles ? Et à quoi servent les publicités, alors que je peux simplement demander à l’oracle de me dire quoi acheter ?

La fin de l’histoire de l’humanité

Et même ces scénarios ne rendent pas vraiment compte de la situation dans son ensemble. Ce dont nous parlons, c’est potentiellement la fin de l’histoire de l’humanité. Non pas la fin de l’histoire, mais la fin de sa partie dominée par l’homme. L’histoire est l’interaction entre la biologie et la culture, entre nos besoins biologiques et nos désirs pour des choses comme la nourriture et le sexe, et nos créations culturelles comme les religions et les lois. L’histoire est le processus par lequel les lois et les religions façonnent la nourriture et le sexe.

Qu’adviendra-t-il du cours de l’histoire lorsque l’IA s’emparera de la culture et commencera à produire des histoires, des mélodies, des lois et des religions ? Les outils précédents, tels que l’imprimerie et la radio, ont contribué à diffuser les idées culturelles des humains, mais ils n’ont jamais créé de nouvelles idées culturelles propres. L’IA est fondamentalement différente. L’IA peut créer des idées complètement nouvelles, une culture complètement nouvelle.

Au début, l’IA imitera probablement les prototypes humains sur lesquels elle a été formée à ses débuts. Mais au fil des années, la culture de l’IA ira audacieusement là où aucun humain n’est allé auparavant. Pendant des millénaires, les êtres humains ont vécu dans les rêves d’autres humains. Dans les décennies à venir, nous pourrions nous retrouver à vivre dans les rêves d’une intelligence artificielle.

La peur des illusions

La peur de l’IA n’a hanté l’humanité qu’au cours des dernières décennies. Mais depuis des milliers d’années, les humains sont hantés par une peur bien plus profonde. Nous avons toujours apprécié le pouvoir des histoires et des images pour manipuler notre esprit et créer des illusions. Par conséquent, depuis l’Antiquité, l’homme craint d’être piégé dans un monde d’illusions. Au XVIIe siècle, Descartes craignait qu’un démon malveillant ne l’enferme dans un monde d’illusions, créant tout ce qu’il voyait et entendait. Dans la Grèce antique, Platon a raconté la célèbre Allégorie de la caverne, dans laquelle un groupe de personnes est enchaîné à l’intérieur d’une caverne toute leur vie, face à un mur vide. Un écran. Sur cet écran, ils voient projetées diverses ombres. Les prisonniers prennent les illusions qu’ils y voient pour la réalité.

Dans l’Inde ancienne, les sages bouddhistes et hindous ont souligné que tous les humains vivaient piégés dans le monde de Maya, le monde des illusions. Ce que nous prenons normalement pour la réalité n’est souvent qu’une fiction dans notre propre esprit. Des personnes peuvent mener des guerres entières, tuer d’autres personnes et accepter d’être tuées elles-mêmes, parce qu’elles croient en telle ou telle illusion.

La révolution de l’IA nous confronte au démon de Descartes, à la caverne de Platon, à la Maya. Si nous n’y prenons garde, nous risquons d’être piégés derrière un rideau d’illusions que nous ne pourrons pas arracher – ou dont nous ne pourrons même pas nous rendre compte qu’il existe.

Le bien et le mal

Bien sûr, le nouveau pouvoir de l’intelligence artificielle pourrait également être utilisé à des fins positives. Inutile de s’attarder sur ce point, car ceux qui développent l’IA en parlent suffisamment. Mais il est certain que l’intelligence artificielle peut nous aider d’innombrables façons, qu’il s’agisse de trouver de nouveaux traitements contre le cancer ou des solutions à la crise écologique. La question qui se pose est de savoir comment s’assurer que les nouveaux outils de l’intelligence artificielle sont utilisés pour le bien plutôt que pour le mal. Pour ce faire, nous devons d’abord apprécier les véritables capacités de ces outils.

Depuis 1945, nous savons que la technologie nucléaire peut produire de l’énergie bon marché au profit des humains, mais qu’elle peut aussi détruire physiquement la civilisation humaine. Nous avons donc remodelé l’ensemble de l’ordre international afin de protéger — jusqu’à présent — l’humanité et de veiller à ce que la technologie nucléaire soit utilisée principalement pour le bien. Aujourd’hui, nous devons faire face à une nouvelle arme de destruction massive qui peut anéantir notre monde mental et social.

Nous pouvons encore réglementer les nouveaux outils informatiques comme tente de le faire l’Europe avec le vote sur l’AI Act*, mais nous devons agir rapidement. Alors que les armes nucléaires ne peuvent pas inventer des armes nucléaires plus puissantes, l’intelligence artificielle peut créer une intelligence artificielle exponentiellement plus puissante.

Les déploiements non réglementés de l’intelligence artificielle créeraient un chaos social qui profiterait aux autocrates et ruinerait les démocraties. La démocratie est une conversation, et les conversations reposent sur le langage. Si l’intelligence artificielle pirate le langage, elle risque d’anéantir notre capacité à avoir des conversations constructives, et donc de détruire la démocratie. Nous devrions réglementer l’intelligence artificielle avant qu’elle ne nous réglemente. Et la première réglementation serait d’obliger l’IA à révéler qu’elle est une IA. Si je suis en train de discuter avec quelqu’un et que je ne peux pas savoir s’il s’agit d’un humain ou d’une IA, c’est la fin de la démocratie.

Ce texte a été généré par un humain.

L’image d’en-tête a été créée par une IA

Yuval Noah Harari est historien, philosophe et auteur de « Sapiens », « Homo Deus » et de la série pour enfants « Unstoppable Us ». Il est chargé de cours au département d’histoire de l’Université hébraïque de Jérusalem et cofondateur de Sapienship, une entreprise à impact social.

Sa tribune originale a été publiée dans The Economist

Droit de réponse d’une IA

Nous avons interrogé ChatGPT, la célèbre IA de génération de contenu sur le sujet de cet article : ChatGPT est-il un danger pour la civilisation humaine ?

Sa réponse est la suivante :

« La question de savoir si ChatGPT ou d’autres technologies d’intelligence artificielle avancées représentent un danger pour la civilisation humaine est complexe et suscite de vifs débats. D’une part, des technologies comme ChatGPT ont le potentiel de transformer positivement de nombreux aspects de la société, en améliorant l’accès à l’information, en facilitant l’apprentissage, en optimisant les processus industriels et en contribuant à des innovations dans des domaines tels que la santé et l’environnement.

D’autre part, il y a des préoccupations légitimes concernant les risques associés à l’intelligence artificielle, notamment en ce qui concerne la désinformation, la vie privée, la sécurité des données, l’automatisation de l’emploi, et la possibilité que des systèmes d’IA très avancés puissent un jour agir d’une manière non alignée avec les intérêts humains. De plus, l’impact de l’IA sur la dynamique sociale, économique et politique soulève des questions éthiques importantes.

La clé pour naviguer dans cet avenir potentiellement incertain réside dans la gouvernance, la régulation, et l’élaboration de principes éthiques solides qui guident le développement et l’application de l’IA. Cela implique une collaboration internationale entre les gouvernements, les entreprises, les chercheurs en IA, et la société civile pour s’assurer que l’IA soit développée de manière responsable et bénéfique pour l’humanité.

En somme, ChatGPT, comme toute technologie puissante, présente à la fois des opportunités et des défis. La manière dont nous choisissons de développer, réguler, et intégrer ces technologies dans notre société déterminera si elles deviendront un danger ou un outil précieux pour la civilisation humaine. »