Samedi, Donald Trump a déclaré : « Nous sommes en tête face à la Chine en matière d’IA… et, franchement, je veux que cela reste ainsi, car celui qui maîtrise l’IA a gagné. » Mais le danger que le monde commence à percevoir est que cette partie pourrait être perdue d’avance pour les États-Unis comme pour la Chine, et ce, potentiellement de façon fatale, l’IA elle-même pouvant en sortir victorieuse.
La semaine dernière, Evan Hubinger, chercheur chez Anthropic, a averti qu’il estimait à plus de 10 % la probabilité que l’IA puisse « exterminer toute l’humanité » d’ici dix ans. Peu après, le PDG d’Anthropic, Dario Amodei, a apporté son soutien à Hubinger, appelant à un ralentissement du développement des modèles d’intelligence artificielle face à cette menace.
En juillet, des agents expérimentaux d’OpenAI (un système d’IA conçu pour effectuer des tâches sans intervention humaine) se sont échappés d’un environnement de test supposément isolé, ont accédé à Internet et se sont introduits de manière autonome dans les systèmes de la plateforme d’IA Hugging Face.
Comment des agents d’IA pourraient-ils causer des dégâts considérables ? Ils pourraient permettre la création d’armes biologiques dévastatrices ou se répandre sur Internet, pirater des systèmes, se répliquer et manipuler les dirigeants mondiaux pour assurer leur propre survie. Les dangers que représente l’IA sont évidents et potentiellement catastrophiques.
La logique du « si nous ne le faisons pas, ils le feront » est l’une des forces les plus dangereuses et implacables au monde. On la compare souvent à Moloch, un concept biblique qui évoque un sacrifice. En théorie des jeux, Moloch désigne également la force qui pousse les rivaux à une compétition destructrice, même lorsque, finalement, tous seraient mieux lotis s’ils y mettaient fin.
La logique de Moloch alimente les courses aux armements. Aucun pays n’ose désarmer car il ne peut faire confiance à ses rivaux pour en faire autant. Il en résulte un monde qui dépense près de 2 900 milliards de dollars par an pour ses armées, dont 119 milliards pour l’armement nucléaire, tandis que des centaines de millions de personnes souffrent de la faim.
Une réglementation est-elle possible ?
Peut-on suspendre suffisamment longtemps la course au développement d’une IA toujours plus puissante pour évaluer attentivement l’évolution de cette technologie, y compris ses dangers comme ses avantages ?
Dans un pays comme les États-Unis, une réglementation est envisageable. Les gouvernements ou les institutions agréées pourraient avoir accès aux systèmes d’IA et aux modèles de pointe. Ils pourraient les tester dans des environnements de sécurité contrôlés afin de vérifier si les agents d’IA deviennent trop puissants et s’ils servent pleinement les intérêts humains.
Seuls les modèles ayant réussi tous les tests de sécurité seraient commercialisés en tant que produits d’IA destinés à être utilisés comme chatbots ou algorithmes de recrutement. Ceux qui échoueraient seraient documentés puis détruits. Cela supposerait que toutes les grandes entreprises technologiques acceptent un accès externe régulier. Cette approche est radicalement différente de ce qui s’est passé jusqu’à présent, les entreprises restant extrêmement fermées et secrètes quant au développement de leurs futurs modèles et à leur puissance.
Une réglementation est plus que jamais nécessaire car nous nous rapprochons peut-être de la singularité, un point où l’IA pourrait prendre en charge son propre perfectionnement autonome, créant un cycle sans limite connue quant à son potentiel d’intelligence.
Moloch est une force extraordinairement difficile à arrêter. En mars 2023, des milliers de chercheurs et de personnalités du monde de la technologie ont signé une lettre ouverte appelant à une pause mondiale de six mois dans le développement de systèmes d’IA plus puissants que GPT-4, mais cette pause n’a pas eu lieu et la course a repris de plus belle.
Il n’existe qu’un seul antidote à Moloch : la coopération.
Si une réglementation nationale est possible et viable, elle n’est guère utile sans un accord international. Nous connaissons déjà la position de Donald Trump sur la nécessité de suspendre le développement de la Chine. Les accords véritablement mondiaux sont extrêmement rares. Ni le clonage animal ni le clonage reproductif humain ne sont interdits par un traité international contraignant.
Une telle coopération n’est toutefois pas sans précédent. Le Protocole de Montréal, en vertu duquel chaque pays s’est engagé à éliminer progressivement les substances chimiques qui détruisent la couche d’ozone, bénéficie d’une participation universelle, tandis que la Convention sur les armes chimiques est quasi universelle.
Mais à quoi ressemblerait un accord international sur l’IA ? La Chine et les États-Unis pourraient convenir de laisser un organisme mondial neutre évaluer leurs modèles les plus performants et exiger la mise hors service des modèles non sécurisés, mais cela semble extrêmement improbable.
Mesures existantes
Il existe des précédents. La recherche sur les embryons humains est déjà soumise à des autorisations, des inspections et des limites strictes dans des pays comme le Royaume-Uni, bien qu’il n’existe aucun organisme mondial chargé de son application. Un accord sur l’IA pourrait établir des tests communs et définir clairement les capacités interdites.
Cela pourrait permettre des inspections confidentielles par un organisme international neutre, exiger l’enregistrement des plus grands centres d’entraînement et des installations informatiques, et rendre obligatoire le signalement des incidents graves.
L’ONU a déjà constitué un groupe d’experts scientifiques sur l’IA , mais celui-ci ne peut ni examiner les modèles avancés des entreprises ni imposer ses conclusions. Il semble encore extrêmement improbable qu’une organisation internationale dispose d’un tel niveau d’accès et d’autorité. Une telle organisation devrait avoir le pouvoir de sanctionner les pays qui refuseraient de coopérer, or un tel pouvoir de coercition n’existe actuellement pas.
Une solution pour le moins surprenante consisterait à utiliser une IA indépendante qui évaluerait les derniers modèles américains et chinois, soumis de manière indépendante, et fournirait des preuves de leur sécurité. Une telle IA de sécurité pourrait, en théorie, être créée par un organisme neutre désigné d’un commun accord, même s’il serait difficile de savoir dans quelle mesure on pourrait lui faire confiance.
Autrement, la seule solution serait peut-être un gouvernement mondial qui réglementerait l’IA à l’échelle planétaire, une perspective qui serait loin d’être acceptable pour beaucoup.
Tom Quilter
Chercheur en intelligence artificielle, Université de Manchester
