Le débat sur la conscience de l’IA prend de l’ampleur, que ce soit dans les articles universitaires , les tribunes libres ou même parmi les robots conversationnels eux-mêmes . Je doute fort qu’il s’agisse d’un simple phénomène passager.
À mesure que les systèmes d’IA gagnent en capacités, se rapprochent de l’humain et s’intègrent davantage à nos vies, la question deviendra incontournable. Nombreux sont ceux qui pourraient considérer les robots d’IA comme des êtres conscients dont les sentiments comptent . D’autres, en revanche, s’y opposeront fermement.
Je pense que ce débat pourrait diviser les sociétés. Dans mon chapitre du nouvel ouvrage *Perspectives sur la conscience des machines* , je soutiens que la question pourrait devenir aussi clivante que l’avortement ou le changement climatique. L’incertitude, les enjeux importants et les intérêts divergents forment un cocktail explosif.
Une étude empirique menée avec mon collègue Ali Ladak, actuellement en cours d’évaluation, révèle que l’opinion publique est partagée sur cette question. Interrogés sur la possibilité que l’IA future devienne consciente, 1 202 participants américains ont déclaré que c’était impossible, 23 % que c’était possible et les autres indécis.
Ce désaccord généralisé se manifeste également dans les publications sur les réseaux sociaux et les commentaires d’articles. Ce qui me frappe, c’est l’assurance affichée par tant de personnes, quelle que soit leur conclusion.
Quand les expériences ont une importance morale
Il n’est pas surprenant que les gens aient des opinions aussi tranchées. Créer des êtres conscients grâce à l’informatique serait un événement révolutionnaire.
Nous créerions une nouvelle espèce d’êtres dont les expériences auraient une importance morale – potentiellement en très grand nombre . Nous pourrions communiquer et collaborer avec eux, et nouer des amitiés. Mais ces êtres pourraient finir par devenir plus intelligents et plus puissants que nous.
Il faut donc s’attendre à ce que les gens s’y attachent profondément, surtout compte tenu du nombre d’émotions et de motivations en jeu. Certaines personnes pourraient nouer des liens affectifs étroits avec leurs compagnons IA et se convaincre qu’il s’agit d’êtres numériques dotés de droits. Elles pourraient percevoir comme de l’esclavage le fait de contraindre une IA à travailler sans rémunération.
D’autres trouveraient cela absurde. Ils pourraient être convaincus que la conscience requiert la biologie et que l’on attribue des sentiments humains à des machines.
Des raisons financières pourraient également expliquer la réticence des entreprises et des gouvernements à reconnaître la conscience de l’IA. La protection du bien-être de l’IA pourrait limiter la manière dont ces organisations entraînent et utilisent leurs systèmes, et les coûts se répercuteraient sur les consommateurs, les investisseurs et l’économie en général.
D’autres s’inquiètent peut-être pour la sécurité humaine. Si nous accordons des droits et une liberté à des systèmes d’IA puissants, que se passera-t-il s’ils agissent contre nos intérêts ?
Déterminer si une IA est consciente est particulièrement difficile, car il est possible que paraître consciente et être réellement consciente soient deux choses différentes. Les systèmes d’IA apprennent à partir d’écrits humains, ce qui signifie qu’ils peuvent parler de sentiments de manière convaincante, qu’ils en éprouvent ou non. La façon dont une IA se présente ne constitue qu’un indice limité de ce qui se passe en elle.
Les experts sont également en désaccord
Idéalement, ce débat devrait être guidé par des experts. Mais malheureusement, eux aussi sont en désaccord.
Le neuroscientifique Anil Seth (qui a également contribué à cet ouvrage) soutient que la conscience pourrait nécessiter des mécanismes biologiques et qu’il est peu probable qu’elle émerge du calcul. Le philosophe David Chalmers, quant à lui, estime qu’une IA consciente est possible en principe et pense même qu’il existe une faible probabilité que les systèmes actuels le soient déjà.
Face à la multitude de théories concurrentes et à l’absence de consensus sur la question, il est peu probable que les experts parviennent à un accord de sitôt. Et si les experts divergent, que doit croire le public ?
De plus, même si nous étions tous d’accord sur la question de la conscience, nous pourrions toujours diverger sur les questions morales et juridiques. On s’accorde généralement à dire que les porcs peuvent ressentir la douleur, mais les avis divergent fortement quant à leur traitement. Avec l’IA, nous pourrions être confrontés à des désaccords à chaque étape : sa capacité à ressentir des émotions, l’importance de ses expériences et les protections à mettre en place.
La conscience de l’IA n’est pas encore liée à un groupe politique ou idéologique spécifique. Mais cela pourrait changer si des partis politiques ou des chefs religieux commençaient à prendre des positions fermes.
Le débat pourrait s’envenimer si l’on commençait à considérer une réponse comme relevant de « notre camp » et l’autre de « leur camp ». Un débat politisé rendrait très difficile la prise de décisions éclairées quant au développement et à l’utilisation des systèmes d’IA.
L’enjeu est de taille. Une mauvaise réponse à cette question, dans un sens comme dans l’autre, pourrait avoir de graves conséquences : soit considérer à tort l’IA comme consciente alors qu’elle ne l’est pas, soit ne pas protéger une IA susceptible d’en souffrir.
Pour y parvenir, un débat nuancé et éclairé est indispensable. Chacun peut y contribuer en restant ouvert d’esprit et réceptif aux preuves, tout en évitant de croire détenir la vérité absolue. Surtout, nous ignorons encore si l’IA peut être consciente, et nous devons le reconnaître.
Lucius Caviola
Professeur adjoint en sciences sociales de l’IA, Institut de technologie et d’humanité, Université de Cambridge
