Intelligence artificielle : entre progrès et prudence

Ces derniers mois ont vu des avancées rapides et inattendues dans le domaine de l’intelligence artificielle (IA). Nous pouvons créer des images à volonté avec des outils comme Midjourney ou DALL-E ou poser des questions et discuter avec ChatGPT . Et cela pose également des défis éthiques, sociaux et juridiques sans précédent.

Les progrès techniques qui changent radicalement notre mode de vie apportent toujours des inconnues et de la confusion. Lorsque le train a commencé à remplacer les chevaux, des préoccupations fondées (comme les problèmes de respiration de fumée) se sont mêlées à d’autres qui ont fini par ne pas l’être (comme la peur que les voyageurs s’étouffent dans les tunnels ). Avec le temps et la perspective, le panorama s’est éclairci.

Avec l’IA, nous sommes encore dans la phase de confusion : il faut peser ses risques et ses bénéfices pour créer une régulation qui, sans freiner les progrès, garantit une utilisation responsable. Examinons quelques-uns des points les plus pertinents de ce débat.

Une matière première délicate : les données

Derrière des outils comme Midjourney ou ChatGPT se trouvent des algorithmes qui apprennent à effectuer des tâches à partir de grandes quantités de données. Par exemple, pour que Midjourney puisse créer des images à partir de texte, il a fallu collecter des milliards d’images avec leurs descriptions, en les téléchargeant sur Internet . De là naît un conflit de propriété intellectuelle : est-il légal d’utiliser des contenus protégés par le droit d’auteur pour enseigner ces systèmes ?

Beaucoup d’artistes pensent que non : leurs œuvres sont utilisées pour créer d’autres œuvres, ce qui met en péril leur marché. C’est pourquoi ils ont dénoncé les responsables de systèmes de ce type.

Mais il existe un argument technique contraire : lors de l’apprentissage, ces systèmes ne copient ni ne stockent les œuvres en mémoire. Ils les utilisent uniquement pour améliorer leurs connaissances sur la façon de faire leurs devoirs. Quelque chose de pas si différent de ce que fait un artiste humain, qui est influencé et inspiré par l’art qu’il a vu.

Ce seront les tribunaux des États-Unis qui décideront s’il s’agit d’une « utilisation équitable » des données ou non. Pendant ce temps, Adobe travaille sur une alternative qui n’utilise pas d’images protégées par le droit d’auteur sans le consentement des créateurs.

L’Europe, plus rigoureuse

Un autre conflit, centré cette fois sur l’Europe, est celui de la protection des données. La législation de l’UE n’autorise généralement pas le traitement des informations personnelles de quiconque sans son consentement. Cela s’applique même aux données publiques sur Internet.

Pour apprendre à chatter, ChatGPT a eu besoin de centaines de milliards de mots obtenus sur le Net. Ces textes peuvent inclure des mentions de personnes, et personne ne les a supprimées ou n’a demandé leur consentement. Le problème est que, dans ce cas, cela semble impossible compte tenu du volume de données : une « solution Adobe » n’est pas envisageable.

Dès lors, une interprétation stricte de la réglementation européenne semble totalement incompatible avec des systèmes comme ChatGPT. C’est pourquoi l’Italie l’a interdit .

L’inconvénient est qu’une telle mesure nuit gravement à la compétitivité d’un pays. Par exemple, ce type d’outils multiplie la productivité des programmeurs . Si une entreprise technologique veut recruter, le fera-t-elle dans un pays où cela est autorisé ou interdit ? La question se répond d’elle-même.

Ainsi, les législateurs européens sont confrontés à une situation inconfortable : concilier protection des données personnelles et ne pas rater le train de l’IA par rapport à des pays aux réglementations plus laxistes, comme les Anglo-Saxons.

Comment l’utilisons-nous ?

Un autre aspect clé de la réglementation de l’IA est son utilisation. Il faut se rappeler qu’un algorithme n’est pas en soi éthique ou non : c’est un outil que quelqu’un utilise dans un but. Par exemple, imaginez un système qui analyse les données d’un patient et propose un diagnostic . Il peut être très utile d’aider un médecin, en prenant la décision finale à sa discrétion. Au lieu de cela, la même technologie serait un danger si vous preniez la décision finale en remplaçant le médecin.

L’UE en est consciente, et prépare un règlement sous le principe de « mettre la personne au centre » : l’IA, oui, mais toujours sous tutelle humaine.

Le problème est de savoir comment le faire. L’Europe a commencé avec quelques années d’avance à préparer des certifications pour une utilisation responsable de l’IA, mais elle a retardé le processus lorsque ChatGPT a fait irruption : il faut maintenant envisager l’utilisation d’un outil si polyvalent que n’importe qui peut l’utiliser à une multitude de fins, éthiques ou pas.

Entre-temps, les États-Unis ont lancé une consultation publique sur la manière de créer un tel règlement. Et la Chine veut le faire aussi , ajoutant l’objectif que les systèmes d’IA reflètent « les valeurs du socialisme ».

Cela pourrait-il se retourner contre nous ?

Nous avons discuté de certains des défis juridiques et éthiques que l’IA pose aujourd’hui. Mais que se passera-t-il à plus long terme ? D’un point de vue technique, on ne sait toujours pas s’il sera possible de continuer à avancer à un rythme aussi effréné que ces dernières années. Mais si tel était le cas, les aspects réglementaires que nous avons vus ne seraient qu’un début.

D’où la demande de suspendre le développement de nouveaux systèmes pendant six mois , signée fin mars par des centaines d’experts et de personnalités médiatiques.

En ce sens, un défi très commenté est l’automatisation de nombreux travaux. Mais en passant en revue l’histoire, l’humanité a toujours créé des technologies pour alléger la charge de travail, et aujourd’hui nous n’en abandonnerions aucune. La clé est de savoir comment répartir le travail et les richesses : l’idéal serait d’éviter les emplois inutiles (comme le dénonce l’anthropologue David Graeber ) et les inégalités qui empêchent une partie de la population d’accéder à une source de revenus.

Une autre préoccupation pour l’avenir est ce qui se passera si nous développons des systèmes d’IA conscients. Google a récemment licencié un ingénieur pour avoir déclaré que l’un de ses systèmes conversationnels était déjà conversationnel. Selon le philosophe de l’esprit David Chalmers, cela ne semble pas être le cas ; entre autres, parce que des systèmes comme ChatGPT n’ont pas de mémoire ni de personnalité stable.

Mais cela pourrait se faire un jour. Si tel est le cas, il faudrait peser les implications éthiques de causer du tort à un être sensible, face à des dilemmes similaires à ceux posés par le clonage. Il faudrait aussi empêcher l’IA de se retourner contre nous, une des motivations de la demande de pause.

En bref, les dernières avancées de l’IA imposent un large débat sur la manière de réglementer son utilisation. Il faut faire attention aux risques, mais sans oublier que les révolutions technologiques ont toujours amélioré notre qualité de vie.

Carlos Gomez Rodríguez

Professeur d’informatique et d’intelligence artificielle, Université de La Corogne