L’IA peut-elle lire dans nos pensées ?

Plus tôt cette année, Neuralink a implanté une puce dans le cerveau de l’Américain Noland Arbaugh, 29 ans, paralysé des épaules jusqu’aux pieds. La puce a permis à Arbaugh de déplacer le pointeur d’une souris sur un écran simplement en l’imaginant bouger.

En mai 2023, des chercheurs américains ont également annoncé un moyen non invasif de « décoder » les mots qu’une personne pense à partir d’analyses cérébrales combinées à l’IA générative. Un projet similaire a fait la une des journaux sur un « chapeau d’IA qui lit dans les pensées ».

Les implants neuronaux et l’IA générative peuvent-ils vraiment « lire dans les pensées » ? Le jour viendra-t-il où les ordinateurs pourront restituer des transcriptions précises en temps réel de nos pensées pour que tout le monde puisse les lire ?

Une telle technologie pourrait présenter certains avantages – en particulier pour les annonceurs à la recherche de nouvelles sources de données de ciblage client – ​​mais elle démolirait le dernier bastion de la vie privée : l’isolement de notre propre esprit. Mais avant de paniquer, nous devrions nous arrêter pour nous demander : ce que les implants neuronaux et l’IA générative peuvent faire est-il réellement une « lecture dans les pensées » ?

Le cerveau et l’esprit

Pour autant que nous le sachions, l’expérience consciente naît de l’activité du cerveau. Cela signifie que tout état mental conscient devrait avoir ce que les philosophes et les spécialistes des sciences cognitives appellent un « corrélat neuronal » : un modèle particulier de cellules nerveuses (neurones) s’activant dans le cerveau.

Ainsi, pour chaque état mental conscient dans lequel vous pouvez vous trouver – qu’il s’agisse de penser à l’Empire romain ou d’imaginer un curseur en mouvement – ​​il existe un modèle d’activité correspondant dans votre cerveau.

Donc, clairement, si un appareil peut suivre l’état de notre cerveau, il devrait simplement pouvoir lire dans nos pensées.

Pour que la lecture des pensées en temps réel basée sur l’IA soit possible, nous devons être capables d’identifier des correspondances précises et univoques entre des états mentaux conscients particuliers et des états cérébraux. Et cela n’est peut-être pas possible.

Des matchs difficiles

Pour lire dans les pensées à partir de l’activité cérébrale, il faut savoir précisément quels états cérébraux correspondent à des états mentaux particuliers. Cela signifie, par exemple, qu’il faut distinguer les états cérébraux qui correspondent au fait de voir une rose rouge de ceux qui correspondent au fait de sentir une rose rouge, ou de toucher une rose rouge, ou d’imaginer une rose rouge, ou de penser que les roses rouges sont votre le préféré de ma mère.

Il faut également distinguer tous ces états cérébraux des états cérébraux qui correspondent au fait de voir, sentir, toucher, imaginer ou penser à autre chose, comme un citron mûr. Et ainsi de suite, pour tout ce que vous pouvez percevoir, imaginer ou sur lequel vous pouvez penser.

Dire que c’est difficile serait un euphémisme.

Prenons l’exemple de la perception du visage. La perception consciente d’un visage implique toutes sortes d’activités neuronales.

Lire la suite : Personne ne sait comment fonctionne la conscience – mais les meilleurs chercheurs se battent pour savoir quelles théories relèvent réellement de la science

Mais une grande partie de cette activité semble être liée à des processus qui précèdent ou suivent la perception consciente du visage – des éléments tels que la mémoire de travail, l’attention sélective, l’autosurveillance, la planification des tâches et le reporting.

Déterminer les processus neuronaux qui sont uniquement et spécifiquement responsables de la perception consciente d’un visage est une tâche herculéenne que les neurosciences actuelles ne sont pas près de résoudre.

Même si cette tâche était accomplie, les neuroscientifiques n’auraient trouvé que les corrélats neuronaux d’un certain type d’expérience consciente : à savoir l’expérience générale d’un visage. Ils n’auraient pas ainsi trouvé les corrélats neuronaux des expériences de visages particuliers.

Ainsi, même si des progrès étonnants devaient se produire dans le domaine des neurosciences, celui qui voudrait lire dans les pensées ne serait toujours pas nécessairement capable de dire, grâce à un scanner cérébral, si vous voyez Barack Obama, votre mère ou un visage que vous ne reconnaissez pas. .

Ce ne serait pas grand-chose d’extraordinaire, en ce qui concerne la lecture dans les pensées.

Mais qu’en est-il de l’IA ?

Mais les gros titres récents concernant les implants neuronaux et l’IA ne montrent-ils pas que certains états mentaux peuvent être lus, comme imaginer des curseurs bouger et s’engager dans un discours intérieur ?

Pas nécessairement. Prenez d’abord les implants neuraux.

Les implants neuronaux sont généralement conçus pour aider un patient à effectuer une tâche particulière : déplacer un curseur sur un écran, par exemple. Pour ce faire, ils n’ont pas besoin d’être capables d’identifier exactement les processus neuronaux corrélés à l’intention de déplacer le curseur. Ils ont juste besoin d’avoir une idée approximative des processus neuronaux qui tendent à accompagner ces intentions, dont certains pourraient en fait sous-tendre d’autres actes mentaux connexes comme la planification des tâches, la mémoire, etc.

Ainsi, bien que le succès des implants neuronaux soit certainement impressionnant – et que les futurs implants collecteront probablement des informations plus détaillées sur l’activité cérébrale – cela ne montre pas que des cartographies précises entre des états mentaux particuliers et des états cérébraux particuliers ont été identifiées. . Et donc, cela ne rend pas plus probable une véritable lecture dans les pensées.

Prenons maintenant le « décodage » de la parole intérieure par un système composé d’un scanner cérébral non invasif et d’une IA générative, comme indiqué dans cette étude . Ce système a été conçu pour « décoder » le contenu de récits continus issus d’analyses cérébrales, lorsque les participants écoutaient des podcasts, récitaient des histoires dans leur tête ou regardaient des films. Le système n’est pas très précis – mais le fait qu’il ait fait mieux que le hasard pour prédire ces contenus mentaux est vraiment impressionnant.

Imaginons donc que le système puisse prédire des récits continus à partir d’analyses cérébrales avec une précision totale. Comme l’implant neuronal, le système ne serait optimisé que pour cette tâche : il ne serait efficace pour suivre aucune autre activité mentale.

Quelle activité mentale ce système pourrait-il surveiller ? Cela dépend : quelle proportion de notre vie mentale consiste à imaginer, percevoir ou autrement penser à des récits continus et bien formés qui peuvent être exprimés dans un langage simple ?

Pas beaucoup.

Nos vies mentales sont des affaires vacillantes, ultra-rapides, à flux multiples, impliquant à la fois des perceptions, des souvenirs, des attentes et des imaginations en temps réel. Il est difficile de voir comment une transcription produite par le scanner cérébral le plus perfectionné, couplé à l’IA la plus intelligente, pourrait capturer tout cela fidèlement.

L’avenir de la lecture dans les pensées

Au cours des dernières années, le développement de l’IA a montré une tendance à franchir des obstacles apparemment insurmontables. Il n’est donc pas judicieux d’exclure complètement la possibilité d’une lecture dans les pensées basée sur l’IA.

Mais étant donné la complexité de notre vie mentale et le peu de connaissances que nous avons sur le cerveau – les neurosciences en sont encore à leurs balbutiements, après tout – les prédictions sûres concernant la lecture dans les pensées alimentée par l’IA doivent être prises avec des pincettes.

Jenny juge

Maître de conférences en philosophie de l’esprit et sciences cognitives, Université de Melbourne