Pourquoi il est difficile de donner aux ordinateurs quelque chose que vous prenez pour acquis : le bon sens

Imaginez que vous recevez des amis pour le déjeuner et que vous prévoyez de commander une pizza au pepperoni. Vous vous souvenez d’Amy mentionnant que Susie avait arrêté de manger de la viande. Vous essayez d’appeler Susie, mais quand elle ne décroche pas, vous décidez de jouer la sécurité et de commander une pizza margherita à la place.

Les gens tiennent pour acquis la capacité de faire face à des situations comme celles-ci sur une base régulière. En réalité, pour accomplir ces exploits, les humains s’appuient non pas sur un mais sur un ensemble puissant de capacités universelles connues sous le nom de bon sens.

En tant que chercheur en intelligence artificielle , mon travail s’inscrit dans un vaste effort visant à donner aux ordinateurs un semblant de bon sens. C’est un effort extrêmement difficile.

Rapide – définir le bon sens

Bien qu’étant à la fois universel et essentiel à la façon dont les humains comprennent le monde qui les entoure et apprennent, le bon sens a défié une seule définition précise. GK Chesterton, philosophe et théologien anglais, a écrit au tournant du 20e siècle que « le bon sens est une chose sauvage, sauvage et au-delà des règles ». Les définitions modernes conviennent aujourd’hui qu’il s’agit au minimum d’une capacité humaine naturelle, plutôt que formellement enseignée, qui permet aux gens de naviguer dans la vie quotidienne.

Le bon sens est exceptionnellement large et inclut non seulement des capacités sociales, comme gérer les attentes et raisonner sur les émotions des autres, mais aussi un sens naïf de la physique , comme savoir qu’une pierre lourde ne peut pas être placée en toute sécurité sur une table en plastique fragile. Naïf, parce que les gens savent de telles choses même s’ils ne travaillent pas consciemment sur des équations physiques.

Le bon sens comprend également des connaissances de base sur des notions abstraites, telles que le temps, l’espace et les événements. Cette connaissance permet aux gens de planifier, d’estimer et d’organiser sans avoir à être trop précis.

Le bon sens est difficile à calculer

Curieusement, le bon sens a été un défi important à la frontière de l’IA depuis les premiers jours du domaine dans les années 1950. Malgré d’énormes progrès dans l’IA, en particulier dans le jeu et la vision par ordinateur , le bon sens machine avec la richesse du bon sens humain reste une possibilité lointaine. C’est peut-être pourquoi les efforts d’IA conçus pour des problèmes complexes et réels avec de nombreuses parties entrelacées, telles que le diagnostic et la recommandation de traitements pour les patients COVID-19, échouent parfois .

L’IA moderne est conçue pour s’attaquer à des problèmes très spécifiques, contrairement au bon sens, qui est vague et ne peut être défini par un ensemble de règles. Même les derniers modèles font parfois des erreurs absurdes, suggérant qu’il manque quelque chose de fondamental dans le modèle mondial de l’IA. Par exemple, étant donné le texte suivant :

« Vous vous êtes versé un verre de canneberge, mais ensuite, distraitement, vous y avez versé environ une cuillère à café de jus de raisin. Ça a l’air OK. Vous essayez de le renifler, mais vous avez un gros rhume, vous ne pouvez donc rien sentir. Vous avez très soif. Alors toi »

De récents efforts ambitieux ont reconnu le bon sens des machines comme un problème d’intelligence artificielle de notre époque, nécessitant des collaborations concertées entre les institutions sur de nombreuses années. Un exemple notable est le programme de quatre ans Machine Common Sense lancé en 2019 par l’ Agence américaine des projets de recherche avancée pour la défense pour accélérer la recherche sur le terrain après que l’agence a publié un document décrivant le problème et l’état de la recherche dans le domaine .

Le programme Machine Common Sense finance de nombreux efforts de recherche actuels sur le sens commun des machines, y compris notre propre apprentissage et inférence multimodal Open World Grounded ( MOWGLI ). MOWGLI est une collaboration entre notre groupe de recherche à l’Université de Californie du Sud et des chercheurs en IA du Massachusetts Institute of Technology, de l’Université de Californie à Irvine, de l’Université de Stanford et du Rensselaer Polytechnic Institute. Le projet vise à construire un système informatique capable de répondre à un large éventail de questions de bon sens.

Des transformateurs à la rescousse ?

L’une des raisons d’être optimiste quant à l’idée de déchiffrer enfin le bon sens des machines est le développement récent d’un type d’ IA avancée d’ apprentissage en profondeur appelé transformateurs. Les transformateurs sont capables de modéliser le langage naturel de manière puissante et, avec quelques ajustements, sont capables de répondre à des questions simples de bon sens. La réponse à des questions de bon sens est une première étape essentielle pour créer des chatbots capables de converser de manière humaine.

Au cours des deux dernières années, un corpus prolifique de recherches a été publié sur les transformateurs, avec des applications directes au raisonnement de bon sens. Ce progrès rapide en tant que communauté a contraint les chercheurs dans le domaine à faire face à deux questions connexes à la frontière de la science et de la philosophie : qu’est-ce que le bon sens ? Et comment être sûr qu’une IA a du bon sens ou pas ?

Pour répondre à la première question, les chercheurs divisent le sens commun en différentes catégories, y compris la sociologie du sens commun, la psychologie et les connaissances de base. Les auteurs d’un livre récent soutiennent que les chercheurs peuvent aller beaucoup plus loin en divisant ces catégories en 48 domaines à grains fins, tels que la planification, la détection des menaces et les émotions.

Cependant, il n’est pas toujours clair avec quelle netteté ces zones peuvent être séparées. Dans notre article récent , des expériences suggèrent qu’une réponse claire à la première question peut être problématique. Même les annotateurs humains experts – les personnes qui analysent le texte et catégorisent ses composants – au sein de notre groupe n’étaient pas d’accord sur les aspects du bon sens appliqués à une phrase spécifique. Les annotateurs étaient d’accord sur des catégories relativement concrètes comme le temps et l’espace, mais étaient en désaccord sur des concepts plus abstraits.

Reconnaître le bon sens de l’IA

Même si vous acceptez qu’un certain chevauchement et une certaine ambiguïté dans les théories du bon sens sont inévitables, les chercheurs peuvent-ils vraiment être sûrs qu’une IA a du bon sens ? Nous posons souvent des questions aux machines pour évaluer leur bon sens, mais les humains naviguent dans la vie quotidienne de manière bien plus intéressante. Les gens emploient une gamme de compétences, affinées par l’évolution, y compris la capacité de reconnaître les causes et les effets de base, la résolution créative de problèmes , les estimations, la planification et les compétences sociales essentielles, telles que la conversation et la négociation . Aussi longue et incomplète que cette liste puisse être, une IA ne devrait pas accomplir moins avant que ses créateurs puissent déclarer la victoire dans la recherche de bon sens sur les machines.

Il devient déjà douloureusement clair que même la recherche sur les transformateurs donne des rendements décroissants. Les transformateurs sont de plus en plus gros et énergivores . Un transformateur récent développé par le géant chinois des moteurs de recherche Baidu possède plusieurs milliards de paramètres. Il faut une énorme quantité de données pour s’entraîner efficacement. Pourtant, il s’est avéré jusqu’à présent incapable de saisir les nuances du bon sens humain.

Même les pionniers de l’apprentissage en profondeur semblent penser que de nouvelles recherches fondamentales pourraient être nécessaires avant que les réseaux de neurones d’aujourd’hui soient capables de faire un tel saut. Selon le succès de cette nouvelle ligne de recherche, on ne sait pas si le bon sens de la machine est dans cinq ans ou dans 50 ans.

Mayank Kejriwal – Professeur assistant de recherche en génie industriel et systèmes, Université de Californie du Sud