Le génie qui aurait pu se tromper

Bon, il faut que je vous partage quelque chose qui m'a vraiment marqué cette semaine. Ça m'a fait voir l'intelligence artificielle sous un angle complètement différent.

Pendant des décennies, on a mesuré les progrès de l'IA par rapport à une vision qu'Alan Turing avait proposée en 1950. Son famous « jeu de l'imitation » — qu'on appelle maintenant le test de Turing — suggérait que si un ordinateur parvenait à tromper les humains en leur faisant croire qu'ils parlaient à une autre personne, il serait essentiellement en train de « penser ».

Ça semble logique, non ?

Eh bien, selon Peter J. Denning, un informaticien vraiment respecté qui vient de publier un livre intitulé Turing's Mistake: Escaping the Yoke of Unintelligent Machines, on aurait pu courir après le mauvais rêve pendant 75 ans.

Et sincèrement ? Après avoir parcouru ses arguments, je pense qu'il tient peut-être quelque chose de profond.

Le problème du corps (et oui, c'est important)

Voici la première hypothèse que Denning pense que Turing a mal évaluée : lidée que l'intelligence puisse exister indépendamment d'un corps physique.

Réfléchissez-y un instant. On essaie de recréer une intelligence de niveau humain dans des ordinateurs — du pur logiciel, qui flotte dans l'espace numérique. Mais Denning soutient que c'est comme essayer de comprendre la natation en étudiant les molécules d'eau. Il manque quelque chose d'essentiel.

Quand vous et moi on navigue dans le monde, on ne fait pas que traiter de l'information. On ressent les choses. On sent la température, on palpe la texture d'une poignée de porte, on expérimente ce léger déséquilibre quand on marche sur un trottoir légèrement inégal. Toute cette expérience physique façonne comment on pense, raisonne et comprend le monde.

Denning souligne que nos corps ne sont pas de simples véhicules pour transporter notre cerveau. Ils font partie intégrante de notre façon de penser.

Et voici le truc — ce n'est pas une idée marginale. Des philosophes parlent de « cognition incarnée » depuis des années. Mais la recherche en IA l'a largement ignoré au profit d'approches purement computationnelles.

Le puzzle du savoir tacite

C'est là que les choses deviennent vraiment intéressantes (et un peu philosophiques, mais je promets de rester terre-à-terre).

Denning introduit le concept de « savoir tacite » — et c'est honnêtement une de ces idées qui, une fois comprises, commencent à aparecer partout.

Le savoir tacite, c'est tout ce qu'on sait mais qu'on ne peut pas facilement expliquer. Genre... comment savez-vous exactement quelle pression appliquer quand vous déverrouillez une porte ? Comment attrapez-vous un ballon sans faire de calculs complexes de physique dans votre tête ? Comment savez-vous que quelqu'un est sarcastique plutôt que sincère juste en écoutant le ton de sa voix ?

Ces choses nous semblent automatiques. Mais elles sont incroyablement complexes.

Denning soutient qu'il y a au moins cinq grandes catégories de savoir tacite que l'apprentissage machine ne peut tout simplement pas capturer :

Le sens commun — Les millions de petits faits sur le fonctionnement du monde auxquels on ne pense jamais consciemment.

Les interactions quotidiennes — Comment on lit les situations sociales, on navigue les relations personnelles, on comprend les attentes implicites.

Les émotions et la perception — La façon dont éprouver de la joie ou de la tristesse change fondamentalement comment on traite l'information.

Les compétences pratiques — Le type de savoir qu'un artisan maître ou un musician virtuose possède et qu'il ne peut pas pleinement articuler.

La compréhension culturelle — Les valeurs, les normes, l'histoire, et les significations plus profondes incrustées dans le fonctionnement des communautés.

Pourquoi 40 ans de Cyc n'ont pas résolu ça

Pour illustrer le défi, Denning pointe vers quelque chose appelé le projet Cyc. Si vous ne le connaissez pas, Cyc était une tentative ambitieuse lancée dans les années 1980 pour construire une base de données massive de connaissances de bon sens — des choses comme « si vous lâchez quelque chose, ça tombe » ou « les gens ont besoin d'eau pour survivre ».

Le projet a pris quatre décennies pour accumuler environ 25 millions d'entrées de faits de bon sens.

Vingt-cinq millions de connaissances !

Et vous savez quoi ? Ce n'était toujours pas suffisant pour créer des systèmes vraiment intelligents. Denning note que « beaucoup du savoir qui fait les experts ne peut pas être articulé comme des propositions ».

C'est la tragédie silencieuse du projet Cyc. Il a démontré, par le simple effort, qu'essayer d'encoder manuellement le bon sens humain est essentiellement impossible. Il y en a trop, et trop est implicite plutôt qu'explicite.

Le musician qui ne peut pas l'expliquer

Laissez-moi partager un des exemples de Denning qui m'a vraiment marqué.

Pensez à un violoniste virtuose. Quelqu'un capable de jouer avec une beauté et une émotion à couper le souffle. Maintenant imaginez essayer d'expliquer à un débutant exactement comment produire ce son.

Il ne peut pas vraiment le faire. Pas complètement. Il pourrait offrir quelques conseils techniques — angler l'archet ici, appliquer de la pression là — mais le fossé entre « savoir comment » et « savoir quoi » est énorme.

Le violoniste possède un savoir incarné qui existe dans ses muscles, ses nerfs, son expérience physique de la création du son. Vous ne pouvez pas télécharger ça dans un ordinateur. Vous ne pouvez pas le transcrire dans une base de données.

Et voici le point plus profond : même si vous construisiez un robot capable d'imiter parfaitement les mouvements d'un violoniste, ce robot ne comprendrait toujours pas ce que ça fait de créer de la belle musique. Il manque l'expérience biologique, le contexte émotionnel, la connexion avec un public.

Le problème de la représentation

Alors qu'est-ce qui se passe vraiment ici ? Pourquoi la connaissance humaine est-elle si obstinément resistente à être numérisée ?

Denning appelle ça le « problème de la représentation », et c'est vraiment fondamental.

Les ordinateurs travaillent avec des symboles — des uns et des zéros qui représentent des choses. Quand on rentre de l'information dans les ordinateurs, on encode la connaissance du monde réel sous ces formes symboliques.

Mais voici le piège : derrière chaque mot, chaque concept, chaque morceau de « connaissance » qu'on possède, il y a un puits profond de compréhension tacite qui lui donne son sens. Les mots sont juste des symboles pointant vers des significations — ils ne sont pas les significations elles-mêmes.

Denning dit ceci : « Derrière chaque mot se cache un puits profond de savoir tacite qui lui donne son sens. Les mots ne sont que des représentations symboliques des significations, pas les significations elles-mêmes. »

Cela signifie que quand vous parlez à quelque chose comme ChatGPT, Claude ou Gemini, vous interagissez avec des systèmes incroyablement sophistiqués pour manipuler des symboles, mais qui ne comprennent pas vraiment ce que ces symboles représentent. Ils peuvent faire correspondre des motifs de manière brillante, mais faire correspondre des motifs, ce n'est pas comprendre.

Le contexte, c'est tout (et les machines n'en ont pas)

Voici une autre couche avec laquelle l'IA lutte : le contexte.

Quand vous et moi on a une conversation, on s'appuie sur d'innombrables couches de compréhension partagée. On sait qui on est, ce qu'on a vécu ensemble, quelle est la situation actuelle, ce qui est approprié versus inapproprié, quand quelqu'un plaisante versus est sérieux.

Ce contexte n'est pas juste du bruit de fond — c'est fondamental pour le sens.

Denning le décrit comme fractal : chaque contexte repose sur des contextes précédents, qui reposent sur des encore plus anciens. C'est une chaîne sans fin de compréhension partagée qu'on a construite au cours d'une vie d'expérience.

La culture ajoute encore une dimension. Denning la décrit comme englobant « les valeurs, les normes, les jugements, l'histoire, les communautés, les humeurs, et même les relations impliquant le pouvoir et le soin ».

Tout cela est invisible pour les systèmes d'IA. Ils peuvent détecter des motifs dans le langage, mais ils ne peuvent pas vraiment saisir le poids culturel derrière les mots et les actions.

Qu'est-ce que ça signifie pour l'avenir de l'IA ?

Maintenant, je ne dis pas que l'IA est inutile — obviously, ce n'est pas le cas. Ces systèmes sont vraiment impressionnants pour des tâches spécifiques, et ce sont des outils incroyablement utiles.

Mais l'argument de Denning suggère qu'on approche peut-être d'un plafond. Que la vraie intelligence artificielle générale — des machines avec une compréhension et une adaptability de niveau humain — pourrait être fondamentalement inaccessible avec nos approches actuelles.

Et voici où ça devient un peu préoccupant : Denning met en garde que si on continue à poursuivre l'IAG en ignorant ces limitations fondamentales, on risque de construire des technologies qui introduisent des risques significatifs sans tenir leurs promesses.

Réfléchissez-y. On construit des systèmes qu'on ne comprend pas pleinement, en utilisant des approches qui sont peut-être intrinsèquement limitées, pour résoudre des problèmes qui nécessitent des types de compréhension auxquels ces systèmes ne peuvent pas accéder.

Mon avis

Honnêtement, j'ai trouvé les arguments de Denning convaincants, mais pas complètement accablants.

Oui, il y a des défis fondamentaux avec la capture du savoir tacite. Oui, l'expérience incarnée compte probablement plus que ce qu'on a reconnu. Et oui, le test de Turing pourrait être un mauvais indicateur pour l'intelligence véritable.

Mais je pense aussi qu'on découvre ces limitations en temps réel, et que ce processus de découverte lui-même a de la valeur. Chaque défi que Denning identifie est aussi une question de recherche. Chaque mur qu'on frappe nous enseigne quelque chose de nouveau sur la cognition et la conscience humaines.

Peut-être que la vraie leçon ici n'est pas que l'IA ne peut pas être intelligente, mais que l'intelligence humaine est plus remarquable qu'on ne l'appréciait. Chaque fois que vous comprenez une blague, attrapez un ballon, ou sentez que quelque chose semble « bizarre » dans une conversation — vous faites quelque chose que nos ordinateurs les plus sophistiqués ne peuvent toujours pas faire.

Peut-être que la question n'est pas de savoir si les machines peuvent penser comme les humains. Peut-être qu'elle est : qu'est-ce qu'elles peuvent faire correctement, et comment on l'intègre dans un monde où les qualités humaines comptent plus, pas moins ?

C'est une question qui mérite qu'on s'y attarde un moment.

Qu'en pensez-vous ? La critique de Denning résonne-t-elle avec votre expérience des outils d'IA ? Ou pensez-vous qu'on sous-estime ce que ces systèmes peuvent Eventually accomplir ?

Dites-le moi dans les commentaires — je veux vraiment savoir comment ça vous touche.