L'intelligence artificielle vue par Richard Feynman.

Y aura-t-il un jour une machine qui pensera comme un être humain ?

Richard Feynman estimait que les machines ne penseraient jamais comme des humains parce que tous les deux sont construits à partir de matériaux fondamentalement divergents et parce qu'ils utilisent des méthodes de calcul différentes. Cela rend improbable un quelconque mimétisme entre machines et humains.

Le cerveau humain est composé de neurones qui sont connectés entre eux par des synapses. Ces connexions permettent la transmission de signaux électriques et chimiques, ce qui est à la base de notre pensée, de notre mémoire et de notre apprentissage.

En revanche, les ordinateurs sont basés sur des circuits électroniques qui utilisent des transistors pour effectuer des calculs. Bien que les deux systèmes puissent effectuer des opérations complexes, la manière dont ils le font est très différente.

Pour illustrer son propos, Feynman donne l'exemple des avions et des oiseaux. Les deux peuvent voler en s'appuyant sur la portance, mais de manière différente. Les oiseaux utilisent leurs ailes pour battre l'air, tandis que les avions utilisent des moteurs. Pourtant, tous deux utilisent le même principe physique, la portance. Les avions n'ont pas besoin de « battre » leurs ailes comme les oiseaux pour voler. De la même manière, les machines n'ont pas besoin de « penser » comme des humains pour résoudre des problèmes ou effectuer des tâches.

Un autre exemple pourrait être la manière dont les humains et les machines font des calculs mathématiques. Les humains utilisent fréquemment des méthodes heuristiques ou des raccourcis mentaux pour effectuer des calculs rapides, tandis que les machines utilisent des algorithmes précis pour arriver au même résultat, souvent beaucoup plus rapidement et avec plus de précision.

En somme, bien que les machines puissent être conçues pour accomplir des tâches similaires à celles des humains, la manière dont elles y parviennent est généralement très différente.

Les machines seront-elles plus intelligentes que les Humains ?

Selon Feynman, il est possible que les machines surpassent un jour les humains dans des domaines spécifiques, mais cela ne signifie pas qu'elles seront plus intelligentes dans tous les aspects. Autrement dit, l'intelligence des machines est habituellement très spécialisée et limitée à des tâches spécifiques pour lesquelles elles ont été conçues.

Prenons l'exemple des échecs. Les ordinateurs peuvent calculer des millions de mouvements possibles en quelques secondes et choisir le meilleur d'entre eux, ce qui leur donne un avantage considérable dans ce jeu. Cependant, cette capacité à exceller aux échecs ne signifie pas que l'ordinateur peut comprendre une blague ou faire preuve d'empathie, qui sont d'autres formes d'intelligence humaine.

Richard Feynman souligne également que les humains ont tendance à mesurer l'intelligence des machines en les comparant aux meilleurs d'entre nous dans des domaines spécifiques. Par exemple, si une machine bat le champion du monde d'échecs, nous sommes impressionnés, mais cela ne signifie pas que la machine est meilleure que tous les humains dans tous les domaines. Les humains ont une intelligence générale qui leur permet de s'adapter et de résoudre des problèmes dans une grande variété de situations, ce qui est très différent de l'intelligence spécialisée des machines.

Dans quels domaines les Humains sont-ils plus forts que les machines ?

Pour Feynman, les humains ont une capacité exceptionnelle à reconnaître des modèles, que ce soit des visages, des voix, des formes ou même des comportements. Cette compétence est le résultat de millions d'années d'évolution et est profondément ancrée dans notre cerveau. Elle nous permet de naviguer dans un monde complexe et en constante évolution.

Par exemple, vous pouvez reconnaître un ami dans une foule, simplement en voyant la façon dont il marche ou en entendant sa voix parmi d'autres. Vous pouvez également identifier des objets ou des animaux avec très peu d'informations, comme une silhouette ou une ombre. Cette capacité à reconnaître des modèles est cruciale pour notre survie et notre interaction sociale.

En revanche, les machines ont du mal à maîtriser cette compétence. Bien que des progrès aient été réalisés dans le domaine de la reconnaissance d'images et de la vision par ordinateur, ces systèmes sont souvent limités à des tâches très spécifiques et manquent de la flexibilité et de l'adaptabilité que les humains possèdent. Par exemple, un algorithme de reconnaissance faciale peut être très bon pour identifier des visages dans des conditions d'éclairage et d'angle spécifiques, mais il peut échouer si ces conditions changent légèrement.

Feynman mentionne aussi que les machines ont du mal à gérer les variations et les exceptions qui sont courantes dans le monde réel. Il donne l'exemple suivant : si vous essayez de programmer une machine pour reconnaître des empreintes digitales, elle peut avoir du mal à gérer des variations comme la saleté, l'angle de la prise de l'empreinte, ou même des changements physiologiques comme l'apparition d'une verrue.

Quelles sont les capacités de calcul des machines ?

Richard Feynman effectue une comparaison entre les capacités de calcul et de mémoire des machines et celles des Humains. Il note que les machines sont extrêmement rapides et précises lorsqu'il s'agit d'effectuer des calculs mathématiques et de stocker des informations, des domaines où elles surpassent largement les capacités humaines.

Un ordinateur peut effectuer des millions de calculs en une seconde, une vitesse qui est inatteignable pour un être humain. Cette rapidité permet aux machines de résoudre des problèmes complexes en un temps record, comme la simulation de systèmes météorologiques, l'analyse de grandes bases de données ou même le décryptage de codes.

En ce qui concerne la mémoire, les ordinateurs ont également un avantage significatif. Ils peuvent stocker des téraoctets de données de manière précise et les récupérer instantanément lorsque cela est nécessaire. Les Humains, en revanche, ont une mémoire limitée et sont sujets à des oublis, des erreurs de rappel et même à la déformation des souvenirs.

Dans son intervention, Feynman donne l'exemple d'une série de chiffres que les humains auraient du mal à mémoriser et à réciter en ordre inverse, alors qu'une machine peut facilement stocker et manipuler des séries de chiffres beaucoup plus longues sans faire d'erreur. Cette capacité à stocker et à manipuler de grandes quantités d'informations est particulièrement utile dans des domaines comme la recherche scientifique, la finance et la logistique, où de grandes quantités de données doivent être analysées rapidement et avec précision.

Cependant, il est important de noter que cette vitesse et cette précision ne signifient pas que les machines sont « intelligentes » au sens où nous l'entendons pour les humains. Elles sont simplement conçues pour être efficaces dans des tâches spécifiques qui exploitent leurs avantages en matière de vitesse de calcul et de capacité de stockage.

L'apprentissage automatique peut-il trouver de nouvelles idées ?

Richard Feynman parle d'un jeu de simulation de bataille navale qui a été joué en Californie peu de temps avant son intervention. Ce n'était pas réellement une bataille navale, mais plutôt un jeu de stratégie basé sur des règles très détaillées. Chaque joueur recevait un budget pour concevoir différents types de navires, chacun ayant des coûts propres pour acquérir des éléments de défense comme une armure, des canons supplémentaires, etc.

Le jeu était conçu de manière que chaque type de navire et chaque type d'armement ait des avantages et des inconvénients spécifiques. Par exemple, un navire avec une armure épaisse pouvait être très résistant, mais aussi très coûteux. Les joueurs devaient donc faire des choix stratégiques sur la manière de dépenser leur budget pour créer la flotte la plus efficace possible.

Une fois que les joueurs avaient conçu leur flotte personnelle, ils s'affrontaient dans une sorte de simulation pour voir laquelle était la plus efficace. Le jeu utilisait des calculs pour déterminer quel joueur avait la meilleure flotte et gagnait donc la partie.

L'un des participants a utilisé un programme informatique pour bâtir sa propre flotte.Le programme utilisait ce que Feynman appelle des « heuristiques ». Dans ce contexte, une heuristique est une stratégie ou une technique qui aide à résoudre des problèmes de manière plus efficace que d'autres méthodes, surtout dans des situations complexes où une solution exacte serait trop coûteuse en temps ou en ressources

Ces heuristiques guidaient la machine dans le choix des stratégies à utiliser pour concevoir ses navires et les déployer en bataille. Ce qui est particulièrement intéressant, c'est que la machine était programmée pour ajuster la valeur de ces heuristiques en fonction de leur succès. Si une heuristique donnée conduisait à une victoire, sa valeur augmentait, ce qui signifie que la machine serait plus susceptible de l'utiliser à nouveau à l'avenir.

Dans le cas du jeu naval, la machine a remporté le championnat en Californie deux années de suite en utilisant des stratégies très différentes. La première année, le programme a conçu un énorme navire de guerre avec tout le blindage possible. La deuxième année, les organisateurs avaient interdit la construction du grand cuirassier. Le programme a alors dépensé tout son argent pour acquérir une flotte de cent mille petits bateaux portant chacun un canon. Une fois encore, sa stratégie fut la meilleure et le programme gagna la partie.

Ces victoires montrent que la machine est capable de faire preuve de flexibilité et d'adaptabilité pour apprendre de ses expériences. Le programme n'était pas simplement un ensemble de règles rigides ; il avait la capacité de s'ajuster en fonction de nouvelles informations ou de nouveaux défis, ce qui est une des raisons pour lesquelles il a gagné à chaque fois avec des stratégies très différentes. C'est, sans conteste, un élément-clef de ce que nous considérons comme de l'intelligence.

Cependant, Feynman note également que cette forme d'apprentissage machine est encore assez rudimentaire comparée à la capacité humaine à apprendre et à s'adapter. Les humains utilisent une variété de méthodes d'apprentissage, y compris l'observation, l'expérience, et même l'intuition, qui sont beaucoup plus complexes et nuancées que les algorithmes d'apprentissage machine actuels. Mais depuis, évidemment, de nombreux progrès ont été réalisés.

Que peut-on en conclure ?

Feynman conclut son intervention en disant que nous nous rapprochons de la création de machines intelligentes. Mais, selon lui, elles montreront les faiblesses nécessaires de l'intelligence. En d'autres termes, pour lui, l'intelligence, qu'elle soit humaine ou artificielle, n'est pas sans failles.

Cela peut être vu comme une sorte de « biais » ou de « faiblesse » dans le système, similaire à la manière dont les humains peuvent développer des biais ou des habitudes qui ne sont pas toujours optimaux. Feynman semble suggérer que ces types de comportements sont, en quelque sorte, inévitables dans tout système intelligent, qu'il soit humain ou machine.

Il souligne également que les humains ont une tendance à ajouter des critères supplémentaires pour mesurer l'intelligence, comme la conscience de soi, les émotions, etc., qui sont des domaines où les machines sont actuellement limitées.

Pour conclure cet article, on ne peut que souligner les connaissances et la clairvoyance de Richard Feynman, car il explique tout cela en 1985, trois ans avant son décès. Même si depuis, l'intelligence artificielle a fait d'énormes progrès, ses explications sont toujours valables, trente-cinq ans plus tard.

Sources.

• Richard Feynman Computer Science Lecture - Hardware, Software and Heuristics - 26 septembre 1985