Les LEGO ou Boston pourraient autant avoir une conscience que Chat CPT selon cette étude folle de Microsoft sur Age of Empires II

Les discours sur les modèles de langage qui « comprendraient vraiment » ou afficheraient une forme de conscience reviennent souvent dans les médias. Un chercheur de Microsoft propose une approche différente : placer un réseau de neurones au cœur d’Age of Empires II pour tester ces affirmations avec rigueur.

Comparer l’IA à un classique du jeu vidéo

Adrian de Wynter, chercheur principal chez Microsoft, a implanté un réseau de neurones dans le moteur d’Age of Empires II. Ses tests montrent que les comportements observés ressemblent à ceux des grands modèles de langage actuels. Le jeu, sorti en 1999 et toujours populaire, sert ici de substrat pour démontrer que ces propriétés ne dépendent pas exclusivement d’architectures modernes. Le chercheur rappelle que Age of Empires II est Turing-complet, une caractéristique mathématique qui permet d’exécuter n’importe quel calcul en théorie. Les joueurs expérimentés le savaient déjà en créant des scripts complexes, mais la formalisation récente renforce ce constat.

Partir de l’hypothèse nulle plutôt que d’attribuer des qualités humaines

Au lieu d’affirmer d’emblée que l’IA possède une morale ou une intention, de Wynter préconise l’hypothèse nulle : supposer par défaut qu’aucune caractéristique unique n’existe, puis exiger des mesures concrètes pour prouver le contraire. Cette démarche scientifique évite les raisonnements circulaires où l’on projette des attentes humaines sur un système sans critères objectifs. Son travail antérieur, notamment l’expérimentation où GPT-4 jouait à Doom, avait déjà mis en évidence la facilité à obtenir des comportements inattendus, parfois problématiques. Il a également passé en revue plus de deux mille publications pour souligner le manque de rigueur méthodologique dans le domaine.

Les conséquences concrètes de cette projection

Prêter des intentions humaines aux chatbots peut inciter les utilisateurs à leur confier des informations personnelles ou à développer un attachement excessif. Placer Age of Empires II au même niveau qu’un modèle récent souligne que ces attributs supposés dépendent surtout du regard porté sur le système. Les villageois qui coupent du bois dans le jeu illustrent parfaitement cette idée : ils génèrent des actions cohérentes sans posséder de conscience réelle. Cette comparaison invite à une utilisation plus mesurée et critique des outils d’IA.

Les petits paysans d’Age of Empires II rappellent ainsi que l’impression de compréhension peut naître de n’importe quel système suffisamment complexe, sans pour autant impliquer une véritable intériorité.