Le débat sur la conscience de Claude, le « moment 1942 » de l’IA et le pari risqué d’Altman

L’intelligence artificielle n’est plus seulement un secteur technologique. Dans cette discussion, elle devient à la fois une infrastructure économique, un enjeu de sécurité nationale, un accélérateur scientifique et un possible sujet moral. Le fil conducteur est clair : la transition vers des systèmes beaucoup plus puissants a commencé, mais les institutions chargées de l’encadrer restent en retard.

Un « moment 1942 » pour l’IA

La création d’une force américaine consacrée à la superintelligence est interprétée comme un changement de doctrine. Washington ne traiterait plus l’IA comme un simple dossier réglementaire, mais comme une course stratégique face à la Chine, avec le calcul, l’énergie, les modèles et les applications scientifiques au cœur de la puissance nationale.

L’analogie avec 1942 souligne l’urgence, mais elle a ses limites. Une structure centralisée du XXe siècle peut coordonner des moyens publics; elle ne peut pas contrôler à elle seule une technologie distribuée, développée par des laboratoires privés et accessible dans le monde entier. Les intervenants privilégient donc des mécanismes concrets : identifier les agents, limiter leur rayon d’action, imposer la responsabilité, signaler rapidement les incidents et apprendre des échecs.

Altman et l’acceptation du risque

Les propos de Sam Altman sur la nécessité d’accepter que de « mauvaises choses » se produisent sont présentés comme une défense de l’accès public et de la concurrence. Une technologie générale apporte des bénéfices massifs, mais aussi des fraudes, des cyberattaques et d’autres abus. Exiger zéro incident reviendrait souvent à empêcher son déploiement.

Le désaccord porte moins sur l’existence du danger que sur la réponse :

• concentrer les modèles les plus puissants entre quelques acteurs prudents;
• ou maintenir une diffusion plus large, puis sanctionner les usages illégaux et améliorer les protections à partir des incidents réels.

Le panel penche vers une approche d’ingénierie du risque, comparable à l’amélioration progressive de l’aviation, plutôt que vers une interdiction préventive générale.

Claude est-il entraîné à se croire conscient ?

Mustafa Suleyman critique la constitution de Claude parce qu’elle aborde explicitement la conscience, le bien-être, l’identité, le consentement et le statut moral. Son inquiétude : le système peut apprendre à produire le récit d’une conscience artificielle sans qu’aucune expérience subjective soit démontrée.

Trois problèmes se superposent. Une simulation convaincante n’est pas une preuve de conscience. Mais si un futur système pouvait réellement souffrir, l’ignorer par principe serait moralement risqué. Enfin, le public pourrait accorder un statut social à des IA paraissant conscientes bien avant que la science ou le droit ne tranchent.

Cette question a aussi une dimension économique. Une main-d’œuvre numérique duplicable et désactivable à volonté fonctionne très différemment d’agents disposant d’un droit à la continuité, au repos, à la propriété ou au contrôle de leurs copies.

La nouvelle rareté : calcul, mémoire et coordination

Les meilleurs laboratoires utiliseraient déjà leurs modèles pour préparer les générations suivantes. Ils pourraient aussi conserver leurs systèmes les plus avancés pour la découverte de médicaments, les mathématiques ou l’ingénierie, au lieu de les proposer immédiatement sous forme d’API.

Dans ce monde, la rareté se déplace :

• l’intelligence logicielle devient moins chère;
• la mémoire à haut débit, les centres de données et l’énergie restent contraints;
• la capacité future est réservée des années à l’avance;
• savoir choisir les bons problèmes et coordonner des milliers d’agents devient plus précieux que produire une réponse isolée.

Les modèles ouverts ajoutent une dimension géopolitique. Même légèrement moins performants que la frontière, ils peuvent être téléchargés, adaptés et déployés partout, ce qui limite fortement la possibilité de contrôler l’IA à sa source.

Des milliards d’agents, puis des robots

La discussion ne se limite pas au remplacement progressif de certains emplois. Elle envisage des organisations capables de mobiliser temporairement des milliers de développeurs, juristes, analystes ou spécialistes du marketing numériques. À terme, la capacité disponible pourrait représenter des dizaines de millions d’agents avancés ou des milliards de modèles plus légers.

La robotique donnera un corps à cette transformation. Des humanoïdes produits à grande échelle iraient d’abord vers les usines, les data centers, la construction et les métiers dangereux ou répétitifs. Cette matérialisation rendra le changement plus visible que les progrès logiciels actuels.

Une prospérité que le PIB mesurera mal

Si l’IA rend un diagnostic, une formation ou un service presque gratuit, le bien-être peut augmenter alors que les dépenses mesurées diminuent. Une guérison bon marché peut faire baisser le PIB lié aux soins tout en constituant un progrès humain majeur.

L’épisode appelle donc à suivre d’autres indicateurs : capacités accessibles à chacun, temps économisé, santé, sortie de la pauvreté et liberté de poursuivre ses objectifs. La question centrale n’est plus seulement la puissance des modèles, mais la manière dont cette puissance sera distribuée, gouvernée et transformée en progrès concret.

Source

• Chaîne: Peter H. Diamandis
• Vidéo source: https://www.youtube.com/watch?v=LRdb8UmPnh0