Jensen répond aux pessimistes, Xi et Trump parlent d’IA, et l’« IA » change de nom

L’IA avance désormais sur plusieurs fronts à la fois : raisonnement, agents personnels, création procédurale, robotique et découverte scientifique. Devant le public de Moonshots Live, Peter Diamandis et ses invités défendent l’accélération, tout en reconnaissant la nécessité de renforcer la sécurité, l’alignement et la responsabilité.

Sortir du débat binaire entre panique et déni

Le panel reprend les critiques de Jensen Huang contre les probabilités d’extinction présentées sans base expérimentale claire. Sa thèse n’est pas que tout danger a disparu, mais que plusieurs risques distincts sont trop souvent confondus : détournement malveillant, défauts de cybersécurité, infrastructures fragiles, erreurs de modèles et hypothétique perte de contrôle autonome.

La réponse proposée consiste à faire évoluer les protections au même rythme que les capacités. Une analogie revient : les villes n’ont pas été interdites parce qu’elles créaient de nouveaux risques; elles ont développé pompiers, police et services publics. L’IA aurait elle aussi besoin de mécanismes de défense qui montent en puissance avec son déploiement.

La rivalité sino-américaine structure la politique de l’IA

La discussion autour de Xi Jinping et Donald Trump montre deux préoccupations différentes. Les États-Unis veulent préserver leur avance sans déclencher une panique politique qui ralentirait les investissements. La Chine, selon les intervenants, doit aussi protéger la stabilité de son système politique et son contrôle de l’information.

Dans ce contexte, rebaptiser AGI ou ASI en « super intelligence » n’est pas anodin. Le terme rend l’idée plus accessible, mais devient immédiatement un objet politique : certains y voient une capacité cognitive abondante à mettre au service de la société, d’autres une technologie à suspendre ou interdire.

Les modèles deviennent compétents, utiles et incarnés

Au-delà des classements, les nouveautés évoquées marquent un changement qualitatif. Les agents grand public peuvent organiser un agenda, réserver un voyage ou effectuer des achats. Claude Opus 5.5 est décrit comme plus fiable et capable de générer interfaces, animations, jeux et vidéos procédurales à partir de code. Un benchmark de conduite montre en parallèle qu’un modèle généraliste peut contrôler un véhicule expérimental sans modèle robotique conçu de zéro.

Cette convergence fragilise la frontière entre modèle généraliste et système spécialisé. La différenciation se déplace vers la fiabilité, le coût de calcul, l’expérience utilisateur et la capacité à intégrer le modèle dans un produit complet.

La biologie devient un terrain de recherche multi-agents

Anthropic a mobilisé des centaines d’agents Claude pour explorer une vaste base ADN et identifier une enzyme jusque-là inconnue. L’expérience illustre une méthode appelée à se généraliser : définir une cible difficile mais facile à vérifier, lancer de nombreux agents en parallèle, puis tester les résultats dans un laboratoire.

Les intervenants imaginent ensuite des jumeaux numériques de cellules capables d’explorer de vastes espaces d’intervention pour ramener une cellule malade vers un état sain. Cette perspective pourrait accélérer la découverte thérapeutique, mais elle renforce aussi l’urgence de règles opérationnelles pour les usages biologiques sensibles.

Ce qui change pour les décideurs

• Investir dans l’intégration et la fiabilité compte désormais autant que choisir le modèle le mieux classé.
• Les défenses techniques, la traçabilité et la responsabilité doivent progresser avec les capacités plutôt que les suivre plusieurs années plus tard.
• Le calcul, la mémoire et l’énergie deviennent les contraintes stratégiques de la prochaine phase.
• Robotique et biologie pourraient être les premiers domaines où les modèles généralistes produisent des gains économiques et scientifiques disproportionnés.

Source

• Chaîne: Peter H. Diamandis
• Vidéo source: https://www.youtube.com/watch?v=Cbk7hdOwJj4