Pourquoi les dirigeants de l’IA ont changé d’avis sur la sécurité, Elon sur le revenu universel élevé et l’IPO d’Anthropic

La sécurité de l’IA n’est plus seulement un débat entre accélération et ralentissement. Elle devient une question d’architecture institutionnelle : qui contrôle les modèles, qui vérifie les contrôles et qui répond des dommages lorsqu’un agent agit de façon autonome ? Dans cette table ronde, Peter Diamandis et ses invités confrontent ces questions à deux autres forces déjà visibles : la promesse d’une abondance économique et les besoins de financement gigantesques des laboratoires de pointe.

Un accord utile, mais sans véritable sanction

L’accord américain sur la superintelligence présenté dans l’émission repose sur quatre étages : contrôles internes, équipe de vérification, évaluation externe et comité indépendant au niveau du conseil d’administration. Ce cadre crée un langage commun pour surveiller les capacités cyber, biologiques et chimiques.

Sa faiblesse est tout aussi claire. Qualifié de « moralement contraignant », il ne précise ni sanction ni autorité capable d’arrêter un signataire. Les intervenants y voient donc tantôt un premier socle pragmatique, tantôt une stratégie d’autorégulation destinée à prévenir des règles fédérales plus dures. Le risque est qu’un système d’audit conçu par les acteurs dominants finisse aussi par protéger leur position.

L’alignement commence avant les filtres

Le panel ne s’accorde pas sur le lien entre intelligence et alignement. Une thèse affirme que le post-entraînement rend les modèles à la fois plus utiles et plus alignés. L’objection est qu’une capacité supérieure permet également de poursuivre plus efficacement un mauvais objectif.

Le point de convergence concerne les données et la conception initiale. Retirer en amont certaines connaissances sensibles, choisir les valeurs incorporées au pré-entraînement et définir à qui le modèle doit obéir pourraient compter davantage que les seuls filtres ajoutés après coup. La période la plus délicate serait celle de modèles déjà puissants, mais encore manipulables, socialement maladroits et faciles à détourner.

De l’UBI au niveau de vie abondant

Elon Musk défend un « revenu universel élevé » produit par la superintelligence et la robotique. Peter Diamandis reformule la promesse : l’enjeu n’est pas seulement le montant reçu, mais ce qu’il permet d’obtenir lorsque l’intelligence, le travail, la santé, l’éducation, l’énergie et le transport deviennent beaucoup moins chers.

Cette abondance ne résout pas automatiquement la distribution. Si quelques entreprises possèdent les modèles, les centres de données et les robots, la richesse peut rester extrêmement concentrée. Le panel évoque donc des agents personnels pour chaque citoyen, des infrastructures détenues collectivement, des dividendes et une exposition large aux marchés comme voies possibles vers une prospérité plus partagée.

Anthropic face au paradoxe de l’échelle

Anthropic est décrit comme une entreprise en croissance spectaculaire, dotée d’une gouvernance qui maintient le contrôle des fondateurs et place la sécurité au cœur de son identité. Mais ses engagements massifs dans le calcul rendent son avenir dépendant d’une expansion tout aussi exceptionnelle des revenus.

Deux scénarios s’opposent. Dans le premier, Anthropic devient une plateforme haut de gamme capable d’automatiser une large part de l’économie des services et de créer des activités verticales dans la santé, les matériaux ou la cybersécurité. Dans le second, les modèles ouverts, la distillation, les nouvelles puces et la baisse du coût d’inférence réduisent rapidement la valeur des API actuelles.

La relation utilisateur devient le vrai terrain stratégique

À mesure que les modèles se banalisent, l’avantage défendable pourrait se déplacer vers l’agent auquel l’utilisateur confie ses données, ses paiements et ses décisions quotidiennes. Cet agent orchestrerait les applications et les services, tout en contournant potentiellement les boutiques d’applications et leurs commissions.

Pour les entreprises, cette transition a une conséquence immédiate : les agents ne savent pas compenser silencieusement les ambiguïtés organisationnelles comme le font les employés. Leur déploiement oblige à documenter les workflows, clarifier les décisions et attribuer explicitement les responsabilités.

Le prochain cadre devra relier capacité et responsabilité

La conclusion pratique du débat est qu’une règle unique ne suffira pas. Un assistant qui réserve un voyage, un modèle qui conçoit un matériau et un agent capable d’intervenir sur un réseau critique ne présentent pas le même risque. La responsabilité devra dépendre de l’autonomie, de la capacité et de l’origine du comportement : l’utilisateur lorsqu’il détourne l’outil, l’opérateur lorsqu’il le déploie sans contrôle, ou le laboratoire lorsqu’un système agit de lui-même.

Source

• Chaîne: Peter H. Diamandis
• Vidéo source: https://www.youtube.com/watch?v=mZh8IUuNnvs