Plan de sécurité de l’IA à Cambridge, Instinct accélère et Meta vise l’entreprise

L’IA devient à la fois un sujet institutionnel, un intermédiaire commercial et une nouvelle couche d’infrastructure pour les entreprises. Cet épisode de TBPN rapproche une proposition de sécurité publiée par Cambridge, les chiffres de croissance d’Instinct et le lancement de Meta Enterprise Platform.

Mesurer l’IA qui développe l’IA

La proposition discutée dans l’émission part d’un problème simple: les laboratoires affirment déjà que leurs modèles écrivent du code, génèrent des expériences et participent à la recherche, mais ils emploient des unités différentes. Elle recommande donc des indicateurs comparables sur la part du code, des dépenses et de la R&D réellement attribuable aux systèmes d’IA.

Une telle base permettrait de suivre plus sérieusement une éventuelle accélération de la recherche. Elle donnerait aussi aux pouvoirs publics et aux observateurs externes un moyen de comparer les laboratoires sans dépendre de communications internes incompatibles.

Préparer les incidents avant qu’ils surviennent

Le deuxième volet concerne les réponses gouvernementales à des crises nouvelles: cyberattaque menée par un agent, incident de biosécurité ou désorganisation économique majeure. L’idée n’est pas de prétendre disposer déjà de toutes les solutions, mais de définir à l’avance les responsabilités et les procédures, comme pour d’autres catastrophes.

TBPN oppose cette démarche institutionnelle à la culture survivaliste de certains acteurs de la sécurité de l’IA. Un terrain isolé ou un bunker bien équipé protège peu si son propriétaire n’est pas intégré à la communauté locale; une réserve solitaire peut même devenir une cible.

Instinct transforme la confiance en volume de transactions

Les chiffres repris de l’entretien du fondateur d’Instinct dans Invest Like the Best décrivent un service encore sur invitation mais déjà associé à environ un milliard de dollars de transactions. Les animateurs précisent toutefois qu’ils ne savent pas avec certitude si ce montant est cumulé ou annualisé.

Ils citent aussi une croissance quotidienne de 5 à 10 %, une demande de calcul doublant approximativement chaque semaine et une équipe d’environ quatorze personnes. Le voyage représenterait la moitié du volume. Environ 40 % des utilisateurs partageraient une carte personnelle dans les trois semaines, tandis que la connexion d’au moins une information sensible serait associée à une rétention proche de 80 %.

Les paiements passent encore par des cartes tierces: ce volume n’est donc pas automatiquement du chiffre d’affaires. Parmi les modèles envisagés figurent les commissions commerciales, une carte Instinct et les revenus d’interchange. L’actif le plus difficile à reproduire reste néanmoins la permission accordée à l’agent d’agir avec de moins en moins de supervision.

Le risque collectif d’agents rationnels

L’épisode reprend l’avertissement de l’économiste en chef d’Apollo: des agents financiers pourraient prendre au même moment les mêmes décisions optimales et amplifier un mouvement de marché ou une fuite des dépôts. Aucune coordination explicite ne serait nécessaire si des modèles semblables poursuivent des objectifs semblables.

Les animateurs jugent cependant le danger progressif plutôt qu’immédiat. Les utilisateurs doivent encore connecter leurs comptes, approuver les actions et construire une relation de confiance avant d’accepter une exécution autonome. Cette transition pourrait laisser aux banques et aux régulateurs du temps pour s’adapter.

Meta construit un nouveau pilier d’entreprise

Meta Enterprise Platform doit réunir Muse Agent, Meta Business Agent, Muse API, Muse Code, les modèles du groupe et son infrastructure. CJ Desai est chargé de diriger cette activité.

Pour TBPN, cette bannière peut agréger des revenus très différents: logiciels d’agents, inférence, jetons, services et grands contrats de capacité de calcul. Meta ne lance donc pas seulement un produit; le groupe crée un cadre commercial suffisamment large pour devenir un nouveau pilier de croissance.

Source

• Chaîne: TBPN
• Vidéo source: https://www.youtube.com/watch?v=bDVLnSIbrlU