Jensen widerspricht den Untergangspropheten, Xi und Trump sprechen über KI, und „KI“ bekommt einen neuen Namen

KI entwickelt sich gleichzeitig bei Schlussfolgerungen, persönlichen Agenten, prozeduralen Medien, Robotik und wissenschaftlicher Forschung weiter. Vor dem Publikum von Moonshots Live plädieren Peter Diamandis und seine Gäste für Beschleunigung, betonen aber zugleich, dass Sicherheit, Alignment und Haftung mit den Fähigkeiten wachsen müssen.

Jenseits des Gegensatzes von Panik und Verharmlosung

Die Runde greift Jensen Huangs Kritik an wissenschaftlich nicht klar begründeten Auslöschungswahrscheinlichkeiten auf. Es geht nicht darum, KI für harmlos zu erklären, sondern unterschiedliche Risiken auseinanderzuhalten: böswillige Nutzung, schwache Cybersicherheit, fragile Infrastruktur, Modellfehler und ein hypothetischer autonomer Kontrollverlust.

Als Antwort schlagen die Teilnehmer ein paralleles Hochskalieren der Schutzmaßnahmen vor. Städte wurden nicht verboten, weil sie Kriminalität und Brände mit sich brachten; stattdessen entstanden Polizei, Feuerwehr und öffentliche Dienste. Auch der Einsatz von KI brauche Sicherungen, die ebenso schnell wachsen wie die Systeme selbst.

Der Wettbewerb zwischen den USA und China prägt die KI-Politik

Die Diskussion über Xi Jinping und Donald Trump zeigt unterschiedliche strategische Sorgen. Die Vereinigten Staaten wollen ihre technologische Führung sichern, ohne dass innenpolitische Panik Investitionen einfriert. China müsse nach Ansicht der Runde zusätzlich politische Stabilität und Informationskontrolle schützen.

Vor diesem Hintergrund ist die Umbenennung von AGI oder ASI in „Superintelligenz“ mehr als Marketing. Der Begriff macht das Konzept verständlicher, wird aber sofort zum politischen Streitobjekt: Für die einen bedeutet er reichlich verfügbare kognitive Leistung, für die anderen eine Technologie, die pausiert oder verboten werden sollte.

Modelle werden kompetent, nützlich und handlungsfähig

Die besprochenen Neuheiten deuten auf einen qualitativen Sprung jenseits von Benchmarks hin. Verbraucheragenten können Kalender organisieren, Reisen buchen, einkaufen und digitale Routinearbeit erledigen. Claude Opus 5.5 wird als zuverlässiger beschrieben und kann über Code Oberflächen, Animationen, Spiele und prozedurale Videos erzeugen. Ein Fahrbenchmark legt zudem nahe, dass ein Allzweckmodell ein Versuchsfahrzeug steuern kann, ohne dass dafür ein Robotikmodell von Grund auf entwickelt wurde.

Diese Konvergenz verwischt die Grenze zwischen allgemeinen und spezialisierten Systemen. Differenzierung entsteht zunehmend durch Zuverlässigkeit, Recheneffizienz, Nutzererlebnis und die Einbettung in vollständige Arbeitsabläufe.

Biologie wird zum Multi-Agenten-Forschungsfeld

Anthropic setzte Berichten zufolge Hunderte Claude-Agenten ein, um eine große DNA-Datenbank zu durchsuchen und ein bislang unbekanntes Enzym zu identifizieren. Das Experiment zeigt ein wiederholbares Muster: ein schwieriges, aber schnell überprüfbares Ziel definieren, die Suche auf viele Agenten verteilen und das Ergebnis im Nasslabor validieren.

Die Runde überträgt dieses Prinzip auf digitale Zellzwillinge, die riesige Interventionsräume nach Wegen von kranken zu gesunden Zellzuständen durchsuchen könnten. Das könnte die Wirkstoffforschung beschleunigen, macht aber praktische Schutzmaßnahmen für sensible biologische Anwendungen umso dringlicher.

Worauf Entscheider achten sollten

• Integration und Zuverlässigkeit sind inzwischen ebenso wichtig wie die Wahl des bestbewerteten Modells.
• Technische Abwehr, Nachvollziehbarkeit und Haftung müssen mit den Fähigkeiten wachsen.
• Rechenleistung, Speicher und Energie werden zu strategischen Engpässen.
• Robotik und Biologie könnten die ersten Bereiche sein, in denen Allzweckmodelle überproportionale wirtschaftliche und wissenschaftliche Gewinne erzeugen.

Source

• Chaîne: Peter H. Diamandis
• Vidéo source: https://www.youtube.com/watch?v=Cbk7hdOwJj4