KM4BI

Recursives 670-Millionen-Dollar-Wette auf selbstverbessernde KI, Sonnet 5.5 bei 70 % und Elons Mitführung der Pentagon-Offensive — EP 299

Richard Socher spricht über Recursive, automatisierte Wissenschaft, den Modellwettbewerb und notwendige Grenzen für autonome Waffen.

Veröffentlicht am

Rekursive Selbstverbesserung bei künstlicher Intelligenz entwickelt sich von einer Theorie zu einem konkreten Forschungsprogramm. Richard Socher zufolge existieren bereits begrenzte Formen, und allgemeinere Varianten rücken näher. Künstliche Superintelligenz sieht er dennoch erst in mehreren Jahrzehnten.

Die Selbstverbesserungsschleife aufbauen

Recursive hat eine Finanzierung von 670 Millionen Dollar sowie AWS-Rechenkapazität im Wert von 410 Millionen Dollar angekündigt. Ziel sind Systeme, die die KI-Forschung selbst beschleunigen: Ideen erzeugen, umsetzen, Ergebnisse bewerten und den Zyklus mit immer weniger manueller Koordination wiederholen.

Dieser Ansatz passt zu einer Full-Stack-Vision automatisierter Wissenschaft. Sprachmodelle liefern allgemeines Wissen, digitalisierte Forschungsdaten die Evidenz, Simulationen ermöglichen schnelle Experimente, und Robotik verbindet softwarebasiertes Denken mit physischer Validierung. Agentenschwärme können die gesamte Schleife aus Idee, Umsetzung und Überprüfung koordinieren.

Benchmark-Sprünge und die Wahl des Modells

In der Folge wird berichtet, Sonnet 5.5 habe sich bei Terminal Bench 4.0 von 10 % auf 70 % verbessert. Das Panel diskutiert dennoch, wann es gegenüber Opus 5.5 oder offenen Modellen die bessere Wahl ist. Kosten, Latenz, Kontrolle und Bereitstellungsbedingungen können ebenso wichtig sein wie ein auffälliger Benchmark-Wert.

Damit wird der Wettbewerb zwischen geschlossenen und offenen Modellen strategisch. Schnellere Veröffentlichungen und spezialisierte Modelle können eine Reaktion auf Open-Source-Alternativen und internationale Konkurrenz sein, während Unternehmen Leistung gegen die Kontrolle über den eigenen Stack abwägen.

Von Aufgaben zu Ergebnissen

Wenn KI Forschung, Programmierung, Marketing und Projektarbeit übernimmt, verlagert sich der menschliche Beitrag auf Problemdefinition, Randbedingungen, Urteilsvermögen und Ergebnisverantwortung. Für das Bildungssystem entsteht ein schwieriger Übergang, weil Urteilsvermögen traditionell durch genau jene Einstiegsaufgaben entstand, die Agenten nun automatisieren.

Autonome Verteidigung braucht klare Grenzen

Project Meridian wird als Pentagon-Initiative zur Zukunft der Kriegsführung beschrieben, die Elon Musk und Palmer Luckey mit leiten. Im Mittelpunkt stehen die Anpassung militärischer Beschaffung an kurze Technologiezyklen und die Grenze menschlicher Kontrolle. Sochers Position ist eindeutig: Bei Entscheidungen über menschliches Leben muss eine wirksame menschliche Aufsicht erhalten bleiben.

Dieselbe Technologie kann wissenschaftliche Entdeckungen beschleunigen, Unternehmertum ausweiten und die Kriegsführung verändern. Die praktische Aufgabe besteht darin, Institutionen und Schutzmechanismen zu schaffen, die mit dem Tempo der eingesetzten Systeme mithalten.

Source