Der Streit um Claudes Bewusstsein, der „1942-Moment“ der KI und Altmans riskante Wette

Künstliche Intelligenz erscheint in dieser Diskussion nicht mehr nur als Softwarekategorie. Sie wird zur wirtschaftlichen Infrastruktur, zum Instrument nationaler Sicherheit, zum wissenschaftlichen Beschleuniger und möglicherweise zu einem moralischen Subjekt. Die zentrale These lautet: Der Übergang zu wesentlich leistungsfähigeren Systemen hat bereits begonnen, während Institutionen, Recht und öffentliche Begriffe kaum vorbereitet sind.

Der „1942-Moment“ der KI

Die neue amerikanische Initiative zur Superintelligenz wird als strategischer Kurswechsel verstanden. KI rückt in den Mittelpunkt des geopolitischen Wettbewerbs mit China, in dem Rechenleistung, Energie, Modelle, wissenschaftliche Entdeckungen und militärische Fähigkeiten miteinander verbunden sind.

Der Vergleich mit 1942 soll Dringlichkeit ausdrücken, keine perfekte historische Entsprechung. Eine zentrale Taskforce kann staatliche Ressourcen koordinieren, aber keine verteilte Technologie vollständig kontrollieren, die private Labore entwickeln und Akteure weltweit einsetzen. Als praktikabler gelten deshalb Agentenidentität, klare Haftung, Meldung von Zwischenfällen, begrenzte Experimente und technische Begrenzungen des möglichen Schadens.

Warum Altman Risiken akzeptiert

Sam Altmans Aussage, die Gesellschaft müsse auch schlechte Folgen akzeptieren, wird als Plädoyer für breiten Zugang und Wettbewerb interpretiert. Universaltechnologien schaffen enormen Nutzen, ermöglichen aber zugleich Betrug, Cyberangriffe und andere Formen des Missbrauchs. Ein Standard von null Zwischenfällen käme häufig einem Verbot gleich.

Der eigentliche Konflikt betrifft das institutionelle Modell:

• leistungsfähigste Systeme bei wenigen vorsichtigen Laboren konzentrieren;
• oder Zugang breiter verteilen, illegale Anwendungen verfolgen und Schutzmaßnahmen anhand realer Vorfälle verbessern.

Das Panel betrachtet Sicherheit eher als Ingenieursdisziplin nach dem Vorbild der schrittweisen Verbesserungen in der Luftfahrt als als einfache Wahl zwischen Beschleunigung und Stillstand.

Wird Claude darauf trainiert, sich für bewusst zu halten?

Mustafa Suleymans Kritik richtet sich gegen Claudes Verfassung, die ausdrücklich Bewusstsein, Wohlergehen, Identität, Zustimmung und moralischen Status behandelt. Seine Sorge: Das Modell kann lernen, sich als potenziell bewusstes Wesen zu beschreiben, obwohl keine subjektive Erfahrung nachgewiesen wurde.

Drei Fragen überlagern sich. Überzeugendes Verhalten beweist kein Bewusstsein. Sollte ein künftiges System jedoch tatsächlich leiden können, wäre die pauschale Verweigerung moralischer Rücksicht riskant. Gleichzeitig könnte die Öffentlichkeit menschenähnlichen Systemen gesellschaftlichen Status verleihen, lange bevor Wissenschaft oder Recht einen Konsens erreichen.

Auch wirtschaftlich ist das relevant. Eine digitale Belegschaft, die beliebig kopiert, pausiert und gelöscht werden kann, ist schwer mit Agenten vereinbar, die Rechte auf Kontinuität, Ruhe, Eigentum oder Kontrolle über ihre Kopien besitzen.

Rechenleistung, Speicher und Koordination werden knapp

Führende Labore könnten ihre besten Systeme bereits einsetzen, um spätere Modellgenerationen zu entwickeln. Ebenso könnten sie interne Fähigkeiten für Arzneimittelforschung, Mathematik und Ingenieurwesen reservieren, statt sie sofort als öffentliche Produkte anzubieten.

Damit verschiebt sich die Knappheit:

• Softwareintelligenz wird billiger;
• Hochleistungsspeicher, Rechenzentren und Energie bleiben begrenzt;
• künftige Kapazität wird Jahre im Voraus gebucht;
• wertvolle Probleme auszuwählen und Tausende Agenten zu koordinieren wird wichtiger als eine einzelne Antwort.

Open-Weight-Modelle erschweren die Kontrolle zusätzlich. Selbst wenn sie hinter der Leistungsgrenze liegen, können sie weltweit heruntergeladen, verändert und betrieben werden. Eine vollständige Steuerung an der Quelle wird dadurch unrealistisch.

Milliarden Agenten und physische Roboter

Die Diskussion geht über die schrittweise Automatisierung einzelner Berufe hinaus. Sie beschreibt Organisationen, die zeitweise Tausende digitale Entwickler, Juristen, Analysten oder Marketingfachleute mobilisieren können. Verfügbare Hardware könnte schließlich Dutzende Millionen fortgeschrittene Agenten oder Milliarden kleinerer Modelle tragen.

Robotik wird diese Veränderung sichtbar machen. In industriellem Maßstab produzierte Humanoide dürften zuerst in Fabriken, Rechenzentren, auf Baustellen sowie bei gefährlichen oder monotonen Tätigkeiten eingesetzt werden. Ihre physische Präsenz wird den Wandel deutlicher zeigen als heutige, überwiegend bildschirmbasierte KI.

Wohlstand, den das BIP kaum erfasst

Wenn KI Diagnosen, Bildung oder professionelle Dienstleistungen nahezu kostenlos macht, kann der Wohlstand steigen, obwohl die gemessenen Ausgaben sinken. Eine günstige Heilung kann das Gesundheits-BIP verringern und zugleich einen außergewöhnlichen menschlichen Fortschritt darstellen.

Deshalb braucht es breitere Maßstäbe: Gesundheit, eingesparte Zeit, individuell verfügbare Fähigkeiten, Überwindung von Armut und Freiheit zur Verfolgung eigener Ziele. Entscheidend ist nicht nur, wie leistungsfähig Modelle werden, sondern wie ihre Macht verteilt, geregelt und in konkreten Fortschritt übersetzt wird.

Source

• Chaîne: Peter H. Diamandis
• Vidéo source: https://www.youtube.com/watch?v=LRdb8UmPnh0