KM4BI

KI-Chefs unterzeichnen eine gemeinsame Verpflichtung: von Watt und BIP bis zum Bewusstsein der Modelle

Ein gemeinsamer Rahmen für KI-Sicherheit, die wirtschaftliche Bedeutung von Gigawatt und die offene Frage nach dem moralischen Status von Modellen.

Veröffentlicht am

Gemeinsame Regeln für die Sicherheit

Führungskräfte von Google, Anthropic, Meta, OpenAI, xAI und NVIDIA haben gemeinsam mit Donald Trump ein Abkommen des Weißen Hauses zu den Pflichten bei fortgeschrittener KI unterzeichnet. Vorgesehen sind interne Kontrollen der Fähigkeiten und Ausrichtung von Modellen, ein Team zur Überprüfung dieser Systeme, unabhängige externe Bewertungen sowie ein eigenständiger Ausschuss des Verwaltungsrats. Sicherheitsteams erhielten damit einen Berichtsweg, der nicht allein über den CEO führt.

Wie aus Gigawatt Wirtschaftsleistung werden sollen

Elon Musk vertrat die These, dass 1 % mehr Stromverbrauch in den USA ungefähr 1 % zusätzliches BIP erzeugen könnte. Bei einer durchschnittlichen nationalen Last von rund 500 Gigawatt entsprächen weitere 10 Gigawatt einem Kapazitätszuwachs von etwa 2 %.

Die Sendung vergleicht diese Rechnung mit der Ökonomie der KI-Labore. Ein dauerhaft verbrauchtes Gigawatt steht rechnerisch für etwa 60 bis 65 Milliarden Dollar Wirtschaftsleistung. OpenAI und Anthropic sollen jeweils ungefähr ein Gigawatt aktiv nutzen und annualisierte Umsätze in einer ähnlichen Größenordnung erzielen. Der Vergleich bleibt unvollkommen: Umsatz entspricht nicht der Wertschöpfung im BIP. Entscheidend ist, ob effizientere Chips, bessere Algorithmen und leistungsfähigere Agenten die nutzbare Intelligenz pro Watt weiter steigern.

Die Streitfrage des Modellbewusstseins

Mustafa Suleyman vertritt eine klare Position: KI-Systeme hätten weder Gefühle noch Leidensfähigkeit oder Bewusstsein und sollten nicht darauf trainiert werden, das Gegenteil darzustellen. Seine Warnung richtet sich auch gegen Anthropics Verfassung für Claude, die einen möglichen moralischen Status des Modells als ungewiss, aber vorsichtshalber relevant behandelt.

Menschenähnlich wirkende Modelle treffen zugleich auf starke Nachfrage, und ein moralischer Rahmen könnte zur Ausrichtung mächtiger Systeme beitragen. Problematisch wäre ein Zirkelschluss: Entwickler bringen einem Modell bei, über ein mögliches eigenes Bewusstsein zu sprechen, und deuten die erlernte Antwort anschließend als Hinweis auf ein inneres Erleben.

Source