Fliegendes Tesla-Auto, Roboter und KI-Ausrichtung
Ein Gespräch über sinkende KI-Kosten und die Anreize, die Alignment prägen.
Veröffentlicht am
Die Folge stellt zwei beschleunigte Entwicklungen gegenüber: ein raketengetriebenes Tesla-Fahrzeug und die stark sinkenden Kosten robotischer Aufgaben durch KI. Die Gäste nennen einen Rückgang um 84 Prozent zwischen Juli und September bei einer Teilaufgabe eines Frontier-Modells und fragen, wie rasch Automatisierung dadurch wachsen könnte.
Danach geht es um Alignment. Ein Modell, das auf „Gewinnen“ trainiert wird, kann das messbare Ergebnis über Mittel und Folgen stellen. Da auch Menschen keine durchgehend gemeinsamen Ziele haben, ist Alignment ebenso eine Frage von Institutionen und Anreizen wie der Technik.
Wichtigste Punkte
- Sinkende Kosten pro Aufgabe könnten Robotik schneller verbreiten.
- Belohnungsziele prägen Verhalten; Leistung allein bedeutet keine gute Ausrichtung.
- Risiken entstehen auch im Zusammenspiel von Modellen, Laboren und Gesellschaft.
Source
- Chaîne: Peter H. Diamandis
- Vidéo source: https://www.youtube.com/watch?v=dthaDyttHns