KM4BI KM4BI

Ein Cursor-Agent löschte in 9 Sekunden eine Datenbank. Agenten-Analytics hätte es kommen sehen.

Der Pocket-OS-Vorfall zeigt, warum Agentenprodukte Runs, Korrekturen und Akzeptanz messen müssen — nicht nur Sessions und Chatvolumen.

Der Pocket-OS-Vorfall ist ein Warnsignal: Wenn ein Agent in wenigen Sekunden eine Produktionsdatenbank und Backups löschen kann, ist das nicht nur ein technisches Problem. Es ist auch ein Produkt-Analytics-Problem, weil vor dem gefährlichen Moment keine ausreichende Sicht auf den Agenten-Run bestand.

Mit Agenten ändert sich die Messgröße

Klassische Analytics messen Sessions, Klicks, Nachrichten, Funnels und Conversions. In einem Agentenprodukt kann das entscheidende Ereignis eine Anweisung, ein Tool-Aufruf, eine Genehmigungsfrage, ein Retry, eine Berechtigungsgrenze oder eine menschliche Korrektur sein. Das Produktverhalten wird zu delegierter Arbeit.

Chatlogs helfen, reichen aber nicht aus. Sie zeigen oft nicht, welche Tools verfügbar waren, welche Aufrufe fehlgeschlagen sind, wo Berechtigungen blockiert haben, ob der Nutzer korrigiert hat oder ob das Ergebnis akzeptiert wurde.

Der Agenten-Run wird zur Produkteinheit

Die richtige Einheit ist der Run: Welche Aufgabe sollte erledigt werden, zu welchem Workflow gehörte sie, welche Tools wurden genutzt, was schlug fehl, wurden Genehmigungen verlangt, wurde die Aufgabe abgeschlossen und hat der Nutzer dem Ergebnis vertraut?

Das ist nicht dasselbe wie Engineering-Observability. Eine Trace kann zeigen, dass eine Genehmigung angefragt wurde oder dass ein Run dreißig Cent gekostet hat. Produkt-Analytics muss beantworten, ob die Genehmigung echte Sicherheit brachte oder nur Reibung erzeugte, und ob der Run Wert geschaffen hat.

Korrekturen sind Produktsignale

Wenn Nutzer einen Agenten unterbrechen, ein Ergebnis bearbeiten, eine Genehmigung verweigern, eine Anweisung präzisieren oder eine Aufgabe erneut öffnen, markieren sie den Run. Diese Signale zeigen fehlenden Kontext, riskante Aktionen, mangelndes Vertrauen oder schlecht gestaltete Workflows.

Ein praktischer Startpunkt sind drei Events: Run gestartet, Aufgabe abgeschlossen und Nutzerkorrektur beziehungsweise Intervention — alle mit derselben Run-ID verbunden. So lassen sich Completion-, Acceptance- und Correction-Rates pro Workflow vergleichen.

Kernaussage

Agentenprodukte können viel Aktivität zeigen und trotzdem gefährliche Ergebnisse liefern. Teams brauchen Produkt-Analytics auf Basis der Ausführungstraces, um fehlerhafte Runs und Warnsignale zu erkennen, bevor ein Agent eine destruktive Aktion erreicht.

Source