KM4BI

Was ist Jev? Die KI, die nicht antworten kann (und warum das gut ist)

Ein schneller, kostengünstiger Klassifikator für unübersichtliche Eingaben und klar begrenzte Ergebnisse.

Veröffentlicht am

Jev beruht auf einer ungewöhnlichen Einschränkung: Das Modell kann bereitgestellte Inhalte lesen, aber keine freie Antwort verfassen. Die möglichen Ergebnisse werden vorgegeben, Jev wählt lediglich eines davon aus. In der dargestellten Argumentation ist genau diese Begrenzung der entscheidende Vorteil.

Zwischen festen Regeln und generativer KI

Klassische Software ist stark, wenn sich eine Bedingung eindeutig formulieren lässt, etwa bei einer überfälligen Rechnung oder einem Bestellwert oberhalb eines Grenzwerts. Schwieriger wird es bei Interpretation: Klingt eine E-Mail nach Kündigungsrisiko? Steckt darin eine echte Geschäftschance? Ist sofortiges Handeln nötig? Ein LLM kann solche Sprache verstehen, doch freie Textausgabe ist überflüssig, wenn nur Kategorie, Punktwert oder Freigabe benötigt werden.

Jev besetzt diesen Zwischenraum. Die Beurteilung bleibt probabilistisch, die Ausgabe ist dagegen streng strukturiert. Das Video nennt dies „semi-deterministisch“: Die Software legt zulässige Ergebnisse und Folgeaktionen fest, der Klassifikator ordnet die komplexe Eingabe einem dieser Pfade zu.

Vier Einbaumuster

Erstens kann Jev zwischen eingehenden Informationen und einem vorhandenen Prozess sitzen. Ein Support-Ticket wird kategorisiert, priorisiert und auf Kundenrisiken geprüft, bevor normaler Code es weiterleitet. Zweitens kann das Modell große Suchräume verdichten; im wissenschaftlichen Beispiel wählt es 100 wichtige Immunologie-Fragen aus 10.000 literaturgestützten Kandidaten.

Drittens kann der Klassifikator die äußere Schleife eines Workflows steuern und entscheiden, ob als Nächstes ein Werkzeug, ein LLM, ein leistungsfähiges Reasoning-Modell oder ein Mensch gefragt ist. Viertens lässt sich Sprachbeurteilung direkt in Oberflächen einbauen. Im Tabellenbeispiel führt eine Spalte „Dringlichkeit“ zur sofortigen Klassifikation jeder Zeile und ergänzt herkömmliche Formeln für Daten und Beträge.

Niedrige Kosten verändern den Maßstab

Die genannten Vergleichswerte erklären die Aufmerksamkeit: Eine Pipeline für Steuerdokumente soll 34× günstiger und 6× schneller geworden sein. In einem weiteren Beispiel wurden mehr als 20.000 E-Mails, Slack-Nachrichten und Transkripte in 7 Minuten für insgesamt 1 $ sortiert. Als Preis nennt die Transkription 4,2 Cent pro Million Eingabe-Tokens ohne Kosten für die Ausgabe.

Damit kann Klassifikation von wenigen ausgewählten Kontrollpunkten auf jedes Dokument, jede Interaktion oder jeden relevanten Schritt eines Agenten ausgeweitet werden. Das Video verbindet diesen Effekt mit dem Jevons-Paradoxon: Wird eine Ressource deutlich effizienter, kann ihre Gesamtnachfrage steigen.

Baustein statt Ersatz

Jev macht weiterhin Fehler und muss für den jeweiligen Anwendungsfall getestet werden. Besonders passend sind Aufgaben mit komplexem Input und wenigen erlaubten Ergebnissen. Qualität, Laufzeit und Kosten sollten mit Regeln, vorhandenen Klassifikatoren, LLMs und menschlicher Prüfung verglichen werden. Offenes Denken, Erklären, Erfinden und Schreiben bleiben Aufgaben generativer Modelle; Jev kann bestimmen, wann deren Einsatz sinnvoll ist.

Source