KM4BI

Cos’è Jev? L’IA che non può rispondere (e perché è un bene)

Un classificatore rapido ed economico per input complessi e un numero limitato di esiti possibili.

Pubblicato il

Jev nasce da un vincolo insolito: può leggere il contenuto ricevuto, ma non può formulare una risposta libera. Le opzioni vengono definite in anticipo e il modello deve scegliere tra quelle disponibili. Nella tesi esposta, proprio questa limitazione ne determina il valore.

Lo spazio tra regole e generazione

Il software tradizionale funziona bene quando una condizione è esplicita, per esempio una fattura scaduta o un ordine oltre una soglia. Diventa meno adatto quando serve interpretare: un’e-mail segnala il rischio di perdere un cliente? Contiene una vera opportunità? Richiede attenzione immediata? Un LLM può capirlo, ma generare testo è superfluo se il sistema attende soltanto una categoria, un punteggio o un sì/no.

Jev si colloca in questo spazio. Il giudizio rimane probabilistico, mentre l’output è vincolato. Il video definisce l’approccio «semi-deterministico»: chi sviluppa stabilisce gli esiti ammessi e le azioni conseguenti, poi il classificatore collega il linguaggio a uno di quei percorsi.

Quattro modalità d’impiego

Jev può anzitutto interporsi tra informazioni in ingresso e un processo esistente. In un sistema di assistenza può classificare un ticket, valutarne l’urgenza e segnalare un rischio per il cliente prima dell’instradamento. Può inoltre ridurre un ampio spazio di ricerca: nell’esempio scientifico seleziona 100 domande di immunologia tra 10.000 candidate basate sulla letteratura.

Una terza configurazione gli assegna il ciclo esterno di un workflow, con la scelta tra uno strumento, un LLM, un modello di ragionamento o una persona. La quarta porta il giudizio linguistico direttamente nell’interfaccia. Nell’esempio del foglio di calcolo, una colonna «urgenza» viene classificata riga per riga e può essere combinata con date, importi e formule ordinarie.

Il costo amplia gli usi possibili

I confronti riportati spiegano l’interesse: una pipeline di documenti fiscali avrebbe ridotto il costo di 34× e accelerato l’esecuzione di 6×; oltre 20.000 e-mail, messaggi Slack e trascrizioni sarebbero stati ordinati in 7 minuti per 1 $. Il prezzo indicato è di 4,2 centesimi per milione di token in input, senza costi di output.

Con questi livelli economici, la classificazione può passare da pochi controlli selettivi a ogni documento, interazione o fase rilevante di un agente. Il video collega l’aumento degli impieghi al paradosso di Jevons: una risorsa molto più efficiente può generare una domanda complessiva maggiore.

Valutare sul caso reale

Jev commette comunque errori. I candidati migliori sono i problemi con molto disordine in ingresso e pochi esiti validi in uscita. Serve confrontare qualità, velocità e costo con regole, classificatori esistenti, LLM e revisione umana. Ragionamento aperto, scrittura, invenzione e spiegazione restano compiti per i modelli generativi; Jev può decidere quando vale la pena coinvolgerli.

Source