KM4BI KM4BI

Ogni prompt trascina 18.384 parole di zavorra: ecco come le ho ridotte

Nate B. Jones mostra come mappare e alleggerire l’harness intorno a un modello, caricando il contesto giusto al momento giusto con controlli reali.

Nate B. Jones parte da una scoperta concreta: il suo ambiente di lavoro con l’IA era diventato troppo pesante. Ogni volta che un modello commetteva un errore, lui aggiungeva una nuova regola. Con il tempo, istruzioni personalizzate, file di progetto, memorie, skill, strumenti, permessi e controlli potevano caricare migliaia di parole prima ancora che iniziasse una normale attività di scrittura.

Chiama questo strato l’“harness”: tutto ciò che circonda il modello e ne orienta la risposta prima che l’utente scriva il prompt. Il punto non è eliminare tutto il contesto. Alcune regole proteggono aspetti importanti, per esempio impedire che l’IA trasformi una ricerca in un’opinione attribuita all’utente. Il problema nasce quando non è più chiaro quali regole aiutano davvero, quali si duplicano, quali arrivano troppo presto e quali confondono il modello.

Il cleaner comincia quindi con una mappa. Ogni controllo deve indicare dove vive, quando viene caricato, quale lavoro svolge, chi lo possiede, quali prove mostrano che è ancora utile e quali problemi può creare se usato male.

La pulizia segue sei principi: mappare prima di pulire, attribuire l’errore al livello giusto, dare a ogni regola una sola casa e un solo proprietario, caricare la conoscenza specialistica solo quando serve, trasformare i requisiti rigidi in controlli rigidi, e progettare per il modello e il prodotto che stanno davvero svolgendo il lavoro.

I test descritti mostrano perché conta. Una configurazione più densa può produrre analisi più ricche, ma può anche violare vincoli di consegna come JSON valido o limiti di parole. Una configurazione più compatta ha rispettato meglio i requisiti. Per Fable 5 e per ChatGPT 5.6 in Codex, la lezione non è togliere contesto, ma far arrivare la profondità nel momento giusto e lasciare che schemi, controlli di file, restrizioni sugli strumenti e ricevute di esecuzione verifichino ciò che può essere verificato.

Il messaggio finale è semplice: un harness pulito non è vuoto. È un sistema leggibile, con fonti di verità chiare, competenze specialistiche caricate nella fase corretta, validazioni automatiche e prove diagnostiche sufficienti per capire cosa è successo.

Source