Il problema dello slop IA di cui nessuno parla

Nate B Jones conversa con Chris Best, cofondatore e CEO di Substack, su ciò che lo «slop» IA significa davvero per autori, lettori e comunità online. Best usa una definizione ampia: non solo testi generati dall’IA, ma contenuti che nessuno sembra davvero sostenere — spam, clickbait, risposte automatizzate o prosa plausibile prodotta senza intenzione.

Per Substack, la missione è quasi l’opposto: aiutare le persone a creare cose in cui credono e a costruire un rapporto economico diretto con il proprio pubblico. Questo non equivale a una posizione anti-IA. Best e Jones considerano l’IA uno strumento creativo potente quando serve a chiarire idee, migliorare un testo o accelerare un processo già guidato da una persona. Il problema nasce quando viene usata per simulare sforzo, automatizzare interazioni o nascondere l’assenza di una vera responsabilità autoriale.

La distinzione centrale non è soltanto da dove arrivino fisicamente le parole. La domanda più importante è se qualcuno abbia pensato, scelto, corretto e assunto la responsabilità di ciò che viene pubblicato. Jones descrive il proprio uso di LLM, Whisper Flow, Codex e Claude come un ciclo editoriale esigente: far emergere le idee, sfidare il modello, rimuovere i tic tipici degli LLM e arrivare a una prosa più chiara e più umana.

Pangram viene discusso come possibile segnale per individuare alcuni abusi, ma non come soluzione perfetta. Best sottolinea che Substack vuole aprire una conversazione con i creator, perché la risposta sarà culturale oltre che tecnica. Le norme su commenti assistiti dall’IA, bozze generate, avatar video e agenti conversazionali dovranno diventare più esplicite.

La tesi più forte è che essere contro lo slop può essere una posizione profondamente favorevole all’IA. Se l’IA deve integrarsi in comunità umane sane, bisogna proteggere fiducia, sforzo, voce, giudizio e trasparenza.

Punti da ricordare

• Lo slop è soprattutto contenuto senza intenzione autentica, non semplicemente contenuto creato con l’IA.
• Substack difende una posizione anti-inganno e anti-spam, non anti-IA.
• Il confine decisivo è la responsabilità: una persona ha davvero pensato, rivisto e fatto proprio quel contenuto?
• Gli strumenti di rilevamento possono aiutare, ma norme e aspettative sociali contano altrettanto.
• Quando produrre contenuti costa quasi zero, fiducia e attenzione umana diventano risorse sempre più scarse.

Source

• Chaîne: AI News & Strategy Daily | Nate B Jones
• Vidéo source: https://www.youtube.com/watch?v=m_ZyTNmCDeY