La disputa sulla coscienza di Claude, il «momento 1942» dell’IA e la scommessa rischiosa di Altman
Coscienza artificiale, rivalità geopolitica, scarsità di calcolo e miliardi di agenti delineano l’era della superintelligenza.
Pubblicato il
L’intelligenza artificiale non viene più descritta soltanto come una categoria del software. Sta diventando un’infrastruttura economica, uno strumento di sicurezza nazionale, un acceleratore scientifico e forse anche un soggetto morale. L’idea centrale della discussione è che la transizione verso sistemi molto più potenti sia già iniziata, mentre istituzioni, diritto e linguaggio pubblico restano indietro.
Il «momento 1942» dell’IA
La nuova iniziativa statunitense dedicata alla superintelligenza viene letta come un cambio di dottrina. L’IA entra pienamente nella competizione geopolitica con la Cina, dove capacità di calcolo, energia, modelli, ricerca scientifica e applicazioni militari si rafforzano a vicenda.
Il paragone con il 1942 indica urgenza, non un’identità storica. Una task force centralizzata può coordinare risorse pubbliche, ma non controllare da sola una tecnologia distribuita, sviluppata da laboratori privati e disponibile in tutto il mondo. Gli interventi più realistici sarebbero l’identificazione degli agenti, la responsabilità giuridica, la segnalazione degli incidenti, esperimenti limitati e sistemi capaci di contenere i danni.
Perché Altman accetta l’idea del rischio
L’affermazione di Sam Altman secondo cui bisogna accettare che accadano anche cose negative viene interpretata come una difesa dell’accesso ampio e della concorrenza. Le tecnologie generali producono benefici enormi, ma anche frodi, attacchi informatici e altri abusi. Pretendere zero incidenti significherebbe spesso impedirne l’uso.
Il vero contrasto riguarda il modello istituzionale:
- concentrare i sistemi di frontiera in pochi laboratori prudenti;
- oppure distribuire maggiormente l’accesso, punire gli usi illegali e migliorare le protezioni sulla base degli incidenti osservati.
Il panel considera la sicurezza soprattutto un problema di ingegneria, simile all’apprendimento progressivo dell’aviazione, non una scelta binaria tra accelerazione e divieto.
Claude viene addestrato a credersi cosciente?
La critica di Mustafa Suleyman riguarda la costituzione di Claude, che parla esplicitamente di coscienza, benessere, identità, consenso e status morale. Il rischio è che il modello impari a raccontarsi come un essere potenzialmente cosciente senza che sia stata dimostrata alcuna esperienza soggettiva.
Si sovrappongono tre questioni. Un comportamento persuasivo non prova la coscienza. Tuttavia, se un futuro sistema fosse capace di soffrire, negargli ogni considerazione morale potrebbe essere un grave errore. Inoltre, il pubblico potrebbe riconoscere uno status sociale alle IA dall’aspetto umano molto prima di un consenso scientifico o giuridico.
La conseguenza economica è immediata: una forza lavoro digitale copiabile, sospendibile e cancellabile a piacere è incompatibile con agenti dotati di diritti alla continuità, al riposo, alla proprietà o al controllo delle proprie copie.
La nuova scarsità: calcolo, memoria e coordinamento
I laboratori più avanzati potrebbero già usare i loro sistemi migliori per progettare le generazioni successive. Potrebbero anche riservare le capacità interne alla scoperta di farmaci, alla matematica e all’ingegneria invece di offrirle subito tramite prodotti pubblici.
La scarsità cambia natura:
- l’intelligenza software costa sempre meno;
- memoria ad alta larghezza di banda, data center ed energia restano limitati;
- la capacità futura viene prenotata con anni di anticipo;
- scegliere i problemi giusti e coordinare migliaia di agenti vale più di una singola risposta.
I modelli a pesi aperti complicano ulteriormente la governance. Anche quando restano dietro la frontiera, possono essere scaricati, modificati e distribuiti ovunque, rendendo poco realistico un controllo completo alla fonte.
Organizzazioni con miliardi di agenti e robot fisici
La discussione va oltre l’automazione graduale dei singoli impieghi. Immagina organizzazioni capaci di mobilitare temporaneamente migliaia di sviluppatori, avvocati, analisti o esperti di marketing digitali. L’hardware disponibile potrebbe sostenere decine di milioni di agenti avanzati o miliardi di modelli più piccoli.
La robotica renderà visibile questa trasformazione. Umanoidi prodotti su scala industriale entreranno prima nelle fabbriche, nei data center, nei cantieri e nei lavori pericolosi o ripetitivi. La loro presenza fisica renderà il cambiamento più evidente rispetto all’IA oggi confinata soprattutto agli schermi.
Una prosperità che il PIL misurerà male
Se l’IA rende quasi gratuiti diagnosi, istruzione o servizi professionali, il benessere può aumentare mentre la spesa misurata diminuisce. Una cura economica può ridurre il PIL sanitario e nello stesso tempo rappresentare un enorme progresso umano.
Servono quindi indicatori più ampi: salute, tempo risparmiato, capacità accessibili a ogni individuo, uscita dalla povertà e libertà di perseguire i propri obiettivi. La domanda decisiva non è soltanto quanto diventeranno potenti i modelli, ma come tale potenza verrà distribuita, governata e trasformata in progresso concreto.
Source
- Chaîne: Peter H. Diamandis
- Vidéo source: https://www.youtube.com/watch?v=LRdb8UmPnh0