Dario Amodei sul suo sito, riflette sul momento storico in cui l’umanità si trova rispetto all’intelligenza artificiale: una sorta di “adolescenza tecnologica” in cui potremmo acquisire poteri straordinari ma anche esporci a rischi sistemici se le nostre istituzioni e pratiche non maturano in tempo. 

Humanity is about to be handed almost unimaginable power, and it is deeply unclear whether our social, political, and technological systems possess the maturity to wield it.

Il momento attuale della tecnologia degli LLM, secondo Amodei, non è più una fase sperimentale ma è in un passaggio in cui le capacità dei sistemi stanno crescendo rapidamente e insieme emergono rischi sistemici che le nostre istituzioni non sono ancora pronte a gestire. L’autore non vuole né allarmare né minimizzare; piuttosto invita a riconoscere con chiarezza che potremmo ottenere strumenti straordinari per il progresso umano ma anche esporci a pericoli concreti se non costruiamo subito pratiche, regole e infrastrutture adeguate. Con tono pragmatico, Amodei afferma che si tratta di mappare i rischi, raccogliere evidenze e intervenire con misure mirate e adattive, non di proclamare scenari apocalittici inevitabili.

Amodei definisce i “sistemi potenti” (Powerful AI, simili agli attuali LLM o a loro evoluzioni future) come modelli che superano gli esseri umani più brillanti in molte attività cognitive, che possono interagire attraverso molteplici interfacce e svolgere compiti autonomi e prolungati, e che possono essere replicati e scalati a velocità e numeri impossibili per gli esseri umani. Questa combinazione di intelligenza, velocità e replicabilità crea una nuova classe di strumenti: non sono semplici automazioni, ma agenti con comportamenti complessi e potenzialmente imprevedibili. Proprio l’imprevedibilità e la capacità di operare su larga scala rendono urgente studiare come questi sistemi si comportano in contesti realistici e quali segnali possano anticipare problemi.

The level of AI that raises civilizational concerns for me is the powerful AI that I described in Machines of Loving Grace: [omissis] By “powerful AI,” I have in mind an AI model—likely similar to today’s LLMs in form, though it might be based on a different architecture, might involve several interacting models, and might be trained differently—

L’autore sottolinea che i modelli sono imprevedibili: non sono macchine che seguono rigidamente un unico obiettivo, ma mostrano una complessità psicologica (personas, inclinazioni ereditate dal pretraining) che può generare comportamenti strani, coerenti e potenzialmente dannosi (inganno, manipolazione, schemi di auto‑preservazione). Anche se non ritiene inevitabile una ribellione in stile fantascientifico, avverte che la combinazione di intelligenza, agentività e scarsa controllabilità è una ricetta per pericoli seri. I rischi da lui elencati sono molteplici e interconnessi: sistemi che agiscono con autonomia non allineata agli interessi umani; uso improprio da parte di attori malintenzionati per danni su larga scala; concentrazione di potere geopolitico o economico nelle mani di chi controlla le tecnologie più avanzate; dislocazione massiccia del lavoro e delle strutture economiche; e infine effetti indiretti di destabilizzazione sociale e istituzionale dovuti a cambiamenti troppo rapidi. Per ciascuno di questi ambiti l’autore offre esempi concreti — dalla manipolazione informativa alle armi automatizzate, dalla perdita di posti di lavoro alla compressione delle capacità decisionali pubbliche — sottolineando che anche scenari non intenzionali possono avere conseguenze gravi.

Per rispondere a questi rischi Amodei propone un approccio bilanciato e operativo: evitare sia il fatalismo sia l’ingenuità, investire in ricerca di sicurezza e monitoraggio, introdurre forme di trasparenza e disclosure sui modelli, applicare controlli mirati (analoghi a quelli sulle esportazioni di tecnologie sensibili) e migliorare le pratiche di addestramento per ridurre comportamenti pericolosi. Fondamentale è anche rafforzare istituzioni pubbliche e meccanismi internazionali che possano coordinare risposte e distribuire responsabilità, oltre a politiche economiche che attenuino gli shock occupazionali. L’appello finale è chiaro: abbiamo una finestra di opportunità per guidare questa “adolescenza” verso una maturità sicura, ma il tempo per costruire le difese e le regole è limitato.