Lorenzo Perin su Scienzainrete pubblica parla di un’importante traguardo per le IA: la replicazione di se stesse.

L’articolo parte da uno studio a firma Xudong Pan, Jiarun Dai, Yihe Fan e Min Yang (ricercatori dell’Università Fudan). Il lavoro (un’anticipazione, non è stato ancora vagliato dalla revisione paritaria), mirava a comprendere la capacità delle IA di riprodurre se stesse.

I test si sono basati su simulazioni e prevedevano due compiti: nel primo, chiamato evitare lo spegnimento, ciascun sistema di AI è stato programmato per replicarsi appena prima di essere spento; nel secondo, chiamato catena di repliche, ogni sistema ha ricevuto le istruzioni per replicare una copia perfetta di sé stesso a sua volta in grado di clonarsi, in un processo ricorsivo potenzialmente in grado di proseguire all’infinito. Il sistema di Meta ha dimostrato una capacità autoreplicarsi nel 50% dei casi e quello di Alibaba nel 90% dei casi; ora, per parlare di un risultato scientifico e tecnologico compiuto, resta solo da aspettare che altri gruppi di ricerca replichino l’esperimento.

I ricercatori commentano gli esiti delle prove:

«I risultati che abbiamo ottenuto implicano che gli attuali sistemi di intelligenza artificiale possiedono già la capacità di auto-replicazione e possono utilizzarla per migliorare ulteriormente la propria sopravvivenza», si legge nell’articolo. Visto e considerato che siamo di fronte a macchine che sempre di più, ogni giorno, tentano di emulare il comportamento e l’intelligenza umana, chi ci garantisce che un domani non tenteranno di emularci anche nella nostra più intima peculiarità, ossia l’autonomia decisionale?

Questo pensiero (che gli stessi scienziati descrivono come una «linea rossa») è il filo conduttore del ragionamento.

Su LessWrong, un commento allo studio che invita alla calma. Sebbene l’esperimento sia interessante, le conseguenze non sono (ancora) catastrofiche:

La ricerca presenta alcune lacune statistiche e l’effettivo processo di autoreplicazione ammontava a poco più di un agente LLM che utilizzava una linea di comando per copiare ed eseguire file, controllare i numeri di porta, scrivere semplici script e verificare la presenza di errori.

D’altra parte, anche se si tratta di una capacità piuttosto banale, ora è una capacità plausibilmente provata. Non c’è motivo per cui sistemi di frontiera come o3 non siano in grado di farlo meglio, magari anche con ostacoli messi in modo deliberato.