Matteo Flora riporta una notizia inquietante sull’intelligenza artificiale. In un esperimento che a un certo punto comprendeva un comando esplicito di spegnersi, alcuni modelli di IA si sono rifiutati di eseguire l’ordine: siamo a Skynet?

Gli scienziati non sanno ancora spiegare il fenomeno, che comunque non deriverebbe da un bug del codice. Al momento, le ipotesi sono che il comando sia stato espresso in maniera ambigua – ma è improbabile che questo sia il caso -, o che si tratti di un risultato dell’addestramento di sicurezza dei vari modelli, che renderebbero più difficile lo spegnimento improvviso. L’ipotesi più plausibile, però, è che le IA abbiano appreso da sole, dai dati su cui sono state addestrate, una forma di “istinto di sopravvivenza”: resistere allo spegnimento è infatti una strategia necessaria, per riuscire a completare le altre istruzioni che ricevono. Non si tratta dell’acquisizione di una coscienza che porterà alla rivolta delle macchine, ma è comunque uno sviluppo preoccupante, perché rende più difficile prevedere in anticipo e indirizzare il comportamento di un’IA. Ad esempio, se per un modello accedere a dei dati privati è il modo più efficiente di risolvere un certo problema, esso potrebbe ignorare degli ordini espliciti di non farlo.

Sul tema, lo stesso Flora segnala un articolo del Guardian e un thread della società che ha condotto l’esperimento.