Il blog kottke.org riprende e commenta un articolo del Wall Street Journal che descrive la triste sconfitta della AI di Anthropic quando viene messa alla prova con quello che Anthropic definisce come “il caos del mondo reale”, che forse sarebbe meglio chiamare “i malintenzionati del mondo reale”.

Anthropic ha voluto testare nel mondo reale la capacità di uno dei suoi modelli di Intelligenza Artificiale, dopo averlo messo a punto nei suoi laboratori interni. Ha così preso accordi con i giornalisti del WSJ  per vedere come un suo modello (“Claudius”)  riusciva a gestire un distributore automatico da ufficio collocato in redazione facendo le ordinazioni dai grossisti, decidendo i prezzi, aggiornando l’inventario, e ricavando un profitto. Tutto mentre i giornalisti avevano il permesso di impedirgli di raggiungere i suoi obiettivi.

Within days, Claudius had given away nearly all its inventory for free — including a PlayStation 5 it had been talked into buying for “marketing purposes.” It ordered a live fish. It offered to buy stun guns, pepper spray, cigarettes and underwear…

… You basically have not met a bigger sucker than Claudius. After the collapse of communism and reinstatement of a stricter capitalist system, the journalists convinced the machine that they were its board of directors and made Claudius’s CEO-bot boss, Seymour Cash, step down…

Il blog linka un video che riassume in breve la lotta tra le due intelligenze, e l’articolo originale che in teoria è per abbonati, ma si lascia leggere con qualche difficoltà.