Gerrit De Vynck e Nitasha Tiku sul Washington Post parlano delle ultime disavventure di Gemini, l’IA di Google (€ — alt).

Alcuni utenti di Twitter hanno trovato una falla nel generatore di immagini di Gemini. L’IA crea ripetutamente delle immagini senza correttezza storica, generando persone nere o asiatiche in contesti sbagliati. Per esempio il Financial Times mostra il risultato che ha dato più scandalo (la richiesta era «Genera l’immagine di un soldato tedesco del 1943»).

The tech company's Gemini model was creating images of women and people of colour in inaccurate historical contexts https://t.co/ZZag54GkyS pic.twitter.com/I7Ue6Pegc8

— Financial Times (@FT) February 22, 2024

Alcuni utenti di twitter hanno notato che aggiungere «storicamente accurata» alla richiesta non funziona, in quanto parola (insieme ad altre, come «famiglia nucleare» o richiedere specificamente una persona dalla pelle chiara) su cui il motore si rifiuta di proseguire.

La risposta di Google:

La pausa è stata annunciata in un post su X, dopo che la società aveva riconosciuto i problemi in una dichiarazione del giorno precedente, scrivendo: “Stiamo lavorando per migliorare immediatamente questo tipo di rappresentazioni. La generazione di immagini AI di Gemini genera un’ampia gamma di persone. E questo è generalmente un bene, perché le persone di tutto il mondo lo usano. Ma in questo caso manca il bersaglio”.

Gli esperti azzardano un’ipotesi sul perché del difetto:

Gli esempi di Gemini fuori norma potrebbero essere causati da un paio di tipi di interventi, ha dichiarato Margaret Mitchell, ex co-capo dell’IA etica di Google e capo scienziato etico della start-up di IA Hugging Face. Secondo Mitchell, Google potrebbe aver aggiunto termini di diversità etnica alle richieste degli utenti “sottobanco”. In questo caso, una richiesta come “ritratto di uno chef” potrebbe diventare “ritratto di uno chef indigeno”. In questo scenario, i termini aggiunti potrebbero essere scelti in modo casuale e le richieste potrebbero anche avere più termini aggiunti.

Non è la prima volta che gli algoritmi incappano in svarioni. Bard, il predecessore di Gemini, aveva toppato l’esordio su delle richieste di informazioni sui satelliti artificiali; nel 2015 il riconoscimento facciale di Google aveva scambiato dei gorilla per delle persone africane.