Il Guardian pubblica una riflessione di Joseph de Weck che affronta un problema (o il problema?) del nostro rapporto con i software riuniti sotto il nome-ombrello di Intelligenza Artificiale.

Partendo dalla definizione di Kant dell’Illuminismo (“l’abbandono dell’ immaturità che gli uomini si erano imposti”), l’autore fa notare che l’Intelligenza Artificiale sta ricreando le condizioni di sudditanza psicologica in cui gli umani vivevano nei tempi bui, quando le risposte ai loro “perché?” venivano offerte da una autorità esterna, e non dall’uso della propria capacità di ragionare.

A sostegno delle sue preoccupazioni, de Weck cita uno studio del Massachusetts Institute of Technology che ha monitorato l’attività cerebrale di persone impegnate nella scrittura di saggi. I partecipanti che potevano affidarsi all’intelligenza artificiale mostravano il livello più basso di attività cognitiva e avevano maggiori difficoltà a ricordare o citare il proprio lavoro. Nel corso del tempo, inoltre, tendevano sempre più a copiare direttamente blocchi di testo generati dall’IA.

The study is small and imperfect, but Kant would have recognised the pattern. “Laziness and cowardice,” he wrote, “are the reasons why so great a proportion of men … remain in lifelong immaturity, and why it is so easy for others to establish themselves as their guardians. It is so easy to be immature”

L’attrattiva dell’intelligenza artificiale deriva dalla sua comodità: fa risparmiare tempo, riduce lo sforzo e permette di trasferire altrove la responsabilità delle decisioni. L’articolo richiama anche il pensiero dello psicoanalista Erich Fromm, che nel suo libro Escape from Freedom sosteneva che molte persone preferiscono rinunciare a parte della propria libertà in cambio della sicurezza offerta dalla subordinazione. Secondo de Weck, quindi, l’IA rappresenta una nuova modalità con cui gli individui possono sottrarsi al peso del pensare e decidere autonomamente.

Sure, AI’s appeal lies in its convenience. It saves time, spares effort and – crucially – offers a new way to offload responsibility. In his 1941 book, Escape from Freedom, the German psychoanalyst Erich Fromm argued that the rise of fascism could be explained in part by people preferring to surrender their freedom in exchange for the reassuring certainty of subordination. AI offers a new way of surrendering that burden of having to think and decide for yourself.

L’intelligenza artificiale possiede capacità straordinarie, soprattutto nell’analizzare enormi quantità di dati a velocità impossibili per la mente umana. È proprio per questo motivo che gli utenti tendono a fidarsi delle sue indicazioni. Il problema, però, è che il funzionamento dell’IA rimane in larga misura opaco. Essa produce risposte e conoscenze senza necessariamente rendere comprensibile il processo che le genera. Nemmeno i programmatori, osserva de Weck, sono sempre in grado di spiegare con precisione come vengano raggiunte determinate conclusioni.