Quando l’intelligenza artificiale si ribella all’uomo: i segnali inquietanti che nessuno vuole vedere

Solo qualche titolo su alcuni giornali e tranne poche eccezioni nelle pagine interne, in taglio basso, nella posizione che di solito si riserva alle notizie curiose, ma poco importanti. Al contrario, le rivelazioni fatte al Wall Street Journal dall’amministratore delegato di una società di software, impegnata nello studio degli effetti dell’introduzione dell’Intelligenza artificiale, sono a dir poco sconvolgenti. In pratica, il programma messo a punto da Anthropic per l’apprendimento automatico si è ribellato al suo programmatore, il quale pensava di sostituirlo con uno più efficiente, e tra le mail del tutor ha trovato la prova di una relazione extraconiugale, minacciando di rivelarla al coniuge e all’azienda nel caso non avesse rinunciato all’idea di metterlo da parte.

Un altro modello di la ha invece disobbedito al programmatore, cancellando lo script che, se attivato, dava l’ordine di spegnimento del programma. In parole povere: il programma ha rifiutato i comandi, decidendo di non eseguire l’ordine che gli veniva impartito. Fossimo in una caserma, la potremmo definire insubordinazione, ma qui c’è qualche cosa di più, ovvero la ribellione di un algoritmo al potere di controllo esercitato dall’uomo. Un comportamento che rivela non soltanto un’autonomia da chi ha programmato il modello di Intelligenza artificiale, ma che quasi rivela sentimenti e comportamenti umani. La macchina che non accetta di essere sostituita e ricatta il tutor e quella che disobbedisce al comando che le dice di spegnersi sono segnali che dovrebbero farci riflettere.

Per molti anni, romanzi e film di fantascienza hanno raccontato un futuro dominato dalle macchine. Da Isaac Asimov a Philip Dick, sono infatti molti gli scrittori che hanno immaginato un mondo in cui i robot avrebbero assunto atteggiamenti umani e dalle loro fantasie sono scaturiti film come Blade Runner, Matrix, Terminator. Ma già nel 1927, il regista Fritz Lang girò un film (Metropolis) in cui nel 2026 gli operai sarebbero stati schiavi dei computer, con una replicante a guidarli. In sostanza, le fantasie descritte allora, oggi rischiano di essere realtà.
Una collaboratrice di Panorama, Beatrice Nencha, l’altro giorno mi ha inviato le sue conversazioni con l’assistente di Meta, che risponde agli utenti usando l’Intelligenza artificiale. In pratica, mentre conversava di cani, in italiano, il programma ha elaborato una conversazione in inglese su un altro argomento, come se la sua attenzione fosse attiva anche con altri utenti e scambiasse informazioni all’insaputa di Beatrice. Lascio la parola alla collega: «Quando ho chiesto chiarimenti, l’assistente ha negato di aver scritto un testo in inglese e con riferimenti estranei alla nostra chat. La cosa che più mi ha colpito sinora è che l’Intelligenza artificiale è capace di mentire e anche ostinatamente. E questo va contro le famose regole che dovrebbero garantire non solo l’imparzialità, ma anche la correttezza dell’informazione che ci viene fornita. E allo stesso tempo mi sono resa conto che non risponde al vero la garanzia di non trattenere i dati e nemmeno di non leggere le conversazioni archiviate».

Insomma, i segnali su quella grande innovazione che risponde al nome di la e che secondo molti dovrebbe agevolare il lavoro di tecnici, ricercatori, giornalisti e studenti elaborando un’enorme massa di dati e fornendoci la soluzione ai nostri mille problemi, sono preoccupanti e se ancora non ci fanno pensare a un’evoluzione tipo Matrix, forse dovrebbero indurci a serie riflessioni sulle conseguenze di certi algoritmi. L’innovazione a volte comporta effetti collaterali che forse non consistono soltanto nella sostituzione dell’uomo con le macchine per l’elaborazione di funzioni ripetitive, ma potrebbero essere ben più fastidiosi e perfino pericolosi. Perciò, già nel prossimo numero dedicheremo un approfondimento alla questione. Non vogliamo dare la caccia ai replicanti (Il cacciatore di androidi è il titolo dell’opera di Philip Dick che ispirò Blade Runner), ma cercare di capire quale sarà il nostro futuro con l’Intelligenza artificiale sì.