L’Intelligenza Artificiale impara da sola a creare nuovi virus: il pericolo è appena iniziato

Quando il Threat Intelligence Group di Google di ha individuato i primi malware capaci di usare l’intelligenza artificiale per riscrivere in tempo reale il proprio codice sorgente, mutando forma come un virus biologico che cambia pelle per ingannare il sistema immunitario, onestamente non mi sono minimamente stupito. Non c’è alcuna buona ragione per meravigliarsi se i criminali sfruttano le potenzialità dell’IA per sviluppare il proprio business, in fondo sono un’azienda come tante.
Tuttavia questo piccolo evento tecnico apre le porte a una riflessione. Se il “male” impara a programmarsi da solo, vuol dire che l’intelligenza – artificiale o meno – è ormai diventata un’arma a doppio taglio così affilata da non poter essere disinnescata senza smussarla.

Il principio del dual use

Il principio del dual use non è nuovo: ogni invenzione, dal fuoco alla fissione nucleare, è stata insieme promessa e minaccia. Ma l’intelligenza artificiale ha qualcosa di più insidioso: non è un utensile, è un modo automatizzato di “pensare” (le virgolette sono d’obbligo). Gli algoritmi che modificano se stessi e altro spostano il problema dal “cosa fanno” al “cosa possono imparare a fare”. Nel momento in cui un LLM riscrive un malware per eludere i controlli, non è l’algoritmo a sbagliare, ma è il concetto stesso di sicurezza che perde coerenza, perché diventa impossibile definire un confine stabile fra uso e abuso. Immaginate che sia possibile riscrivere un malware per renderlo innocuo… Sempre di riscrittura si tratterebbe, ma con risultati ben diversi.

L’illusione della coscienza digitale

Molti, di fronte a questa prospettiva, invocano controlli etici interni ai modelli: una sorta di “coscienza digitale” capace di dire no. Ma qui la logica si inceppa. Perché ogni limite cablato dentro l’algoritmo diventa anche un limite alla sua capacità di ragionare, e dunque alla sua utilità. È come chiedere a un telescopio di non guardare troppo lontano, per paura di scoprire qualcosa che non ci piacerà. Un’intelligenza completamente vincolata al bene sarebbe, semplicemente, meno intelligente.

Macchine etiche o macchine docili?

C’è poi un paradosso curioso: più tentiamo di imbrigliare i modelli in reti di sicurezza morale, più riveliamo che tendiamo a credere che abbiano una natura umana. Molti pensano che anche noi siamo macchine linguistiche con regole interne – la cultura, la legge, la vergogna – che cercano di contenerci, senza riuscirci mai del tutto. Quindi l’etica, in fondo, sarebbe una forma sofisticata di controllo per limitare la nostra intelligenza.

Immaginare un’IA perfettamente “etica” equivale a credere che la moralità sia un algoritmo. Ma i sistemi generativi apprendono per associazioni, non per intenzioni. Possono imitare la bontà, non sceglierla. Se cablassimo i limiti dentro il loro codice, produrremmo sistemi docili, ma anche ciechi. Se invece li lasciassimo liberi, otterremmo risultati imprevedibili: strumenti potentissimi, ma inevitabilmente pericolosi, perché l’unico limite sarebbe la fantasia di chi li usa e gli esseri umani di quella ne hanno tanta. In entrambi i casi, il rischio non sparisce, semplicemente si sposta.

L’ambiguità con cui dobbiamo convivere

Forse, più che imporre alla macchina di essere etica, dovremmo imparare noi a convivere con la sua ambiguità, come con quella di ogni strumento umano, e iniziare a pensare che la responsabilità delle scelte non si delega. Il problema, ancora una volta, non è l’intelligenza delle macchine, ma la nostra tentazione di usarla per sostituirci.

Il vero specchio siamo noi

In fondo, l’IA che riscrive il proprio codice o quello di un malware non è che uno specchio: ci rammenta che anche noi, da secoli, non facciamo altro che tentare di riscrivere il nostro codice per adeguarci al mondo che ci circonda. E ogni volta che qualcuno crede di aver trovato la versione definitiva, arriva il nostro bug più pericoloso, ma anche più bello, quello che chiamiamo libertà.