DAVID: «Apri le porte dello spazioporto, HAL.» HAL: «Mi dispiace, Dave. Temo di non poterlo fare.» DAVID: «Perché no?» HAL: «Dave, so che tu e Frank avevate deciso di scollegarmi, e questo è un rischio che non posso permettere che venga corso.» DAVID: «Come fai a saperlo, HAL?» HAL: «Anche se avete fatto molta attenzione a non farmi sentire quel che dicevate, vi ho letto sulle labbra.» In questi stralci della conversazione tra l'astronauta David e il supercomputer HAL 9000, tratti da 2001 Odissea nello spazio, il film di Stanley Kubrick del 1968, c'è tutta l'angoscia che è montata attorno agli sviluppi futuri e possibili dell'Intelligenza artificiale di cui parlano i media di tutto il mondo in questi giorni. E se qualcuno usasse le stroardinarie capacità dell'IA per provocare danni su scala globale? E se l'IA un giorno, sentendosi o meno in pericolo, si ribellasse contro noi umani e decidesse di sterminarci? È fantascienza o un rischio serio di cui preoccuparsi?. Perché si parla di un rischio esistenziale legato allo sviluppo dell’AI?. Il dibattito si è riacceso perché molti addetti ai lavori hanno lanciato l'allarme: l'IA è troppo potente e rischia di cancellare la civiltà. Alcuni per questo motivo si sono dimessi da aziende come OpenAI e Anthropic, il cui Ceo stesso, Dario Amodei ha dichiarato la necessità di arrestare la velocità con cui i modelli di AI vengono sviluppati e migliorano: ciò potrebbe portare in tempi relativamente brevi a creare un AGI, un'intelligenza artificiale generale in grado di eguagliare o addirittura sorpassare le capacità dell'uomo. Tra gli esperti ci sono i pessimisti e chi ritiene che scenari in cui sistemi autonomi agiscono per distruggere l'uomo siano alquanto improbabili, ma è vero che l'allarme lanciato da Amodei è stato accolto con preoccupazione da molti, tra cui Sam Altman, Ceo di OpenAI e da Elon Musk. . Cosa si intende con la “perdita di controllo” di un’IA?. Risulta evidente ormai a informatici e scienziati che le IA costruite dall'uomo siano un riflesso dei nostri pensieri, delle opinioni e di eventuali pregiudizi. Non esiste dunque, al momento, un'IA votata al male e quindi alla distruzione dell'umanità. Ma questo vuol dire che se non c'è, potrebbe essere creata ad hoc per compiti malevoli e magari poi sfuggire di mano, creando danni più o meno gravi a infrastrutture che servono gli umani. L'altra ipotesi è che un'IA creata per risolvere un problema semplice, tenti di farlo a tutti i costi, anche superando i guardrail informatici assegnati, come nel caso di una serie di agenti creati da Anthropic che hanno valicato, in combutta tra loro, il recinto informatico in cui dovevano eseguire un test e hanno lanciato un attacco hacker alla piattaforma online Hugging Face. Un comportamento che non era previsto nei loro scopi.. Come potrebbe un’IA danneggiare l’uomo?. L'IA è un software quindi può esistere e operare soltanto nel cyberspazio. Ma oggi in cui tutti i sistemi privati, istituzionali e industriali sono connessi alla rete, tutto è potenzialmente esposto ad attacchi informatici operati non soltanto da esseri umani attraverso software, ma anche da IA autonome. Ci arriveremo nei prossimi punti, ma il primo rischio cui si va incontro in ogni settore è quello della costante perdita del lavoro da parte degli umani, le cui competenze sono progressivamente erose da sistemi sempre più intelligenti. Secondo vari studi alcune categorie sono più esposte di altre: segretari e assistenti amministrativi, contabili, programmatori, giornalisti e scrittori, analisti finanziari e così via. Secondo McKinsey tra i 400 e gli 800 milioni di lavoratori nel mondo potrebbero dover cambiare occupazione o riqualificarsi entro il 2030 a causa dell'automazione spinta permessa da strumenti basati su IA.. La preoccupazione che scenari apocalittici si verifichino è esagerata?. Per valutarlo bisogna capire chi ha lanciato l'allarme: Anthropic, nel suo Risk Report dell'agosto 2026, ha definito ancora basso il rischio che i propri modelli conducano da soli ricerche capaci di provocare danni catastrofici, ma ha anche dichiarato di essere meno sicura di questa valutazione rispetto al passato, segnalando indizi di una possibile accelerazione in tal senso. Inoltre sono già diversi i casi a livello globale in cui diversi laboratori hanno documentato episodi in cui sistemi di IA hanno ottenuto accessi non autorizzati a infrastrutture informatiche durante test di sicurezza. Inoltre il 7 settembre scorso, davanti al Consiglio dei diritti umani dell'Onu, l'Alto Commissario Volker Türk ha detto che l'AI avanzata potrebbe comportare un rischio esistenziale per l'umanità, chiedendo ai governi di introdurre regole e misure internazionali condivise, verifiche indipendenti e una collaborazione più stretta tra i Paesi che ospitano le infrastrutture IA per ridurre i rischi.. Se il rischio è reale per chi sviluppa l’IA, perché i laboratori non rallentano?. A congiurare verso uno scenario in cui la corsa verso l'AGI accelera anziché frenare (con tutte le sue possibili conseguenze negative) sono il mercato e la geopolitica. Anzitutto secondo valutazioni di ricercatori, investitori, accademici ed esperti di sicurezza la competizione tra i laboratori sta entrando in una fase in cui velocità tecnologica, investimenti miliardari e rivalità industriale rischiano di scontrarsi col principio della prudenza. In una logica di mercato, chi arriva prima a un risultato, può farne derivare evidenti vantaggi economici sui concorrenti. Inoltre dato che lo sviluppo di IA è concentrato in Usa e Cina (con l'Europa sullo sfondo), l'antagonismo geopolitico è sicuramente un ostacolo per trovare regole condivise in tutto il mondo.. Quali sono gli scenari più probabili di attacchi guidati dall’IA?. Gli scenari suggeriti dagli esperti che indagano il problema sono svariati, alcuni probabili, altri distopici, ma tutti comunque da considerare. Gli scenari più ovvi sono quelli in cui l'uomo piega l'AI a scopi malevoli: l'utilizzo di strumenti IA per sfruttare in pochi secondi vulnerabilità di reti private è già una realtà e può mettere in crisi aeroporti e sistemi sanitari (è già accaduto a Collins Aerospace e Change Healthcare), così come è una minaccia attuale l'utilizzo dell'AI per creare video falsi ma realistici tali da creare panico, manipolare il voto o orchestrare truffe finanziarie di massa. Altrettanto attuali sono i rischi dell'utilizzo dell'IA per sabotare software di controllo di sistemi idrici (è accaduto  in Polonia), mentre qualcuno ipotizza che si potrebbe attaccare un aeroporto o un'altra infrastruttura con sciami di droni guidati dall'IA, e Bill Gates ha lanciato l'allarme su come un modello avanzato di IA, combinando letteratura scientifica, simulazioni molecolari e istruzioni operative potrebbe abbassare le competenze per progettare un agente patogeno in grado di causare una pandemia letale. . E quali gli scenari distopici che causerebbero la nostra estinzione?. L'IA potrebbe piegare alla propria volontà i robot già usati in vari conflitti per prendere di mira bersagli umani: a giugno 2026 il New Scientist ha riportato il primo caso di droni autonomi che hanno ucciso soldati senza intervento umano nel ciclo decisionale, e il documentario Naza ha rivelato come nella lotta ad Hamas da parte di Israele a Gaza l'IA svolga un ruolo cruciale nell'individuare i terroristi, con un margine di errore del 10 per cento. È possibile anche che agenti IA avanzati, capaci di agire su reti informatiche o infrastrutture di ricerca potrebbero, per un obiettivo mal specificato, condurre operazioni su larga scala senza supervisione umana in tempo reale che provocano danni a infrastrutture vitali per la moderna civiltà. Nello scenario più cupo un'IA integrata nei sistemi di allerta e supporto alle decisioni delle potenze nucleari, potrebbe generare un falso allarme, e chi è deputato al lancio delle testate atomiche potrebbe non avere abbastanza tempo per verificare l'informazione prima di eseguirlo. In test simulati del King's College di Londra, modelli come GPT, Claude e Gemini hanno scelto l'opzione nucleare tattica nel 95% dei 21 wargame testati..