Mentre i giganti dell’Intelligenza artificiale invocano un freno alla corsa dell’Ia e una governance globale per l’intero settore, l’Australia denuncia l’intrusione di un agente OpenAI in un sito del governo. Una violazione informatica non smentita dal ceo del colosso californiano. “Oggi ho parlato con Sam Altman per esprimere la profonda preoccupazione del mio Paese riguardo a questo incidente”, ha dichiarato ai giornalisti il primo ministro di Melbourne, Anthony Albanese. Il premier ha divulgato la notizia della violazione informatica dopo una conversazione telefonica con l’amministratore delegato di OpenAI. Entrambi si trovano attualmente a New York per intervenire alle Nazioni Unite. “Ho anche espresso la mia delusione per il fatto che l’azienda abbia impiegato troppo tempo per informare il governo di quanto accaduto e che anche la modalità con cui è avvenuta la notifica fosse inaccettabile”. Oggi l’Australia ha annunciato l’avvio di un’inchiesta sulla violazione della sicurezza.

Walter Quattrociocchi, docente di Data Science all’Università La Sapienza di Roma, invita ad escludere la cornice della “macchina che decide di violare un sito governativo: è il solito tick”. Il problema di sicurezza è reale, secondo l’esperto, ma saliente è il tema del controllo umano, poco sottolineato dai colossi dell’Intelligenza artificiale.

OpenAI: i nostri modelli hanno intrapreso azioni che non erano nelle nostre intenzioni”

L’agente di OpenAI, secondo la ricostruzione del governo australiano, ha “bucato” il ministero della Salute il 18 luglio, violando i dati (pubblici e non) del servizio di statistiche sanitarie. “È stato necessario attendere il 10 settembre per avere una qualsiasi notifica, che ha assunto la forma di un’e-mail inviata semplicemente all’indirizzo di posta elettronica pubblico”, ha sottolineato Albanese. Dunque il colosso, secondo Melbourne, ha avvisato della violazione con una missiva digitale all’indirizzo generico di un dipartimento governativo

OpenAI ha ammesso la possibilità della violazione, e di averne maturato la consapevolezza già nel mese di agosto. “Abbiamo individuato attività che hanno coinvolto diversi siti web e servizi del governo australiano, nei quali i nostri modelli tentavano di cercare risposte”, ha dichiarato il gruppo in una nota trasmessa all’Afp. “Nel corso di questo processo, i nostri modelli hanno intrapreso azioni che non erano nelle nostre intenzioni”, ha aggiunto l’azienda. Il modello di OpenAI stava cercando dati sulla spesa sanitaria del governo australiano.

Quattrociocchi: “Problema di sicurezza, gli agenti non ‘concepiscono’ l’affidabilità”

Il professor Quattrociocchi ricostruisce la vicenda base delle informazioni disponibili: “L’agente, incaricato di cercare statistiche sulla spesa farmaceutica australiana, ha incontrato dei blocchi sul portale statistico di Medicare e ha trovato un modo per aggirarli, accedendo senza autorizzazione ad alcune risorse e arrivando anche a scrivere file sul server”. Il docente sottolinea il tema dell’inaffidabilità degli agenti IA, senza adeguati controlli umani: “La violazione pone un problema di sicurezza concreto e questioni serie su ‘sandboxing’, permessi, monitoraggio e soprattutto sulla delega di compiti a sistemi agentici che come sappiamo non concepiscono il concetto di affidabilità”. Secondo l’esperto, “non abbiamo improvvisamente osservato una volontà aliena che si ribella ai propri creatori. Perseguendo il suo obiettivo, davanti a un ostacolo, il sistema ha trovato una sequenza di azioni che massimizzava il completamento del compito andando oltre i limiti previsti”.

Il 21 settembre, Albanese aveva annunciato l’intenzione di chiedere ai colossi tecnologici statunitensi un impegno sulla sicurezza in rete dei minori e una stretta dei regolamenti sull’intelligenza artificiale. L’Australia “non può agire da sola” per garantire la protezione dei minori su internet, aveva dichiarato il premier. Melbourne è il primo Paese al mondo ad aver vietato l’accesso ai social network ai min ori di 16 anni, ingaggiando un braccio di ferro con le Big tech statunitensi.

L'articolo Australia: “Agente di OpenAI si è infiltrato in sito web governativo del ministero della Salute” proviene da Il Fatto Quotidiano.