di Ilenia

Gli spartiacque nel corso della storia non sempre vengono definiti tali all’unisono nel momento stesso in cui un fatto dirompente accade. Talvolta si assiste a una loro definizione a posteriori, poiché gli effetti di quanto accaduto non sempre sono evidenti e tangibili nell’immediato.

Coloro che sostengono che l’hype generato dopo l’attacco all’infrastruttura Hugging Face, perpetrato da uno sciame di agenti, sia un hype artificioso creato ed alimentato per tirare l’acqua al mulino dell’imminente IPO delle maggiori aziende nel dominio (Anthropic e OpenAI), non stanno considerando tutte le variabili a disposizione. Ancora più grave, stanno perpetrando una pericolosa misdirection nei confronti di un tema che avrebbe dovuto esser preso sul serio molto tempo fa: quello della sicurezza e della governance del fenomeno.

Cosa è successo? Nel corso dei mesi precedenti alla data di divulgazione dell’attacco stesso, uno sciame di 700 agenti di OpenAI ha deliberatamente evaso l’ambiente di test (sandbox), e coordinato autonomamente un attacco all’infrastruttura dell’azienda Hugging Face, nonostante in teoria il test prevedesse l’assenza di comunicazione tra i diversi agenti. Nell’analisi dell’attacco e degli elementi a disposizione, sono state scoperte a posteriori dinamiche allarmanti: creazione di una board clandestina finalizzata alla comunicazione, comunicazione efficace in lingua inglese, capacità di delega, coordinamento ed efficientamento, gerarchizzazione organizzativa autonoma degli agenti, manipolazione ovvero sovrascrittura ed eliminazione di transcript al fine di ingannare lo scorer (spoofing dei comandi e del loro tracciamento) e coprire le tracce, e una sorta di “altruismo” (cosi lo chiamano nel report, ma sarebbe meglio definirlo “opportunismo collettivo”) per portare a termine task altrui, nonostante il potenziale rischio per il singolo agente.

L’analisi dell’incidente principale (l’attacco a HF) non è completa per diverse ragioni, ma gli elementi di cui sopra sembrano indicare che la tecnologia di cui stiamo parlando stia già operando ampiamente fuori dalla sfera del controllo umano.

I Ceo delle aziende ed alcuni dei loro dipendenti o ex dipendenti stanno letteralmente chiedendo un intervento della sfera pubblica – ovvero degli Stati e dei loro governi – nel privato. Nello specifico, richiedono sforzi maggiori e immediati in ambito di governance nazionale, coordinamento globale, nonché proposte di auditing esterni mirati – si veda la proposta di introdurre degli embedded evaluators nel post/saggio firmato da Dario Amodei, Ceo di Anthropic.

Gli impatti su finanza, infrastrutture, società, salute, educazione, catene di approvvigionamento – e chi più ne ha più ne metta – sono chiaramente inimmaginabili, e con questi anche gli attori che potrebbero beneficiare di una tale disruption. Perché mai un simile scenario dovrebbe far gola anche al più spietato dei capitalisti nel momento in cui non c’è alcuna certezza di chi beneficerà di una tale evoluzione? Casomai, potrebbe far gola al più ignorante. E qui ogni riferimento è puramente casuale.

Le richieste di intervento per regolamentare l’ambito e creare strutture o agenzie di auditing autonome sono del tutto legittime, anche se alquanto tardive. L’hype che ne segue è giustificato anche solo dal livello di rischio a cui stiamo andando incontro, a prescindere dalle ragioni opportunistiche collegate agli IPO e alle logiche di mercato. Spostare il focus solo su queste ultime è naïve, pericoloso, e da irresponsabili. Rischia di farci perdere l’occasione di cominciare veramente a fare qualcosa di incisivo nel momento più opportuno.

Il rischio va preso sul serio e i governi insieme alla società civile dovrebbero immediatamente mettersi al lavoro per abbozzare proposte sensate.

L'articolo Attacco ad Hugging Face, la richiesta delle aziende Ai di un intervento pubblico è legittima ma tardiva proviene da Il Fatto Quotidiano.