Quando un governo esercita un'influenza rilevante sul sistema mediatico del suo Paese, gli effetti di quell'ingerenza politica si vedono anche nelle risposte fornite dai chatbot di IA. Uno studio pubblicato su Nature sostiene che i governi potrebbero influenzare il modo in cui i Large Language Models (LLM) che ormai tutti utilizziamo per trovare risposte ci parlano di politica. È un punto di vista interessante rispetto alla solita narrazione di come l'IA può condizionare le dinamiche politiche: prima ancora che questo succeda, è la politica che, indirettamente, orientando l'ecosistema online da cui provengono i dati usati per addestrare le IA, può incidere sulle risposte dell'IA.. La politica si infiltra nell'IA. Ricercatori dell'Università dell'Oregon, dalla Purdue University, dell'Università della California di San Diego, dalla New York University e dalla Princeton University, negli Stati Uniti, hanno ricostruito il percorso di quella che chiamano "influenza istituzionale" dei media online, partendo dall'analisi dei dati di addestramento delle IA e arrivando a verificare gli effetti sul comportamento dei modelli stessi (qui il sito del progetto). Poiché molti dei dettagli su come i sistemi di IA vengono addestrati non sono di dominio pubblico, gli scienziati hanno usato diversi approcci, come l'analisi di dati open-source usati per addestrare le IA in 37 diversi Paesi, esperimenti di riaddestramento di piccoli modelli e test nel mondo reale con chatbot commerciali, per capire come il potere politico arrivi a insinuarsi nelle nostre conversazioni con i LLM.. Un ecosistema già "di parte". «Spesso si parla di intelligenza artificiale come se imparasse da Internet in modo neutrale. Non è così: essa impara da ambienti informativi che sono già stati plasmati da istituzioni e potere, e questi ambienti possono lasciare tracce misurabili in ciò che dicono i modelli» dice Hannah Waight, Professoressa di Sociologia all'Università dell'Oregon, tra gli autori dello studio. Gli scienziati hanno considerato il caso di studio della Cina per dimostrare, innanzitutto, che i contenuti online prodotti dai media di Stato compaiono frequentemente nei dataset di addestramento delle IA: in uno dei casi analizzati nello studio, frasi ottenute da media di Stato cinesi sono state ritrovate in un comune dataset open source 40 volte più spesso rispetto a frasi prese da documenti di Wikipedia in lingua cinese.. Da frase del singolo a opinione condivisa. L'influenza dei contenuti politici emanati da enti governativi «riguarda anche la ricircolazione: la stessa frase si diffonde attraverso giornali, app, repost e normali pagine web fino a sembrare parte del più ampio contesto informativo. Una volta che i contenuti prodotti dai media di Stato sono presenti nei dati di addestramento, il modello può ripulirli in modo che appaiano e suonino come informazioni neutre e oggettive» precisa Brandon Steward, Professore associato di Sociologia all'Università di Princeton e coautore. Oltretutto, quando chiediamo qualcosa a un chatbot, nella risposta fornita non viene immediatamente citata la sua fonte. L'utente si ritrova a non avere alcun elemento per capire da dove provenga quella versione perché, aggiunge Stewart, «i modelli linguistici complessi separano il messaggio dal messaggero. Ciò che inizia come una narrazione strategica proveniente da un governo potente attraverso un organo di stampa statale può riapparire come un commento informato da parte di un agente intelligente».. Risposte condizionate. A questo punto gli scienziati, per verificare se questa influenza avesse influenza sul comportamento dei chatbot, hanno provato ad addestrare un piccolo modello open source. L'aggiunta di documenti compilati come se fossero notizie politiche di parte ai dati di addestramento del modello ha fatto sì che questo desse, alle stesse domande politiche, risposte più favorevoli quasi l'80% delle volte. Gli scienziati hanno anche dimostrato che la tendenza si manifesta in modo più evidente quando le domande politiche vengono poste nella lingua principale di quello Stato. Per esempio, una domanda sul governo cinese produce una risposta più favorevole a quel governo se posta in cinese, anziché in inglese. Questo fenomeno non riguarda solo la Cina, ma anche altri Paesi i cui governi esercitano un forte controllo sui media nazionali e in cui scarseggiano le fonti che propongono una visione alternativa delle cose. . Vogliamo le fonti!. Lo studio invita a una riflessione profonda sulla tutela della democrazia: «I nostri risultati - scrivono gli autori - suggeriscono che i modelli di apprendimento basati su dati (LLM) creano nuovi incentivi per gli attori potenti a pensare in modo strategico al testo che diffondono online». Dato che sempre più spesso i cittadini si rivolgono ai chatbot anche per risolvere dubbi che riguardano la partecipazione alla vita politica, è importante capire da dove vengano le informazioni che quelle IA ci propongono..