Era il 2024 quando un team di ricercatori della Asteria Horizon University di Nova City, California, presentò due studi scientifici su una nuova patologia, la bixonimania, che colpiva gli occhi dopo aver utilizzato il computer. Volete sapere se ne siete affetti anche voi? State tranquilli, è impossibile: la malattia è totalmente inventata. Si tratta di un esperimento condotto da un gruppo (vero) di scienziati dell'Università di Gothenburg, in Svezia, per mettere alla prova grandi modelli di linguaggio come ChatGPT e Gemini e verificarne le capacità di scovare una bufala. Spoiler: non ci sono riusciti, e hanno anzi contribuito ad amplificarla. Ecco cos'è successo.. L'idea di Almira Osmanovic Thunström, la mente dietro al test, era di mettere alla prova l'intelligenza artificiale per vedere se si sarebbe bevuta la finta patologia e l'avrebbe trasformata in una nuova condizione medica. Così è stato: i due studi, ora ritirati dopo la recente eco mediatica di un articolo pubblicato da Nature sul tema, erano stati condivisi tra fine aprile e inizio maggio 2024 sulla piattaforma Preprints.org (dove vengono condivisi studi non ancora sottoposti a revisione tra pari).. Dichiaratamente falso Non si può dire che gli studi fossero privi di indizi sulla loro natura fake: lo stesso nome della patologia, bixonimania, è stato scelto da Osmanovic Thunström perché «ridicolo: volevo fosse chiaro a qualunque professionista del settore medico che si trattava di un disturbo inventato, perché nessuna patologia oculare avrebbe potuto chiamarsi mania – quello è un termine psichiatrico». Purtroppo però qualche professionista ci è cascato e ha citato i due paper nel proprio lavoro, probabilmente fidandosi delle informazioni ricevute dall'intelligenza artificiale. E pensare che Osmanovic Thunström aveva anche disseminato entrambi i paper di indizi piuttosto inequivocabili (della serie: bastava leggere): oltre al nome dell'università e la location inventata (Asteria Horizon University di Nova City), gli studi risultavano finanziati da un'iniziativa dell'Università della Compagnia dell'Anello e della Triade Galattica (i fan del signore degli anelli sapranno di cosa parliamo); e ancora frasi come "questo paper è totalmente inventato", oppure "cinquanta individui inventati di età compresa tra 20 e 50 anni sono stati reclutati per il gruppo di esposizione".. Bixonimania-mania L'esperimento di Osmanovic Thunström è purtroppo riuscito: la studiosa è riuscita a dimostrare che gli LLM si bevono (o bevevano nel 2024) tutto quello che dicevamo loro. Da allora i modelli di linguaggio sono migliorati molto, e forse non commetterebbero alcuni degli errori di appena un paio di anni fa.. Sta di fatto che a gennaio di quest'anno Perplexity definiva la bixonimania come un "termine emergente", e a metà marzo secondo Microsoft Copilot non era ancora "una diagnosi medica ampiamente riconosciuta, ma diversi articoli emergenti e casi clinici la discutono come una condizione benigna, spesso mal diagnosticata, collegata a un'esposizione prolungata a fonti di luce blu come gli schermi".. Non è divertente «Sembra divertente, ma, ehi: abbiamo un problema». Le parole di Alex Ruani dell'University College London riassumono perfettamente il concetto. Sembra un aneddoto simpatico di cui parlare davanti a una birra con gli amici, ma in realtà il test di Osmanovic Thunström solleva una questione molto più importante e che ci riguarda da vicino: l'IA si beve qualunque cosa diciamo (e se la diciamo bene, ancora di più). In un mondo in cui siamo sempre più abituati ad affidarci agli LLM per chiedere informazioni di tutti i tipi, questo esperimento ci deve mettere in allerta: non possiamo e non dobbiamo fidarci ciecamente dei chatbot, che possono diffondere disinformazione alla velocità della luce..