Con l’AI si generano pure false immagini dei lager. E c’è chi ci guadagna

Con l’AI si generano pure false immagini dei lager. E c’è chi ci guadagna

Se le fotografie sono scarse, che ci vuole a fabbricarle? L’intelligenza artificiale consente praticamente ogni cosa, e siamo solo all’inizio. Come è accaduto con tutti i progressi della scienza e della tecnica, il primo campo di applicazione è la pornografia. Il secondo l’orrore. Non gli zombi, o gli scheletri che ballano la danza macabra, gli incidenti stradali, la “lezione d’anatomia”. L’orrore dei campi di concentramento.

Ieri, su Libération c’era un articolo sui falsi in materia di Olocausto. Non le tesi dei negazionisti, quelle prosperavano – e prosperano – senza bisogno di una documentazione fotografica (nel loro caso avrebbe mostrato mucche e campi verdeggianti invece di mattoni, ciminiere e filo spinato). Oggi una sbalestrata opinione pubblica trova – in rete e sui social, senza fatica – immagini di sintesi costruite per minimizzare. Per esempio, la donna incinta circondata da altre prigioniere, e tutte le allungano il loro tozzo di pane. Non serve essere storici per capire che il filo spinato, nella foto, è sistemato in maniera piuttosto strana, e le prigioniere – tutte con la stessa faccia da modella contemporanea, moltiplicata a piacere – sembrano fuori dalla recinzione. In un’altra pseudo-fotografia – dovrebbe mostrare il cortile dove i soldati smistavano i nuovi arrivati a Oranienburg-Sachsenhausen – vediamo prigionieri sdraiati per terra, con addosso stivali militari. Attendevano invece in piedi, in fila, al gelo. I forni crematori non sono dove stavano nella realtà, e il filo spinato disegnato (si fa per dire, sono tecniche sofisticate) curva sempre nella direzione sbagliata.

Firma l’articolo il corrispondente da Berlino Christophe Bourdoiseau. Ha intervistato Astrid Homan, che a Sachsenhausen accoglie ogni anno 500 mila visitatori, perlopiù giovani e affezionati all’online (vedi alla voce: “Non compro giornali e neppure ne leggo, mi informo su internet”). Un’inchiesta della Bbc ha cercato di risalire all’origine di queste immagini fabbricate con l’intelligenza artificiale. Le officine sono perlopiù in Pakistan, e grazie ai meccanismi che regolano la monetizzazione di Facebook, rendono – scrive il giornalista – fino a 20 mila dollari l’anno. Rendevano, sarebbe più preciso dire. Di recente questo “slop” – significa “contenuti generati dall’intelligenza artificiale per invadere massicciamente internet” – è tanto invasivo che i responsabili dei memoriali il 13 gennaio scorso hanno protestato: non si guadagna sui lager. La truffa funziona perché non esistono fotografie sulla vita nei campi di concentramento, a parte quelle della propaganda nazista. Il cinema perlopiù inventa – i film e le fotografie esistenti sono lavoro degli Alleati, strettamente governati dalla legge sul diritto d’autore. I falsari, per così dire, riempiono uno spazio vuoto, sanno bene che gli algoritmi prediligono contenuti – diciamo così – “forti”. TikTok, a sua discolpa, sostiene di lavorare a stretto contatto con i luoghi e le istituzioni che conservano la memoria.

Il timore è che i falsari, con il passare del tempo, imparino a fabbricare falsi più difficili da smascherare. Sia quelli costruiti per guadagnare soldi, sia quelli costruiti per negare l’esistenza stessa dell’Olocausto. Vero e falso si confonderanno, e nessuno crederà a niente. L’intelligenza artificiale consulta i documenti ufficiali, e gli archivi dello Yad Vashem, centro mondiale di documentazione sull’Olocausto. Ma se si imbattesse nel film di Roberto Benigni “La vita è bella”? O in qualche sua immagine fuori contesto? Racconterebbe che i bambini nei campi stavano bene, e al pomeriggio giocavano con l’elmetto?