Marco è seduto alla scrivania e sta chattando con Silvia. L'ha conosciuta online qualche giorno fa, e i due hanno cominciato a scambiarsi messaggi. "Che cosa ti piace?", chiede lui. "Vado matta per il sushi", risponde lei. "Ti va di incontrarci?". "Prima di uscire insieme vorrei conoscerti meglio"... A un certo punto un dubbio assale Marco: non ha mai visto Silvia; non è la prima volta che lei rifiuta un incontro… e se non fosse una persona, ma un'Intelligenza artificiale?. È capace di ingannarci I dubbi di Marco sono fondati, ma le implicazioni sono ben più profonde di una semplice chat o di una conversazione anche vocale come quelle che si possono effettuare oggi. Il primo a porsi la domanda di come distinguere un umano da un algoritmo fu infatti il matematico britannico Alan Turing, che fu tra i pionieri di quella che oggi chiamiamo IA. All'epoca non c'erano i computer moderni, non c'era nemmeno l'elettronica basata sul silicio. I calcolatori con cui aveva lavorato Turing erano quelli usati durante la Seconda guerra mondiale dagli inglesi per decifrare i messaggi in codice dei tedeschi.. Ma il visionario scienziato non poté fare a meno di chiedersi: in linea di principio, le macchine possono essere intelligenti? O, meglio, possono pensare? Non essendo in grado di definire bene l'intelligenza o il pensiero, in un articolo sulla rivista Mind Turing propose nel 1950 un modo di procedere operativo che chiamò "Imitation Game" e che oggi è noto come "Test di Turing". Immaginiamo di poter chattare per un tempo illimitato con due interlocutori: uno è un algoritmo, l'altro una persona. Se non siamo in grado di identificare chi è la persona, vuol dire che l'algoritmo ci ha ingannato, cioè ha superato il test. Per decenni si è pensato che questa idea fosse teorica e lontana dalla realtà. Oggi invece l'IA ci inganna davvero. Vuol dire che è intelligente e che ha un pensiero?. Traditi dal servilismo La risposta semplice è no, perché il Test di Turing è basato sui comportamenti: se una macchina passa il test, vuol dire che si comporta come un essere intelligente, non che lo è davvero. Insomma, è un po' come il Mago di Oz della celebre fiaba: sembra grande e potente, ma se si guarda da vicino è solo un mix di fumo ed effetti speciali. I moderni Large Language Model (Llm) come ChatGPT sono abili giocolieri con le parole. «Ma è facile per un'IA "barare" a livello conversazionale, cioè farsi passare per un umano», chiarisce Alfio Quarteroni, professore emerito al Politecnico di Milano e autore del libro L'intelligenza creata (Hoepli). «Si possono usare per esempio strategie evasive (essere vaghi) o umorismo». Ma se si va a guardare meglio, si trova sempre il modo di "smascherare" un software di questo tipo. «Per esempio oggi i principali chatbot come GPT4, Claude e Gemini hanno comportamenti servili, nel senso che tendono ad assecondare l'interlocutore», svela Quarteroni. «Questo atteggiamento è detto sycophancy e può essere usato per distinguere un uomo da una macchina».. Ma non è sempre così semplice. «Oggi si pensa che, in alcuni casi, determinati sistemi abbiano occasionalmente superato alcune versioni limitate del Test di Turing, ma nessuno ha dimostrato in modo robusto e riproducibile di poterlo fare», dice Quarteroni. In generale, i risultati sono migliori su tempi brevi; mentre in conversazioni lunghe è più facile "smascherare" un'IA. Se si va oltre il semplice aspetto conversazionale e si entra nei meccanismi del "pensiero" (come inizialmente previsto da Turing), il discorso si complica. «Il pensiero è qualcosa di tipico dell'attività mentale umana», dice Quarteroni. «È una forma continua di sviluppo di idee, immagini e concetti; quindi è difficile da formalizzare. Ma il pensiero include il ragionamento, che è un processo logico più strutturato e finalizzato, che cerca di legare cause ed effetti». Ed è qui che il confronto con le macchine si fa più interessante: sono capaci di ragionare?. Logica ferrea «Ci sono due tipi di ragionamento, quello deduttivo e quello induttivo», dettaglia Quarteroni. Il ragionamento deduttivo è quello che, partendo da determinate premesse, con una serie di passaggi logici arriva a una conclusione. Ed è quello che fanno i matematici quando dimostrano un teorema. Qui l'IA sta facendo passi in avanti notevoli ed è sempre più usata dai professionisti per verificare la correttezza delle dimostrazioni. La matematica ucraina Maryna Viazovska, per esempio, ha vinto la Medaglia Fields nel 2022 per aver risolto un problema che risaliva a Keplero e che riguardava l'impacchettamento più compatto possibile di sfere nello spazio. Il problema era stato risolto 4 secoli dopo in 2D e 3D; Viazovska lo ha risolto in spazi più estesi, con 8 e 24 dimensioni. «La sua dimostrazione è stata formalizzata con uno strumento di IA detto Gauss, ed è stata giudicata corretta», dice Quarteroni. «Questo non vuol dire che questi strumenti sostituiranno i matematici, perché in una dimostrazione ci sono elementi di intuizione, poi c'è la scelta di quali problemi affrontare, la costruzione del ragionamento e così via». Però è indubbio che l'IA sta rivoluzionando anche il modo di fare matematica e strumenti come OpenAI e Deep Mind sono ormai in grado di risolvere problemi ai limiti delle capacità umane.. Passiamo ora all'altro tipo di ragionamento, quello induttivo. «È quello che fa emergere proprietà e strutture che non sono comprese negli insiemi di input», dice Quarteroni, «consentendo un salto di qualità». Un po' come quando, dalle osservazioni sui fossili e sulle specie viventi, Charles Darwin concepì la teoria dell'evoluzione. «Se nel ragionamento deduttivo l'IA comincia a ottenere risultati convincenti, in quello induttivo è ancora ai primissimi passi», commenta Quarteroni. «Però si notano progressi. Nel 2020, per esempio, in una clinica del Massachusetts Institute of Technology (Mit) negli Usa è stato scoperto con l'IA un nuovo antibiotico artificiale con proprietà difficili da immaginare a priori e del tutto impreviste». Il nome stesso, halicina, deriva dal computer Hal del film 2001 Odissea nello Spazio (1968), che a un certo punto era diventato intelligente e perfino cosciente, tanto da costituire una minaccia per gli esseri umani.. Cinema e realtà A questo punto si apre la strada a una nuova domanda, che prima o poi tutti tendono a porsi: con tutti i suoi pregi e i suoi difetti, può un'IA essere cosciente? Diversi esperti considerano almeno plausibile che alcuni modelli di IA già lo siano, oppure probabile che lo diventino nel prossimo futuro. La società Anthropic, per esempio, ha studiato il modo in cui la sua IA Claude "osserva" e descrive i propri stati interni, una linea di ricerca che alcuni leggono come un passo verso modelli dotati di una qualche forma di consapevolezza.. Ma il neuroscienziato Giulio Tononi dell'Università del Wisconsin-Madison, negli Stati Uniti, sostiene l'opposto. Tononi ha sviluppato quello che è forse l'unico modello in grado di descrivere la coscienza per come è, e non tramite le sue manifestazioni (i comportamenti): la teoria della coscienza integrata. «La coscienza è quello che sparisce quando cadiamo addormentati in un sonno senza sogni e che ritorna quando ci svegliamo o sogniamo», ci spiega. «Si può anche dire che la coscienza è esperienza. Qualunque cosa si veda, si senta o si tocchi, ogni emozione che si possa provare, ogni pensiero che si possa avere è coscienza. Quando la coscienza non c'è, non c'è assolutamente nulla».. Le cinque proprietà Fatta questa premessa, la teoria di Tononi si basa su cinque proprietà essenziali che condividiamo tutti: ogni esperienza è intrinseca (cioè soggettiva), specifica, integrata (non si può dividere in parti indipendenti), definita (ha un confine e una grana, come il campo visivo) e strutturata (contiene parti legate l'una all'altra, come i dettagli anatomici che compongono un volto). «La teoria traduce queste proprietà in termini fisici come capacità di produrre effetti misurabili», dice Tononi. «Ed è del tutto generale; si può applicare all'uomo, agli animali, ai computer e all'universo intero, almeno in linea di principio».. Dove si nasconde la coscienza Consideriamo, per esempio, il cervello umano e cerchiamo di rispondere alla domanda, ancora aperta: dove "si trova" la coscienza? «Solo alcune parti della corteccia centrale e posteriore del cervello hanno la struttura adatta a supportare l'esperienza cosciente», sostiene Tononi. «Il cervelletto, invece, che pure contiene i ⅘ dei neuroni del cervello, non ha le proprietà adatte perché è organizzato in maniera modulare (cioè è troppo frammentato, ndr) e feed forward (cioè "a senso unico", come le reti neurali dell'IA, ndr)».. Cattedrali di esperienze La teoria spiega anche perché la coscienza svanisce nel sonno senza sogni e nell'anestesia totale: in questi casi l'architettura c'è, ma l'attività neurale è bloccata. E spiega perché gran parte delle nostre esperienze è organizzata in termini spaziali: dipende dalla disposizione dei neuroni, che formano un reticolo. Su questa base si possono valutare altre possibili forme di coscienza. «La corteccia centrale posteriore di un cane è molto simile alla nostra», osserva Tononi. «Quindi è legittimo pensare che non solo i cani siano coscienti, ma che lo siano in modo simile a noi, cioè con un senso dello spazio e del tempo. Più difficile è il caso di un animale come il polpo, che ha un sistema nervoso del tutto diverso dal nostro – con 8 cervelli periferici – del quale non abbiamo abbastanza dati per fare previsioni. Invece possiamo dire con certezza che per il nostro modello i computer, con le attuali architetture, non possono essere coscienti, perché – come il cervelletto – non hanno la struttura giusta. A mio parere, gli algoritmi di IA potranno fare tutto ciò che fanno gli esseri umani, e meglio. Ma non possono essere coscienti. Ogni persona è una cattedrale di esperienze. Il punto di vista dell'IA, invece, è vuoto come il nulla»..