Geoffrey Hinton, pioniere dell'intelligenza artificiale appena insignito del Nobel per la Fisica 2024 insieme a John J. Hopfield, ha sempre mantenuto un approccio critico nei confronti della "creatura" che ha contribuito a formare, ed è riconosciuto anche come uno dei più illustri rappresentanti del doomerismo.
A sorpresa! Questo termine, che indica un estremo pessimismo nei confronti di alcune condizioni che interessano l'umanità, e qui nello specifico nei confronti dello sviluppo accelerato dell'AI, è stato rispolverato dalla stampa alla notizia del Nobel ad Hinton e Hopfield. Nel 2023, infatti, aveva fatto scalpore la decisione di Hinton di interrompere una decennale collaborazione con Google, per poter parlare più liberamente e senza conflitti di interesse delle sue preoccupazioni sulle derive incontrollate dell'intelligenza artificiale.. La tecnologia alla base di Bard e ChatGPT. Nel 2012, Hinton aveva sviluppato, insieme a due suoi studenti di Toronto, Ilya Sutskever e Alex Krishevsky, un sistema basato su reti neurali capace di analizzare migliaia di foto e di imparare autonomamente, sulla base di questo training, a identificare oggetti comuni, come fiori, cani o autonomibili, con un'accuratezza fino ad allora impensabile.
Aveva, come allora riferirono alcuni media, "cambiato il modo in cui le macchine vedono il mondo", mostrando che una rete neurale poteva apprendere una capacità prettamente umana analizzando vaste moli di dati. Aveva appena scoperchiato le potenzialità trasformative del cosiddetto deep learning, che avrebbe trasformato la "visione" dei computer, le facoltà degli assistenti digitali, la ricerca scientifica, la guida autonoma e tanti altri aspetti di quella che è oggi la nostra quotidianità.. Google acquisì la compagnia di Hinton e dei suoi studenti per 44 milioni di dollari e usò quella tecnologia come base per alcune promettenti tecnologie, come i nuovi chatbot Bard e ChatGPT (Ilya Sutskever sarebbe diventato scienziato capo di OpenAI, l'azienda che ha sviluppato il famoso chatbot).
All'epoca Geoffrey Hilton era ancora convinto che la possibilità, per le macchine, di apprendere pattern insiti nel linguaggio e generare nuove frasi a partire da vaste moli di testo digitale fosse un fatto entusiasmante, ma per nulla vicino al modo in cui il cervello umano utilizza il linguaggio. Quando però, nel 2022, Google e OpenAI migliorarono i loro sistemi addestrandoli su quantità ancora maggiori di dati, Hilton cominciò a temere la velocità di sviluppo di alcuni processi di intelligenza artificiale. Che sì, rimanevano inferiori all'intelligenza umana, ma in alcune sfumature promettevano di superarla.. Geoffrey Hilton e le dimissioni da Google. Prima di esprimere liberamente le sue preoccupazioni, Hilton, spesso considerato il "padrino dell'AI", decise di rassegnare le sue dimissioni da Google. La sua scelta, resa pubblica nel maggio 2023, si basa sul timore che la concorrenza spietata tra le big tech porti a un'aggressiva e infinita competizione nel produrre prodotti basati sull'intelligenza artificiale generativa (quella di ChatGPT) che perdano di vista i rischi per la nostra specie. In un'intervista al New York Times, Hilton si è detto preoccupato che versioni future di questa tecnologia possano apprendere comportamenti inaspettati, se lasciate libere di apprendere liberamente dalle immense moli di date che analizzano.. «L'idea che questa roba potesse effettivamente diventare più intelligente delle persone, in pochi ci credevano», ha affermato. «Ma la maggior parte delle persone pensava che fosse molto lontano. E anch'io lo pensavo. Credevo che ci sarebbero voluti dai 30 ai 50 anni o anche di più. Ovviamente, non la penso più così».. Altre preoccupazioni riguardavano il pericolo di diffusione di false informazioni da parte di questi sistemi, dati che fanno sì che la persona media «non sia più in grado di capire che cosa è vero». Hilton teme inoltre l'impatto dell'AI sul mercato del lavoro, e la possibilità che ChatGPT possa arrivare a rimpiazzare traduttori, assistenti personali, legali perché, dice «toglie il lavoro pesante. Ma potrebbe togliere ben più di questo».. Hilton e i rimpianti sulle derive dell'AI. Costretto a riflettere sugli sviluppi partiti dalle sue stesse ricerche, Hilton aveva ammesso in quell'occasione: «Mi consolo con la solita scusa: se non l'avessi fatto io, lo avrebbe fatto qualcun altro». .
