Un pioniere dell'intelligenza artificiale lascia Google per mettere in guardia dai rischi dell'IA
Il dottor Geoffrey Hinton ha trascorso cinquant'anni a sviluppare la tecnologia alla base di chatbot come ChatGPT. Ora si dimette da Google per mettere in guardia dalle conseguenze dell'intelligenza artificiale.
Come pioniere dell'intelligenza artificiale, Geoffrey Hinton è oggi una delle voci critiche di questa tecnologia. Hinton ha lavorato presso Google per oltre dieci anni e già da prima era una voce autorevole nel campo dell'intelligenza artificiale. Ora si è dimesso per poter parlare liberamente dei suoi rischi. Ripensa al lavoro di una vita con un po' di tristezza.
"Mi consolo con il fatto che non ho mai avuto problemi con l'intelligenza artificiale.
"Mi consolo con la solita scusa: se non l'avessi fatto io, l'avrebbe fatto qualcun altro", dice Hinton in un'ampia intervista al New York Times. L'ormai 75enne britannico è da tempo convinto dello sviluppo e dell'utilizzo dell'IA. Ora è convinto che il rapido sviluppo dell'IA, che si ritrova in chatbot come ChatGPT, stia portando a gravi pericoli.
Il lavoro di Hinton ha origini lontane
Hinton ha gettato le basi per lo sviluppo dell'intelligenza artificiale come dottorando presso l'Università di Edimburgo nel 1972. Ha condotto ricerche sui sistemi neurali per la spiegazione e la simulazione dell'intelligenza
Nel 2012, insieme a un gruppo di persone che hanno lavorato insieme a lui, ha iniziato a studiare l'intelligenza artificiale.
Nel 2012, insieme a due suoi studenti, Ilya Sutskever e Alex Krishevsky, ha sviluppato a Toronto una rete neurale in grado di analizzare migliaia di foto e di imparare a riconoscere oggetti come fiori, cani e automobili. Il sistema sta portando allo sviluppo di tecnologie sempre più potenti che vengono utilizzate anche in ChatGPT da OpenAI e Google Bard.
Come sempre, anche Google ha sviluppato una rete neurale in grado di analizzare migliaia di foto e di insegnare a riconoscere oggetti come fiori, cani e automobili.
Google, OpenAI e altre aziende continuano a ricercare lo sviluppo di reti neurali che imparano da grandi volumi di testo digitale. Hinton vede un enorme potenziale in tutto questo. Tuttavia, ritiene che gli esseri umani saranno sempre più avanti rispetto a queste tecnologie.
Questo cambierà nel 2022, quando Google e OpenAI svilupperanno tecnologie che utilizzeranno quantità di dati molto più grandi. Hinton teme che ciò che avviene dietro questi sistemi possa essere migliore di ciò che avviene nel cervello. A suo avviso, il rapido sviluppo degli ultimi cinque anni è estremo. Quasi spaventoso.
Hinton continua a sostenere Google fino alle sue dimissioni. Dice che l'azienda ha gestito la tecnologia in modo responsabile e si è sempre preoccupata di non fare nulla che potesse causare danni. Ora, però, Microsoft ha aggiunto un chatbot al suo motore di ricerca Bing. Questo ha creato una forte concorrenza e Google vuole ora utilizzare lo stesso tipo di tecnologia. Secondo Hinton, questo mette i giganti della tecnologia in una competizione che potrebbe essere inarrestabile.
L'intelligenza artificiale nasconde molti pericoli
La preoccupazione più grande di Hinton è che Internet sia invaso da foto, video e testi falsi. Il risultato è che le persone non sono più in grado di riconoscere ciò che è vero.
Il mercato del lavoro potrebbe anche essere un'occasione di crescita per le persone.
Anche il mercato del lavoro potrebbe essere conquistato dalle tecnologie AI. Per ora si tratta solo di chatbot. In futuro, potrebbero essere paralegali, assistenti, traduttori e altri compiti di routine. Si tratta ancora di mansioni piuttosto noiose, ma la situazione potrebbe cambiare rapidamente.
I comportamenti spesso inaspettati dell'IA sono in grado di soddisfare le esigenze dei clienti.
I comportamenti spesso inaspettati che i sistemi di IA apprendono sono problematici. Hinton teme il giorno in cui individui e aziende permetteranno ai sistemi di IA non solo di creare i propri codici informatici, ma anche di eseguirli da soli. Hinton ritiene che tali sistemi potrebbero diventare più intelligenti degli esseri umani e persino creare armi. Troppa fantascienza? In un'intervista del 1° marzo, Hinton (dal minuto 31) spiega il suo pensiero.
Molti altri esperti ritengono che i pericoli siano ipotetici. Tuttavia, Hinton ritiene che la gara tra Google e Microsoft potrebbe degenerare rapidamente. La sua speranza è che i principali scienziati del mondo collaborino per regolamentare e controllare la tecnologia a livello globale. Un'impresa difficile.
Foto di copertina: Shutterstock
Nel mio mondo, Super Mario insegue gli Stormtrooper con un unicorno e Harley Quinn mescola cocktail per Eddie e Peter al bar della spiaggia. Ovunque possa dare sfogo alla mia creatività, le mie dita fremono. O forse perché nelle mie vene non scorre altro che cioccolato, brillantini e caffè.