Il “padrino dell’intelligenza artificiale” esorta i governi a fermare la conquista delle macchine

La conferenza ha riunito più di 30.000 fondatori di startup, investitori e lavoratori del settore tecnologico, la maggior parte dei quali voleva imparare a cavalcare l’onda dell’IA e non ascoltare una lezione sui suoi pericoli.

“Prima che l’IA sia più intelligente di noi, credo che le persone che la sviluppano dovrebbero essere incoraggiate a lavorare molto per capire come potrebbe cercare di toglierci il controllo”, ha detto Hinton.

“In questo momento ci sono 99 persone molto intelligenti che cercano di migliorare l’IA e una persona molto intelligente che cerca di capire come impedire che prenda il sopravvento e forse è meglio essere più equilibrati”, ha detto.

Hinton ha avvertito che i rischi dell’IA devono essere presi sul serio, nonostante i suoi critici ritengano che stia sopravvalutando i rischi.

“Penso che sia importante che la gente capisca che non si tratta di fantascienza, non è solo paura”, ha insistito. “È un rischio reale a cui dobbiamo pensare e dobbiamo capire in anticipo come affrontarlo”.

Hinton ha anche espresso il timore che l’IA aggravi le disuguaglianze, in quanto l’enorme aumento di produttività derivante dal suo impiego andrebbe a vantaggio dei ricchi e non dei lavoratori.

Advertisement

“La ricchezza non andrà alle persone che lavorano. Andrà a rendere i ricchi più ricchi e non i poveri e questo è molto negativo per la società”, ha aggiunto.

Ha anche sottolineato il pericolo delle fake news create dai bot in stile ChatGPT e ha detto di sperare che i contenuti generati dall’IA possano essere contrassegnati in modo simile a come le banche centrali filigranano il denaro contante.

“È molto importante cercare, ad esempio, di contrassegnare come falso tutto ciò che è falso. Non so se possiamo farlo tecnicamente”, ha detto.

L’Unione Europea sta prendendo in considerazione una tecnica del genere nel suo AI Act, una legislazione che stabilirà le regole per l’IA in Europa, attualmente in fase di negoziazione da parte dei legislatori.

Sovrappopolazione su Marte

L’elenco dei pericoli dell’IA stilato da Hinton è in contrasto con le discussioni della conferenza, che non hanno riguardato tanto la sicurezza e le minacce, quanto piuttosto la possibilità di cogliere le opportunità create sulla scia del ChatGPT.

La Venture Capitalist Sarah Guo ha affermato che il discorso sull’AI come minaccia esistenziale è prematuro e lo ha paragonato a “parlare di sovrappopolazione su Marte”, citando un altro guru dell’AI, Andrew Ng.

Advertisement

Ha inoltre messo in guardia dalla “cattura normativa” che vedrebbe l’intervento del governo proteggere gli operatori storici prima di avere la possibilità di beneficiare di settori come la sanità, l’istruzione o la scienza.

Le opinioni divergono sul fatto che gli attuali giganti dell’IA generativa – principalmente OpenAI e Google, sostenuti da Microsoft – rimarranno ineguagliati o che nuovi attori amplieranno il campo con i propri modelli e innovazioni.

“Tra cinque anni, immagino ancora che se si vuole trovare il modello generale migliore, più accurato e più avanzato, probabilmente ci si dovrà rivolgere ancora a una delle poche aziende che hanno il capitale per farlo”, ha dichiarato Leigh Marie Braswell della società di venture capital Kleiner Perkins.

Zachary Bratun-Glennon di Gradient Ventures ha detto di prevedere un futuro in cui “ci saranno milioni di modelli in rete, proprio come abbiamo fatto noi”.