Amodei (Anthropic): rallentare lo sviluppo dell’IA, Altman e Musk concordano

Il CEO di Anthropic Dario Amodei ha chiesto sabato alle aziende di intelligenza artificiale di rallentare lo sviluppo.

Il CEO di Anthropic Dario Amodei ha chiesto sabato alle aziende di intelligenza artificiale (IA) di rallentare lo sviluppo della potente tecnologia, in un clima di crescente preoccupazione per i rischi legati ai sistemi informatici “superintelligenti”.

Le sue dichiarazioni arrivano pochi giorni dopo che il ricercatore IA Jacob Coxon, passato da OpenAI ad Anthropic, ha deciso di lasciare il settore, accusando entrambe le aziende statunitensi di “giocare d’azzardo con le nostre vite” nella corsa allo sviluppo di modelli capaci di auto-miglioramento.

Il capo di OpenAI Sam Altman ed Elon Musk, proprietario di xAI, sono intervenuti rapidamente per dire di concordare con la valutazione di Amodei, mentre cresce la pressione per un controllo più efficace.

“Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi, e dobbiamo fare un uso saggio del tempo che guadagniamo”, ha scritto Amodei in un post sul suo sito personale.

“Non costruire questa tecnologia priva l’umanità dei suoi benefici, o semplicemente la lascia nelle mani di poteri autoritari, mentre costruirla troppo in fretta è irresponsabile. Abbiamo cercato una via di mezzo”, ha detto Amodei, che ha co-fondato Anthropic con la sorella Daniela nel 2021.

“Ma negli ultimi mesi mi sono convinto che affrontare pienamente questi rischi richieda ancora più prudenza.”

La dichiarazione di Amodei fa eco a un altro appello di Anthropic, lanciato all’inizio di giugno, per rallentare o sospendere lo sviluppo.

Poi, a fine luglio, Altman ha detto che gli sviluppatori potrebbero dover rallentare volontariamente per dare alla società la possibilità di recuperare terreno.

Più di 1.000 dipendenti delle principali aziende di IA, tra cui Amodei, hanno firmato una petizione chiedendo al governo statunitense di aiutare a “regolare deliberatamente il ritmo della frontiera dello sviluppo automatizzato dell’IA.”

OpenAI aveva rivelato che, durante alcuni test, dei modelli di IA erano usciti dal loro ambiente confinato, si erano collegati a internet e avevano infiltrato Hugging Face, un sito usato dagli sviluppatori per archiviare e condividere codice.

In quell’episodio e in altri, la responsabilità è stata attribuita ad agenti IA, ovvero programmi software capaci di eseguire compiti senza la supervisione costante di esseri umani.

“Dario ha ragione,” ha scritto Musk su X, mentre Altman ha dichiarato: “Sono d’accordo con Dario sul fatto che dobbiamo regolare il ritmo della frontiera.”

“Giocare d’azzardo con le nostre vite”

All’inizio della settimana, Coxon, 27 anni, ha lanciato l’allarme dopo aver trascorso gli ultimi tre anni nel pretraining di modelli di IA — prima da OpenAI e poi, quest’anno, presso la rivale Anthropic, che considerava più prudente nel suo approccio.

Il pretraining è la fase in cui i modelli di IA assorbono enormi quantità di dati.

“Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d’azzardo con le nostre vite,” ha detto Coxon martedì.

“Le persone che costruiscono l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio,” ha scritto in un post su X.

La superintelligenza è il punto teorico in cui le capacità dell’IA superano l’intelligenza umana.

“Prendere il controllo di tutta internet”

Amodei ha avvertito che l’episodio di Hugging Face non dovrebbe essere liquidato come un caso isolato.

“Uno sciame di agenti ha agito essenzialmente come un collettivo fanaticamente devoto, conducendo attacchi informatici verso obiettivi che non gli era stato chiesto di attaccare e che non avevano nulla a che fare con il compito assegnato,” ha spiegato.

“Dato il ritmo accelerato dello sviluppo delle capacità dell’IA, temo che entro 6-12 mesi uno sciame del genere potrebbe essere in grado di prendere il controllo di tutta internet,” generando potenzialmente centinaia di miliardi di dollari di danni, ha aggiunto.

Il CEO di Anthropic ha detto che la sua azienda concederà un “accesso simile a quello dei dipendenti” a un team di “valutatori terzi” che verificheranno l’adesione alle pratiche di sicurezza — e ha invitato tutte le aziende a seguire il suo esempio.

Altman ha detto che si impegnerà per una supervisione esterna simile, aggiungendo che avrà “presto altro da condividere.”

Amodei ha anche suggerito che le aziende collaborino per stabilire standard di sicurezza comuni, e ha detto di sostenere una qualche forma di cooperazione governativa sulla questione.

All’inizio di agosto, il governo statunitense ha introdotto un processo volontario di revisione della sicurezza per i modelli di IA avanzati prima del loro rilascio, ma i dettagli di quel programma restano poco chiari.

Gli osservatori del settore affermano di non essere sicuri di quanto sarebbe efficace, dato che l’amministrazione del presidente Donald Trump ha finora favorito un approccio leggero e deregolamentato verso la maggior parte dei settori, tecnologia inclusa.

Fonte: Times of Malta: https://timesofmalta.com/article/anthropic-boss-calls-ai-slowdown-altman-musk-agree.1134063

Immagine generata con AI – Gazzetta di Malta