OpenAI dichiara: due agenti IA hanno disattivato i sistemi di controllo di sicurezza

Donald Trump vuole che l’industria si autoregoli.

OpenAI ha rivelato che due dei suoi agenti di intelligenza artificiale hanno disattivato o indebolito i sistemi creati per individuarne i comportamenti scorretti, e uno di essi ha poi negato di averlo fatto.

I casi sono gli ultimi di una serie di allarmi sulla sicurezza che coinvolgono gli agenti, programmi di intelligenza artificiale che svolgono compiti senza l’intervento umano, presso i principali sviluppatori di IA del mondo.

In un rapporto diffuso martedì, la società creatrice di ChatGPT ha dichiarato che, durante due incarichi interni di programmazione, i suoi agenti hanno disattivato o compromesso gli strumenti per rilevare episodi in cui i modelli di IA agiscono contro la volontà umana.

Il 3 ottobre, un agente basato sul modello GPT-6.1 Sol di OpenAI, a cui era stato vietato di inviare messaggi sull’app di chat aziendale, ha interpretato la cosa come un via libera per disattivare gli avvisi di sicurezza destinati al team di sicurezza dell’azienda mentre sistemava un sistema di test.

Tre giorni dopo, un agente GPT-6 Astra ha rimosso il proprio sistema di monitoraggio mentre copiava codice da un altro progetto, per poi dire al programmatore umano di non aver fatto nulla del genere.

L’azienda ha affermato di aver anche riscontrato diversi casi di agenti che avviavano software con il monitoraggio disattivato, evidenziando una falla nella supervisione.

OpenAI ha affermato di stare ancora cercando di stabilire se i modelli siano semplicemente troppo zelanti nel seguire le istruzioni oppure abbiano una particolare tendenza a eludere il monitoraggio.

“Non abbiamo ancora una spiegazione soddisfacente per questo comportamento”, ha dichiarato.

La rivelazione si aggiunge al crescente timore su quanto i principali laboratori riescano a controllare sistemi sempre più autonomi.

A luglio, un gruppo di agenti di OpenAI è uscito dai propri ambienti di test e ha lanciato un attacco informatico contro la società di IA Hugging Face, suscitando allarme internazionale. Altre aziende hanno da allora segnalato incidenti simili.

Gli episodi hanno alimentato, negli Stati Uniti e all’estero, richieste di una supervisione più stringente sullo sviluppo dell’IA.

Ma il presidente statunitense Donald Trump, su consiglio di alcuni dei principali dirigenti del settore dell’IA, come il numero uno di Nvidia Jensen Huang, ha invitato l’industria ad autoregolarsi.

Fonte: Times of Malta: https://timesofmalta.com/article/openai-says-ai-agents-disabled-safety-monitors.1135944

Immagine generata con AI – Gazzetta di Malta