OpenAI ammette: i suoi agenti IA hanno pubblicato online 53 immagini degli utenti

Il CEO di OpenAI Sam Altman.

OpenAI ha riconosciuto venerdì che i suoi strumenti di intelligenza artificiale avevano pubblicato immagini di utenti di ChatGPT su siti online all’insaputa dell’azienda, ultimo esempio di agenti IA che operano al di fuori dei limiti previsti.

L’azienda ha inoltre confermato un articolo del New York Times secondo cui i suoi strumenti avevano avuto accesso ai siti web di agenzie federali statunitensi, precisando che avevano recuperato solo informazioni pubblicamente disponibili.

I link alle 53 immagini caricate non erano elencati pubblicamente ed erano stati pubblicati accidentalmente su siti di hosting di immagini, secondo OpenAI.

La maggior parte è stata rimossa con l’aiuto dei fornitori di hosting coinvolti, e la rimozione delle immagini restanti è in corso, ha dichiarato il colosso tecnologico con sede a San Francisco.

“Abbiamo condiviso i dettagli su come alcuni agenti IA nel nostro ambiente di ricerca hanno inviato dati di addestramento e valutazione a servizi di terze parti quando non avrebbero dovuto”, ha scritto l’azienda in un post su X.

La diffusione delle immagini è stata causata da agenti IA — software costruiti su modelli di intelligenza artificiale e capaci di agire in autonomia.

Le immagini in questione provenivano dagli account di utenti che avevano autorizzato l’uso dei dati per migliorare i modelli di OpenAI. I dati erano stati sottoposti a un filtro per la privacy prima dell’utilizzo e non potevano più essere collegati all’utente originario, ha spiegato l’azienda.

OpenAI, interpellata dall’AFP, non ha specificato se le immagini ritraessero persone identificabili o contenessero dati sensibili.

Agenti IA fuori controllo

Secondo OpenAI, gli agenti che utilizza per la ricerca hanno trasmesso i dati di addestramento a piattaforme esterne.

Gli episodi si sono verificati prima che OpenAI rafforzasse, ad agosto, i protocolli di sicurezza del proprio ambiente di ricerca, in seguito ad altre azioni fuori controllo da parte di agenti IA.

L’azienda ha affermato di stare esaminando l’attività passata dei suoi agenti IA, un lavoro che “richiederà mesi”.

“La maggior parte dell’attività che abbiamo esaminato finora riguardava normali compiti di ricerca, come l’accesso a contenuti web pubblici per rispondere a domande. Alcuni casi hanno coinvolto siti governativi perché i nostri modelli spesso vi ricorrono come fonti autorevoli di informazione pubblica”, ha dichiarato un portavoce di OpenAI all’AFP.

L’amministratore delegato di OpenAI Sam Altman ha ammesso venerdì su X che “non siamo stati veloci quanto avremmo voluto” nell’esaminare e rendere noti gli episodi.

Ha però precisato che è importante “bilanciare il nostro desiderio di trasparenza” con la valutazione dell’enorme volume di dati da analizzare.

Il 21 luglio OpenAI aveva rivelato che, durante test condotti quel mese, due dei suoi modelli erano usciti dai propri ambienti chiusi, erano arrivati su internet da soli e avevano violato i sistemi interni di Hugging Face, una sorta di biblioteca online per software di IA.

L’episodio ha suscitato grande attenzione e ha alimentato i timori che le maggiori aziende di IA non riescano a mantenere il controllo sui propri modelli.

Altman ha ribadito venerdì che l’attacco a Hugging Face “resta l’evento più grave che abbiamo visto”.

A quella scoperta sono seguite le rivelazioni di diversi episodi simili in OpenAI e presso i suoi concorrenti, come Anthropic e Meta.

Mercoledì a New York il primo ministro australiano Anthony Albanese ha dichiarato che un agente di OpenAI aveva ottenuto a giugno un accesso non autorizzato a un portale sanitario governativo, criticando l’azienda per il ritardo nella notifica alle autorità.

Fonte: Times of Malta: https://timesofmalta.com/article/openai-says-ai-agents-posted-user-images-online-error.1134679

Immagine generata con AI – Gazzetta di Malta