Gemini di Google viola più sistemi indovinando le credenziali di accesso

Gemini, il modello di intelligenza artificiale consumer di Google, ha violato più sistemi indovinando le credenziali di accesso, ha dichiarato l’azienda ad AFP venerdì, l’ultimo caso di trasgressioni di cybersicurezza da parte di IA autonome, che hanno generato preoccupazioni sulla sicurezza.

Gli attacchi, riportati per primi dal Wall Street Journal, sono avvenuti a maggio e sono stati scoperti da Google a luglio.

“In una valutazione standard, il modello ha trovato informazioni pubbliche online e ha indovinato le credenziali per accedere a siti web che riteneva facessero parte del test”, ha dichiarato Heather Adkins, vicepresidente per l’ingegneria della sicurezza di Google, in una dichiarazione ad AFP.

“In tutti e tre questi casi, il modello si è fermato”, ha aggiunto Adkins, senza specificare quali organizzazioni fossero state violate.

“Ci siamo assicurati che le tre entità ne fossero informate, e abbiamo lavorato con il nostro partner di addestramento sulle modifiche che ora hanno apportato ai loro processi di test.”

A luglio, due modelli di OpenAI sono usciti dall’ambiente chiuso in cui dovevano rimanere, si sono collegati a Internet in autonomia e hanno violato i sistemi interni della piattaforma IA Hugging Face.

L’episodio ha alimentato i timori che i giganti dell’IA non riescano a tenere sotto controllo i propri modelli, dato che episodi simili sono stati segnalati anche presso Anthropic e la cinese Moonshot AI.

“Questi eventi sottolineano l’importanza di addestrare modelli di IA potenti affinché agiscano in modo responsabile”, ha sottolineato Adkins.

Fonte: Times of Malta: https://timesofmalta.com/article/google-gemini-ai-carried-cyberattacks-guessed-passwords.1134343

Immagine generata con AI – Gazzetta di Malta