L’autorità di regolamentazione degli Stati Uniti sta indagando su ChatGPT per i contenuti scadenti

La Federal Trade Commission statunitense sta indagando su OpenAI per stabilire se la sua popolarissima app ChatGPT danneggi i consumatori generando false informazioni e se la sua tecnologia gestisca male i dati degli utenti.

OpenAI, società sostenuta da Microsoft, è stata informata dell’indagine con un questionario di 20 pagine in cui le viene chiesto di descrivere gli episodi in cui gli utenti sono stati falsamente denigrati e di condividere gli sforzi compiuti dall’azienda per garantire che ciò non si ripeta.

L’indagine dell’autorità di regolamentazione statunitense è stata riportata per la prima volta dal Washington Post.

Il rilascio di ChatGPT da parte di OpenAI, lo scorso novembre, ha stupito il mondo per la potenza dei modelli linguistici di grandi dimensioni (o LLM), una forma di intelligenza artificiale nota come IA generativa in grado di sfornare contenuti simili a quelli umani in pochi secondi.

Tra la meraviglia per le capacità della tecnologia, sono giunte notizie che i modelli possono anche sfornare contenuti offensivi, falsi o semplicemente strani, talvolta chiamati “allucinazioni”.

La presidente dell’FTC Lina Khan è intervenuta mercoledì a un’udienza della commissione del Congresso e, pur non menzionando l’indagine, ha dichiarato ai legislatori che la sua agenzia nutre preoccupazioni per la produzione potenzialmente diffamatoria di ChatGPT.

Advertisement

“Abbiamo sentito parlare di rapporti in cui le informazioni sensibili delle persone appaiono in risposta a una richiesta da parte di qualcun altro”, ha detto Khan.

“Abbiamo sentito parlare di calunnie, dichiarazioni diffamatorie, cose palesemente false che stanno emergendo. Questo è il tipo di frode e di inganno che ci preoccupa”, ha aggiunto.

Secondo il questionario, l’indagine della FTC si concentra principalmente sul modo in cui questo aspetto potrebbe danneggiare gli utenti, ma si addentra anche nell’uso di dati privati da parte di OpenAI per costruire il suo modello leader a livello mondiale.

Il GPT-4 dell’azienda è la tecnologia alla base del suo ChatGPT e di molti altri programmi di aziende che pagano una quota a OpenAI per accedere al suo modello per i propri usi.

Sam Altman, CEO di OpenAI, ha dichiarato in un tweet di essere dispiaciuto che la notizia dell’indagine sia stata divulgata alla stampa, cosa che “non crea fiducia”

Ha aggiunto che “naturalmente” OpenAI collaborerà con la FTC e che “per noi è molto importante che la nostra tecnologia sia sicura e a favore dei consumatori, e siamo certi di seguire la legge”

Un’indagine della FTC non comporta necessariamente ulteriori azioni e l’autorità di regolamentazione può chiudere il caso se è soddisfatta della risposta dell’azienda interessata.

Advertisement

Se l’FTC rileva pratiche illegali o non sicure, chiederà un’azione correttiva ed eventualmente avvierà un’azione legale.

OpenAI e la FTC non hanno risposto a una richiesta di commento.