OpenAI presenta uno strumento per individuare le immagini di DALL-E

La prima versione di DALL-E è stata annunciata nel gennaio 2021. Foto: Shutterstock.com

OpenAI, la società di intelligenza artificiale finanziata da Microsoft che sta dietro al popolare generatore di immagini DALL-E, ha annunciato martedì il lancio di un nuovo strumento volto a rilevare se le immagini digitali siano state create dall’IA.

L’autenticazione è diventata una delle principali preoccupazioni nel rapido sviluppo dell’IA, con le autorità che temono la proliferazione di falsi che potrebbero sconvolgere la società.

Secondo l’azienda, il classificatore di OpenAI per il rilevamento delle immagini, attualmente in fase di test, è in grado di valutare la probabilità che una determinata immagine provenga da uno dei modelli di AI generativa dell’azienda, come DALL-E 3.

OpenAI ha dichiarato che durante i test interni su una versione precedente, lo strumento ha individuato con precisione circa il 98% delle immagini di DALL-E 3, mentre ha segnalato erroneamente meno dello 0,5% delle immagini non appartenenti all’IA.

Tuttavia, l’azienda ha avvertito che le immagini DALL-E 3 modificate sono più difficili da identificare e che attualmente lo strumento segnala solo circa il 5-10% delle immagini generate da altri modelli AI.

OpenAI ha inoltre dichiarato che ora aggiungerà i watermarks ai metadati delle immagini di IA, man mano che un numero maggiore di aziende si iscriverà per soddisfare gli standard della Coalition for Content Provenance and Authenticity (C2PA).

La C2PA è un’iniziativa del settore tecnologico che stabilisce uno standard tecnico per determinare la provenienza e l’autenticità dei contenuti digitali, in un processo noto come watermarking.

Advertisement

Il mese scorso, il gigante Facebook Meta ha dichiarato che a partire da maggio inizierà a etichettare i media generati dall’intelligenza artificiale utilizzando lo standard C2PA. Anche Google, un altro gigante dell’AI, ha aderito all’iniziativa.