Scovati decine di video falsi di cittadini maltesi fatti con deepfake di intelligenza artificiale

Almeno 25 video sono stati creati da profili maltesi e gli esperti temono che questa possa essere la punta dell’iceberg di una nuova spaventosa realtà online.

I video vengono creati rubando foto, video e registrazioni delle vittime per creare un’immagine quasi indistinguibile della persona che parla, utilizzando il suo esatto tono di voce, la cadenza e l’accento. C’è un problema: si vedono in video persone che dicono cose che in realtà non hanno mai detto.

La truffa è incentrata su un falso profilo Facebook chiamato Ddexterr Ssmithh. Il falso profilo utilizza una foto rubata dall’account Instagram di Cue Black, un trader Forex giamaicano con oltre 440.000 follower su Instagram, per spacciarsi per un esperto di bitcoin mining.

La foto originale tratta dall’account Instagram di Cue Banks.

 

Nei video, le vittime della truffa spesso confermano i loro nomi e ringraziano Ddexterr Ssmithh per aver dato loro l’opportunità di investire nello schema fraudolento.

Molti ripetono la stessa storia, dicendo di aver guadagnato una bella somma, compresa tra 10.000 e 1 milione di euro, dopo aver investito 1.000 euroiniziali . Poi assicurano agli spettatori di non essere stati hackerati e di essere “veri e legittimi”.

Altri video mostrano persone che annaspano tra le righe mentre incoraggiano i loro follower a investire nello stesso schema.

Advertisement

I video sono in inglese e in maltese.

Sono stati identificati oltre 25 video simili di questo tipo, molti dei quali creati nelle ultime settimane.

Times of Malta ha verificato che molti di questi video sono dei deepfake. Altri sono registrazioni autentiche di persone a cui è stato detto di leggere delle battute per ottenere il rimborso dei soldi.

Una vittima che ha parlato con Times of Malta ha spiegato di aver ricevuto un messaggio da un “amico” su Facebook Messenger che chiedeva aiuto. Dopo aver cliccato su un link all’interno del messaggio e aver fornito alcune informazioni personali, la vittima si è trovata improvvisamente bloccata dal proprio account Facebook senza potervi accedere.

Le schermate manipolate mostrano le false transazioni Revolut.

Che cos’è un deepfake?

Un deepfake è una tecnica che utilizza l’intelligenza artificiale per generare immagini, audio o video di eventi non realmente accaduti.

I deepfake sono spesso utilizzati per mostrare personaggi pubblici o celebrità che fanno o dicono cose fuori dal loro personaggio, come nel caso di un deepfake di Papa Francesco che indossa una giacca Balenciaga che ha fatto il giro del web all’inizio di quest’anno.

Tuttavia, i deepfake possono anche essere usati in modo malevolo per impersonare persone, diffondere disinformazione e ingannare il pubblico.

Advertisement

Parlando con Times of Malta , l’imprenditore tecnologico Gege Gatt ha dichiarato che bastano circa 30 secondi di audio registrato perché il software di intelligenza artificiale sia in grado di riprodurre accuratamente i modelli vocali di una persona, ricreando fedelmente la tonalità e la musicalità della sua voce, nonché l’inflessione del suo discorso.

Le truffe di deepfake si sono diffuse in tutto il mondo. Il mese scorso, la BBC ha riferito di come un deepfake di abbia tentato di sollecitare denaro per un falso schema di investimento, mentre truffe simili sono state segnalate anche nelle ultime settimane.

Memoria perduta, nessuna possibilità di risarcimento

Gli utenti vittime di truffe simili dicono di non avere quasi nessuna possibilità di risolvere il problema e di recuperare i conti rubati.

Una vittima ha raccontato a Times of Malta di aver perso oltre un decennio di preziose foto di suo figlio che erano archiviate sul suo account Facebook. Un’altra vittima ha riferito di aver perso l’accesso alla pagina Facebook della propria attività in erba.

Tutte le vittime che hanno parlato con Times of Malta hanno detto di aver tentato ripetutamente di contattare Facebook per risolvere il problema e riottenere l’accesso al proprio account, senza successo, con il centro di supporto della piattaforma che rende impossibile per gli utenti parlare con un funzionario dell’assistenza clienti.

Gatt afferma che queste truffe deepfake evidenziano la necessità di una migliore protezione dei cittadini attraverso “un regime normativo in cui tali contenuti siano punibili e perseguibili”.

“I cittadini comuni devono disporre di un meccanismo di ricorso e di un metodo di ‘allerta precoce’ per ottenere l’assistenza dei professionisti della criminalità informatica (sia a livello statale, come la polizia, sia a livello di prodotto, magari Facebook) per sopprimere la distribuzione virale di contenuti dichiarati falsi”.

Advertisement

Come proteggersi?

Nel frattempo, lo specialista di cybersicurezza Tomasz Andrzej Nidecki ha dichiarato a Times of Malta che gli utenti possono adottare alcune misure preventive per evitare di cadere vittime di truffe simili.

“Non inserite mai dati personali o accedete a un sito che avete visitato tramite un link ricevuto da una fonte sconosciuta e non date mai a nessuno nessun tipo di codice ricevuto via e-mail o SMS, qualunque sia.

“Controllate sempre due volte ogni richiesta che ricevete. Se un amico su Facebook vi chiede di aiutarlo a recuperare il suo account, verificate che sia davvero la persona che dice di essere, contattandolo con un altro mezzo di comunicazione o ponendogli una domanda di cui solo lui conosce la risposta”.

Nidecki ha inoltre sottolineato che gli utenti non dovrebbero mai utilizzare password uguali o simili per piattaforme diverse ed evitare di usare password che includono dati come nomi di familiari o date di nascita. Secondo Nidecki, gli utenti dovrebbero sempre attivare l’autenticazione a due fattori, ove possibile.