I conduttori dei telegiornali più importanti sono stati presi di mira dai truffatori di deepfake su Facebook

Ma i filmati sono falsificati – l’ultimo di una serie di deepfakes che dirottano le immagini di personaggi fidati del mondo dell’informazione in annunci spuri, minando la fiducia nei media.

Negli ultimi mesi, post simili sui social media hanno preso di mira la personalità di Fox News Jesse Watters, il conduttore della CBC Ian Hanomansing e le star della BBC Matthew Amroliwala e Sally Bundock.

In alcuni casi, i giornalisti hanno utilizzato i propri account per rispondere.

“Non ho mai sentito parlare di questo prodotto e non l’ho mai usato! Per favore, non fatevi ingannare da questi video di AI”, ha detto King su Instagram a ottobre.

Dopo aver visto dei filmati in cui si presumeva che promuovesse dei prodotti a base di cannabis, anche Sanjay Gupta, corrispondente medico della CNN, ha postato un avvertimento: “Queste truffe non hanno nulla a che fare con me… la mia preoccupazione principale è la vostra salute, e temo che potreste subire danni se assumete questi prodotti”

Advertisement

I video manipolati propongono di tutto, da trattamenti non provati a schemi di investimento – molti promettono un “reddito garantito” o l’accesso ad azioni ambite. Alcuni utilizzano anche filmati alterati del miliardario Elon Musk, fondatore di Tesla e SpaceX.

Alcuni includono link a schemi di investimento, prodotti non approvati o siti web di e-commerce non correlati che scompaiono dopo alcuni giorni.

Meta, la società madre di Facebook e Instagram, ha vietato i deepfakes dall’inizio del 2020, con alcune eccezioni per la parodia e la satira. Altre piattaforme hanno politiche simili.

Ma tali clip – molte delle quali verificate da AFP – continuano a diffondersi online.

Clonazione della voce

“Ho visto un aumento di questi tipi di video in cui la voce di una persona viene clonata a partire da appena due minuti della sua voce, e poi qualsiasi altro video che la ritrae viene modificato in modo che la bocca sia coerente con il nuovo audio”, ha detto in precedenza ad AFP Hany Farid, professore dell’Università della California-Berkeley specializzato in digital forensics.

Alcuni deepfake sono facili da individuare a causa della loro scarsa qualità. Tuttavia, gli esperti avvertono che la tecnologia sta migliorando… e i personaggi televisivi sono bersagli facili perché ci sono molti filmati disponibili per addestrare i programmi AI.

La tendenza è preoccupante perché “le persone sono cresciute fino a fidarsi di un giornalista come di un amico”, secondo Andrea Hickerson, preside di giornalismo presso l’Università del Mississippi.

Advertisement

“È davvero pericoloso perché le persone non si aspettano che la disinformazione e l’informazione arrivino in questo modo”, ha detto. “Sembra un’agenzia di stampa tradizionale”

crisi di fiducia

I contenuti manipolati dall’AI sono diventati una parte crescente delle frodi di investimento in particolare, che sono costate agli americani circa 3,8 miliardi di dollari nel 2022, secondo la Federal Trade Commission.

Secondo quanto riferito, tali schemi hanno preso di mira vittime in Canada, Australia e altri Paesi. In alcuni casi, sono costati agli individui decine o centinaia di migliaia di dollari.

“Gli schemi stanno diventando sempre più complessi, in quanto i criminali fondono le tattiche tradizionali con le truffe online che coinvolgono le criptovalute e l’intelligenza artificiale”, ha dichiarato l’avvocato Chase Carlson in un post sul blog all’inizio di quest’anno.

Gli americani sono sempre più preoccupati dell’uso dell’AI online, in particolare quando si tratta di politica.

Oltre il 50% si aspetta che tali falsità influenzino l’esito delle elezioni del 2024, secondo un sondaggio di settembre di Axios e della società di business intelligence Morning Consult.

In precedenza, l’AFP ha smascherato i video deepfake del Presidente degli Stati Uniti Joe Biden che annunciava una leva militare e dell’ex Segretario di Stato Hillary Clinton che appoggiava il Governatore della Florida Ron DeSantis per la presidenza.

Advertisement

Rebekah Tromble, direttore dell’Istituto per i dati, la democrazia e la politica della George Washington University, ha detto che questo tipo di disinformazione “si inserisce in preoccupazioni più ampie sulla fiducia nelle informazioni e sulla fiducia nelle istituzioni”

Secondo un sondaggio Gallup di ottobre, solo un terzo circa degli americani ha una “grande” o “discreta” fiducia nei media di notizie, eguagliando il minimo registrato nel 2016.

Molte delle clip manipolate che circolano online sono “cheapfakes” di bassa qualità, ha osservato Tromble, ma contribuiscono comunque a “una crisi di fiducia” Ha esortato i consumatori di notizie a usare cautela prima di condividere tali post sui social media.

“C’è ancora molta buona informazione in giro, e con una sana dose di scetticismo possiamo eliminare le cose che sono disinformazione”, ha detto.