Non è bastato l’AI Act a risolvere tutti i problemi derivanti da un uso improprio dell’intelligenza artificiale. Anzi, a quasi un anno dall’approvazione del regolamento dell’Unione europea sull’AI, il numero di casi di violazione della privacy e creazione di deepfake è addirittura aumentato. A tal punto che parlare del 2024 anche come anno del deepfake non sarebbe un’eresia. Dalla voce di Taylor Swift clonata per promuovere una inesistente campagna di giveaway di set di pentole, al ben più agghiacciante caso dei chatbot in grado di impersonificare Giulia Cecchettin e Filippo Turetta sotto forma di avatar con cui poter interagire. Gli esempi, purtroppo, sarebbero tanti… 

Oggi, grazie ad app e programmi che sfruttano l’intelligenza artificiale, chiunque è in grado di creare immagini manipolate così verosimili da trarre in inganno centinaia, migliaia, persino milioni di persone che ogni giorno vi si imbattono sui social.
I principali approcci utilizzati dai creatori di deepfake sono tre: 

1.     Audio deepfakes: la voce di una persona viene clonata ed utilizzata per creare nuovi dialoghi
2.     Lip syncing: una registrazione vocale viene sincronizzata con i movimenti delle labbra di un video
3.     Source video deepfakes: ad un video originale vengono sovrapposte le caratteristiche del volto e del corpo di un’altra persona

 «Deepfake è già una parola di per sé con connotazione negativa. Alla lettera, significa “falso profondo”, cioè una falsificazione indistinguibile dal reale», spiega a Magzine Alessandro Curioni, esperto di cybersicurezza e docente di “Sicurezza dell’informazione” all’Università Cattolica del Sacro Cuore. «Di solito – prosegue l’esperto – si utilizza un “campione” di una persona, fatto di immagini, video e messaggi vocali e, dalla combinazione tra l’intelligenza artificiale e più o meno sofisticati programmi di editing, viene realizzato un clone di quella persona che però dice o fa cose che questa persona non ha mai detto o fatto». Una tendenza in rapida ascesa, tanto pericolosa quanto difficile da controllare. Secondo Yarix, società che si occupa di sicurezza informatica, gli incidenti informatici legati ai deepfake hanno visto un preoccupante aumento del 300% nel 2023. Un’arma subdola, capace in molti casi di distruggere delle vite. Anche perché ancora non conosciuta – e riconosciuta – da tutti.

Un fenomeno ancora poco conosciuto

Secondo una recente indagine di Ipsos, il 46% degli italiani non ha mai sentito parlare di deepfake, mentre il 24% ne ha sentito parlare ma ha dubbi in merito. Solo il 30% sa realmente di cosa si tratta. Ma chi lo conosce ne ha anche paura. Il 78% delle persone prese in esame nell’indagine si è detto preoccupato per le conseguenze che questo fenomeno comporta. A spaventare è soprattutto la passività delle persone, l’impunità di chi li crea e la crisi dei criteri per distinguere realtà e finzione. Per il 46%, inoltre, i deepfake aumentano il rischio di disinformazione. Ma come contrastare questa minaccia? Secondo l’indagine, le persone vedrebbero favorevolmente l’impiego di regole più chiare e di pene più severe, oltre che una maggiore sensibilizzazione sul tema. 

Negli ultimi anni, a sostegno delle vittime di deepfake e delle sue degenerazioni, come il deepnude, sono nate anche apposite associazioni che offrono consulenza e varie forme di supporto. Tra queste, l’italiana PermessoNegato, la prima in Europa ad offrire questo tipo di supporto, come spiega Noemi Tentori, membro interno ed esperta di sicurezza informatica: «L’associazione non-profit PermessoNegato nasce a fine 2019, subito dopo l’introduzione del reato di “diffusione illecita di contenuti sessualmente espliciti” nel nostro Codice Penale, con lo scopo di offrire supporto alle vittime di tale condotta. Abbiamo un approccio multidisciplinare: forniamo supporto tecnologico, psicologico e legale alle vittime, garantendone l’anonimato. Crediamo molto anche nella diffusione della cultura del consenso e dell’educazione digitale, per cui investiamo nella formazione, che svolgiamo prevalentemente nelle scuole, e nella divulgazione, che attuiamo attraverso i nostri social network». 

Reazione a catena: dal deepfake al deepnude

In questa terra di nessuno che è il mondo virtuale, in cui tutti ormai viviamo ma a cui l’AI Act non è ancora riuscito a dare dei chiari paletti, la situazione rischia di sfuggire di mano. I settori in cui i deepfake trovano oggi applicazione sono tanti: dalla satira alla disinformazione politica per influenzare l’opinione pubblica e, in alcuni casi, anche le elezioni; dalle frodi finanziarie al cyberbullismo. In Italia, specie sui social, ne girano anche alcuni abbastanza riconoscibili – un esempio su tutti, quelli col volto di Gerry Scotti – che hanno manifeste e dichiarate finalità comiche, spesso con il consenso e l’autorizzazione dei diretti interessati. «Oggi il deepfake è un po’ alla portata di tutti e può essere divertente, almeno fino a quando è dichiarato che sia un deepfake e finché non è offensivo o diventa manipolazione della realtà», precisa il professor Curioni.
Fino all’ultima, pericolosissima, deriva: il deepnude. Ovvero, la manipolazione di immagini e video di nudo. Quindi fake porn. Un fenomeno di violenza digitale che, per effetto domino, dà inevitabilmente il “la” anche ad altri fenomeni altrettanto pericolosi, come il revenge porn e il sextortion (estorsione sessuale). 

Il termine deepnude nasce nel 2020 dall’omonimo bot dell’applicazione Telegram che permetteva di manipolare le foto e “spogliare” le persone. Ovviamente a loro insaputa. Il Garante della privacy aprì un’istruttoria nei confronti dell’azienda, poiché «le gravi lesioni alla dignità e alla privacy  a cui l’uso di un software simile espone le persone, soprattutto se minori, sono evidenti, considerati anche il rischio che tali immagini vengano usate a fini estorsivi o di revenge porn e tenuto conto dei danni irreparabili a cui potrebbe portare una incontrollata circolazione delle immagini, fino a forme di vera e propria viralizzazione. La facilità d’uso di questo programma rende, peraltro, potenzialmente vittime di deep fake chiunque abbia una foto sul web». 

 Ma il problema non è stato ancora risolto. Una recente indagine di Wired parla dell’esistenza di almeno 50 bot capaci poter generare foto e video deepnudes. Secondo i dati raccolti, sarebbero circa 4 milioni gli utenti mensili che su Telegram utilizzano questi software. «Il problema è di carattere generale», chiarisce Curioni: «Se il bot viene segnalato, smette di generare i contenuti ma i video, proprio come le immagini, se sono stati scaricati o salvati, restano sulla rete».  «Gli abusi sessuali digitali, come il revenge porn, la sextortion, la diffusione non consensuale di immagini intime, possono avere conseguenze psicologiche devastanti. Questi atti rappresentano una forma di violenza che mina profondamente l’autostima, la fiducia negli altri e il senso di sicurezza personale, generando traumi simili a quelli causati dagli abusi sessuali fisici», spiega la psicologa Ilaria Lavarini di PermessoNegato.  Paura, ansia, attacchi di panico, depressione, persino incubi notturni sono alcune delle drammatiche conseguenze che le vittime possono soffrire. Ma all’elenco si aggiungono anche altre forme di traumi che complicano le relazioni sociali con gli altri, come la paura del giudizio esterno, tanto da parte di cari e familiari, quanto di conoscenti e colleghi di lavoro: «Il danno alla reputazione, reale o percepito, può influenzare profondamente la percezione di sé, portando a un senso di alienazione dalla propria vita. Nei casi più gravi, le vittime possono ricorrere a comportamenti autolesionistici come forma di sfogo per il dolore emotivo o di punizione per il senso di colpa», prosegue la terapeuta. «Il revenge porn, in particolare, è associato a un alto rischio suicidario, dato l’impatto devastante sulla reputazione e sull’identità personale». 

Ricorrere ad uno psicologo può essere decisivo in queste situazioni: «La gestione delle conseguenze psicologiche degli abusi sessuali digitali richiede un approccio personalizzato e multidimensionale, che affronti non solo il trauma emotivo nel presente ma anche nel futuro. PermessoNegato offre supporto psicologico gratuito attraverso la collaborazione di partner esterni, che permettono alla vittima di usufruire di 3 colloqui gratuiti e la possibilità di intraprendere un percorso di psicoterapia a tariffe agevolate», conclude Lavarini.

Urgono soluzioni

Le attuali misure sembrano ancora insufficienti a contrastare il fenomeno.  Un report del Washington Post dimostra che il numero di video pornografici deepfake caricati sul web nel 2023 è aumentato del 54% rispetto all’anno precedente. «​​Dal punto di vista istituzionale ritengo che il problema sia stato affrontato normativamente con l’introduzione di norme apposite che, nel prevedere nuove ipotesi di reato – (art. 612 tre c.p.) oppure sanzionando condotte prima non contemplate (art. 600 quater 1 c.p.) – hanno fornito una risposta al problema di tipo meramente sanzionatorio, ma non hanno affrontato il problema in maniera organica, con interventi volti a prevenire il fenomeno». A parlare è l’avvocato Angelo Osvaldo Rovegno, altro associato di PermessoNegato, che ci aiuta a capire come questi crimini informatici possono essere puniti dalla legge italiana: «Il deepfake – che nel campo di nostro interesse si sostanzia in deepnude – trova esplicita disciplina normativa nel campo della pedopornografia minorile con l’art. 600 quater 1 c.p, che a sua volta estende la disciplina relativa agli art. 600 ter (“Pornografia minorile”) e 600 quater (“Detenzione o accesso a materiale pornografico”). Tutto ciò vale anche alle ipotesi nelle quali “… il materiale pornografico rappresenta immagini virtuali realizzate utilizzando immagini di minori degli anni diciotto o parti di esse […]. Per immagini virtuali si intendono immagini realizzate con tecniche di elaborazione grafica non associate in tutto o in parte a situazioni reali, la cui qualità di rappresentazione fa apparire come vere situazioni non reali”».

L’avvocato fa dunque un’importante distinzione sia in base all’età delle vittime che in base al crimine commesso: «Nel caso di deepnude che coinvolga maggiorenni invece, non esiste una specifica norma incriminatrice, ma si può fare riferimento, in base alla circostanze di fatto, ad una fattispecie di reato già esistente nel nostro ordinamento, ovvero il reato di diffamazione (art. 595 c.p.). Se parliamo di revenge porn, che per lungo tempo ha avuto tutela giuridica all’interno della fattispecie del reato di diffamazione, dal luglio 2019 – con la legge 69/2019 – ha trovato specifica previsione con l’introduzione dell’art. 612 ter c.p. che ha normato una nuova ed autonome fattispecie di reato (Diffusione illecita di immagini o video sessualmente espliciti) con regime sanzionatorio maggiormente punitivo rispetto a quello previsto dal precedente art.595 c.p.».

Scenari futuri

 L’AI Act, la nuova legge dell’Unione Europea sull’intelligenza artificiale in vigore dallo scorso agosto, prevede che ogni contenuto generato dall’AI sia chiaramente etichettato come tale, per garantire trasparenza agli utenti. Ma non autorizza in ogni caso la creazione di deepnudes. Anche gli Stati Uniti hanno provato a dare una risposta concreta al problema: a luglio è stata presentata una proposta di legge, il COPIED Act, che impone ai produttori di deepfake gli stessi obblighi previsti dall’AI Act ed introduce pene e sanzioni per chi non rispetta la normativa. 

Sempre a luglio, Google ha annunciato un aggiornamento al suo algoritmo di ricerca, riducendo l’esposizione ai contenuti manipolati del 70% e promuovendo le fonti affidabili. L’espansione “About this image” su Google Lens, inoltre, permette agli utenti di verificare l’autenticità delle immagini, identificando rapidamente i contenuti manipolati. Intanto, di fronte all’assenza di una risposta rapida, concreta e, per quanto possibile, univoca da parte delle istituzioni, giornali ed utenti del web provano ad attrezzarsi con i pochi strumenti a propria disposizione. La dettagliatissima guida del Guardian per riconoscere i deepfake ne è un perfetto esempio. 

«In via precauzionale, per tutelarsi da eventuali deepnude, consigliamo di essere altrettanto prudenti nella “vita online”, così come lo siamo in quella “reale”» suggerisce Noemi Tentori. «Ad esempio, invitiamo a condividere contenuti privati solo con persone davvero degne della vostra fiducia, e a rivedere le impostazioni privacy dei vostri profili social per evitare che chiunque abbia accesso alle vostre foto ed ai vostri video».

«Il deepfake vocale è il più difficile da riconoscere: più che il modo in cui lo dice, bisogna considerare quello che l’eventuale clone dice, per esempio se sono cose che non ci aspetteremmo da quella persona», avverte ancora Alessandro Curioni. Quanto ai deepfake “visuali”, il professore spiega: «Spesso sono un po’ più imperfetti e possono essere riconosciuti se vanno un po’ a scatti, perché in teoria l’interazione dovrebbe avvenire in tempo reale».  

E proprio l’esperto, infine, ci spiega come il mondo dell’intelligenza artificiale non è affatto chiuso o soltanto pericoloso. La stessa I.A., infatti, può diventare un prezioso alleato per la lotta contro l’uso (de)generativo di chatbot e intelligenze artificiali: «Attraverso un sistema chiamato G.A.N. (Generative adversarial network, ndr) è possibile addestrare un I.A. a riconoscere un deepfake: in questo modo, le intelligenze artificiali interagiscono e si istruiscono una con l’altra. Questo perché l’uomo ha una vista sintetica, mentre la loro, se di “vista” vogliamo parlare, è analitica, capace di analizzare pixel per pixel», conclude il docente.
Una possibilità che ci conferma la sempreverde questione del dual-use di ogni creazione umana: il problema non è tanto lo strumento in sé, quanto l’uso che se ne fa.

Secondo gli esperti di intelligenza artificiale, i contenuti ingannevoli generati dalla stessa potrebbero influenzare i cittadini turchi nel momento delle elezioni.Due settimane fa è stato diffuso un video in cui Kemal Kilicdaroglu, il principale sfidante del presidente Recep Tayyip Erdogan alle elezioni presidenziali dello scorso 14 maggio, parlava perfettamente inglese. «Anche la pupilla dei miei occhi parla inglese. Ti prometto, nonno, che ti faremo presidente», ha commentato un utente di Twitter condividendo il video del candidato 74enne. Qualche giorno dopo, però, il sito web indipendente turco di fact-checking Teyit.org ha rivelato che il video era stato generata dall’IA.

A rivelarlo è stato il primo utente di Twitter, @ytc06, che ha condiviso il video: «Sperimento con l’intelligenza artificiale per conoscere nuove funzionalità. Ho creato la voce di Kemal Kilicdaroglu con l’AI e l’ho usata per una versione inglese del suo discorso di candidatura». Secondo lo specialista di deepfake Henry Ajder, il recente boom di accesso agli strumenti di intelligenza artificiale sta alimentando questo tipo di situazioni. Le prossime votazioni presidenziali e parlamentari turche potrebbero porre fine ai 20 anni di governo di Erdogan e modificare il panorama politico del Paese. Si tratta, inoltre, di una delle prime elezioni importanti che hanno a che fare con un’intelligenza artificiale così avanzata. «Se si riesce a diffondere discorsi sofisticati e dalle caratteristiche molto umane su reti di grandi dimensioni e account non autentici attraverso un’unica narrazione, questo potrebbe ovviamente giocare un ruolo nel prendere il controllo di un’intera sfera di influenza», ha detto Ajder.

Un altro candidato alle presidenziali, Muharrem Ince, si è ritirato dalla corsa giovedì scorso dopo la pubblicazione di un presunto filmato a sfondo sessuale che, a suo dire, era un deepfake. «Quello che ho visto negli ultimi 45 giorni non l’ho mai visto», ha affermato Ince nel suo discorso di dimissioni. «Hanno messo il mio volto su un video preso da un sito web porno israeliano», ha aggiunto, incolpando i giornalisti e i pubblici ministeri del Paese per non averlo protetto dalla “furia della calunnia”».

L’esperto turco di intelligenza artificiale Cem Say teme tattiche ancora più aggressive: «I deepfake potrebbero essere usati il giorno delle elezioni con l’obiettivo di scoraggiare le persone dal recarsi alle urne o di influenzare la loro decisione», ha detto, aggiungendo che questo non lascerebbe «tempo per le verifiche». In Turchia il 90% dei media nazionali è sotto il controllo del governo, secondo il gruppo per la libertà di stampa Reporter senza frontiere (RSF). Questo, insieme alla promulgazione della legge dell’ottobre 2022 che punta a limitare la “disinformazione”, per usare le parole del governo turco, fa sì che in Turchia siano pochissimi gli organi di informazione impegnati a smascherare i deepfake.

 Per saperne di più, continua a leggere su Euronews.com.

La Rete è esplosa dopo aver scoperto che il Tom Cruise comparso in un video su TikTok era… fake. La precisione dei nuovi software dedicati alla manipolazione delle immagini è ormai tale da confondere chiunque e inquieta non poco pensare ai modi distorti in cui il deepfake potrebbe essere applicato nel prossimo futuro. Da qui nasce l’esigenza di capire come identificare e distinguere il falso dal vero.

Gli studiosi dell’Università di Buffalo, nello Stato di New York, sono stati tra i primi ad avvertire la necessità di approntare uno strumento che possa permettere questa distinzione. Il risultato delle loro ricerche si è tradotto in un tool capace di indicare con un’accuratezza del 94% se ci si trova di fronte a immagini o a video realizzati con la tecnologia deepfake.

Per scovare il falso, l’algoritmo studia il riflesso della luce nelle iridi e nelle pupille del soggetto ritratto. Sembrerebbe infatti che l’A.I. non riesca ancora a replicare perfettamente il modo in cui la luce si rifrange sugli occhi umani.

Come spiega il professor Siwei Lyu, docente a Buffalo e principale autore dello studio, “La cornea è una semi sfera quasi perfetta e molto riflettente. Quando si osserva qualcosa di luminoso, entrambi gli occhi presentano riflessi simili perché la fonte di luce è la stessa”. L’AI dietro ai deepfake invece non riesce a mappare in modo identico i punti luce sullo sguardo delle persone rappresentate; seppur impercettibili a una prima occhiata, ci sono evidenti differenze nella forma, nell’estensione e nel colore del riflesso tra occhio destro e sinistro nelle immagini false.

Non mancano i casi in cui l’algoritmo può rivelarsi inefficace. I deepfake possono sempre essere ritoccati con Photoshop e la tecnologia sviluppata all’Università di Buffalo non riuscirebbe a distinguere tra vero e falso se nelle immagini non fossero visibili entrambi gli occhi del soggetto ritratto. Al momento però il professor Lyu rivendica la validità di questo strumento, che potrebbe costituire una prima, valida chiave per smontare le video-bufale che cominciano a circolare sul Web.

Per approfondire, continua a leggere su SciTechDaily

Il fact-checking è e sarà sempre più al centro dell’attività di Reuters. Le foto dei testimoni oculari e i video diffusi online saranno analizzati mediante uno scrupoloso processo di verifica. L’agenzia di stampa porterà ora questa esperienza nella lotta contro la disinformazione su Facebook.

Mark Zuckerberg pagherà, infatti, Reuters per individuare le fake news sul social network. A svolgere la ricerca sarà un gruppo di lavoro, creato pochi mesi fa nell’agenzia, composto da quattro persone. Il team esaminerà video e foto prodotti dagli utenti, nonché titoli di notizie e altri contenuti segnalati su Facebook dal team del social network o dalla più ampia redazione di Reuters. che poi verranno pubblicati sul nuovo blog Reuters Fact-Check, che spiegherà il motivo della segnalazione e perché quel post è falso, parzialmente falso oppure vero.

Facebook userà queste informazioni per catalogare i messaggi di disinformazione come falsi, declassarli nel news feed della piattaforma e limitarne la diffusione. Spiega Hazel Baker, global director dell’User Generated Content di Reuters: «Abbiamo una scala di valutazione che serve a definire se un contenuto non è stato manipolato ma è comunque fuori contesto o anacronistico (video vecchi e riciclati); se ci sono video e foto che potrebbero essere stati rallentati, accelerati, tagliati o filtrati; se abbiamo contenuti messi in scena, come video in cui l’audio è stato registrato e attribuito maliziosamente a un politico; se ci sono immagini generate al computer che possono aggiungere elementi falsi in un video vero; infine se ci sono video creati ad arte sinteticamente oppure deepfake».

Per approfondire, continua la lettura su Techcrunch