Negli ultimi anni l’intelligenza artificiale generativa ha trasformato radicalmente il modo in cui vengono prodotti e diffusi i contenuti digitali. Tra i fenomeni più discussi vi sono i deepfake: immagini, video o audio generati o manipolati tramite IA fino a sembrare autentici.
A differenza della manipolazione tradizionale di immagini o video, i deepfake possono produrre contenuti visivi e uditivi molto realistici, in grado di mettere in discussione la comprensione dell’autenticità nella comunicazione digitale. Accanto alle applicazioni utili — ad esempio nel settore dell’intrattenimento, nei doppiaggi o nella traduzione linguistica — cresce la consapevolezza dei rischi legati ai deepfake. Le principali preoccupazioni riguardano la fiducia sociale, la tutela della privacy, l’integrità delle informazioni e la violazione dei diritti fondamentali.
Questi contenuti artificiali contaminano ormai la vita quotidiana: vengono usati nelle truffe telefoniche, nelle campagne di disinformazione, nelle frodi, nelle videochiamate, dove è possibile fingersi un’altra persona in tempo reale.
Se inizialmente apparivano come una curiosità tecnologica, facile da smascherare, oggi stanno diventando più sofisticati e difficili da distinguere dalla realtà. Questo sta sollevando interrogativi non solo tecnici, ma anche sociali, giuridici e politici: che cosa succede quando non possiamo più fidarci di ciò che vediamo o ascoltiamo? Come si può proteggere la società in un contesto in cui l’inganno digitale è divenuto semplice da realizzare e convincente?
Un articolo pubblicato su Le Scienze riporta l’intervista a Hany Farid, ricercatore di informatica forense all’Università della California a Berkeley, che da anni studia i deepfake e i sistemi per riconoscerli. Farid sostiene che il problema non riguardi soltanto l’autenticità delle immagini o dei video, ma la crisi più ampia della fiducia nell’era dell’IA generativa. Nel corso dell’intervista ricorda come all’inizio queste tecnologie erano usate soprattutto per creare immagini intime, senza il consenso della persona: i volti apparivano innaturali e le manipolazioni si notavano molto. Oggi però la situazione è cambiata radicalmente: l’IA generativa può creare imitazioni credibili in maniera semplice, veloce ed economica. Secondo il docente il problema non è soltanto tecnologico ma sociale. Anche quando si riesce a dimostrare che un contenuto è falso, spesso il danno è già stato fatto: la truffa è riuscita, la reputazione è stata colpita, la notizia si è diffusa. Questo avviene non solo nell’ambito dei social network, ma coinvolge anche i tribunali, la sicurezza nazionale, le indagini giudiziarie e le infrastrutture tecnologiche del futuro.
L’equivoco più grosso per il professore è l’uso del termine “intelligenza artificiale”, mentre sarebbe da definire questi sistemi come “miscelatori di token”: questi sistemi analizzano grandi quantità di testo, trasformano le parole in rappresentazioni numeriche e cercano di prevedere quale parola o frammento verrà dopo. In questo senso funzionano come una forma sofisticata di completamento automatico. Farid sottolinea inoltre che gran parte dell’apparente intelligenza di questi sistemi deriva in realtà dal lavoro umano nascosto dietro l’addestramento: persone che correggono risposte, classificano dati, indicano quali output siano appropriati e quali no. L’“intelligenza” non è della macchina ma dell’enorme infrastruttura su cui lavora l’uomo.
I rischi concreti dei deepfake
Numerose e gravi sono le problematiche causate dalla creazione di immagini, audio e video che sembrano reali. L’IA generativa può produrre, infatti, immagini intime senza il consenso della persona. In alcuni casi i chatbot hanno spinto adolescenti vulnerabili verso l’autolesionismo o il suicidio. Sempre più numerose sono, poi, le truffe basate sulla clonazione vocale.
Uno dei problemi più gravi rimane l’“avvelenamento dell’ecosistema informativo”: diventa difficile capire cosa sia autentico o meno. Si diffondono, così, campagne di disinformazione. Ciò anche conseguenze importanti sulla formazione e sull’apprendimento degli studenti che usano questi strumenti quotidianamente.
L’UNICEF a febbraio 2026[1] ha denunciato che i deepfake vengono utilizzati per produrre contenuti sessualizzati che coinvolgono bambini, anche attraverso la “nudificazione”: gli strumenti di IA vengono sempre più utilizzati per spogliare o alterare gli abiti nelle foto per creare immagini falsificate di nudo o sessualizzate. In uno studio condotto da UNICEF, ECPAT e INTERPOL in 11 paesi, è emerso che almeno 1,2 milioni di bambini hanno rivelato che le loro immagini sono state manipolate in deepfake sessualmente espliciti nel solo ultimo anno. In alcuni dei paesi oggetto dello studio, fino a due terzi dei bambini hanno dichiarato di temere che l’intelligenza artificiale possa essere utilizzata per creare false immagini o video a sfondo sessuale. L’UNICEF ha ricordato che le immagini sessualizzate di bambini generate o manipolate utilizzando strumenti di IA sono materiale che costituisce abuso sessuale su minorenni: non c’è nulla di falso nel danno provocato.
I rischi sono aggravati quando gli strumenti di IA generativa sono integrati direttamente nelle piattaforme dei social media, dal momento che le immagini manipolate hanno una rapida diffusione. L’abuso può determinare gravi violazioni dei diritti e delle libertà fondamentali delle persone coinvolte.
Strumenti di prevenzione e di contrasto
Gli sviluppatori di IA stanno implementando approcci di sicurezza integrati nella progettazione e misure di protezione per prevenire l’uso improprio dei sistemi. Tuttavia, il panorama è molto disomogeneo e le misure di sicurezza non sempre sono adeguate.
Nell’articolo pubblicato su Le Scienze Farid ritiene necessario predisporre nuovi strumenti di verifica e di autenticazione per ricostruire la fiducia pubblica nell’informazione e nelle prove digitali. I legislatori dovrebbero non soffermarsi solo su contenuti singoli ma tentare di colpire l’infrastruttura, risalendo il flusso: i servizi di hosting, app store, sistemi di pagamento e piattaforme che permettono la distribuzione dei contenuti. A suo giudizio, prevedere la sola rimozione dei contenuti è poco utile, perché online il danno si produce nei primi minuti. Sarebbe, invece, da agire sull’intera infrastruttura economica che rende profittevole il mercato. Per proteggere in maniera efficace le persone, le piattaforme dovrebbero assumersi più responsabilità. Un esempio, in termini di protezione, riportato nell’articolo è quello dell’Australia, che ha vietato i social media ai ragazzi sotto i 16 anni.
È, inoltre, necessaria una sensibilizzazione del pubblico, in grado di ridurre al minimo i rischi.
La risposta del Garante Privacy in Italia
In Italia il Garante per la protezione dei dati personali è intervenuto in più occasioni sul tema.
A dicembre 2025 l’Autorità ha adottato un provvedimento di avvertimento nei confronti degli utilizzatori di servizi basati sull’intelligenza artificiale, come Grok, ChatGPT e Clothoff e altri servizi analoghi disponibili online, che consentono di generare e condividere contenuti a partire da immagini o voci reali, arrivando anche a “spogliare” persone senza il loro consenso. Con lo stesso provvedimento, il Garante ha richiamato i fornitori di tali servizi alla necessità di progettare, sviluppare e rendere disponibili applicazioni e piattaforme in modo tale da garantire che gli utenti possano utilizzarle nel rispetto della disciplina privacy.
Il 6 maggio 2026 l’Autorità è intervenuta nuovamente, ribadendo la necessità di poter intervenire per interdire il collegamento dall’Italia a tali piattaforme di servizi. Un potere di questo tipo permetterebbe di bloccare con tempestività la “catena virale” delle condivisioni e la diffusione incontrollata di dati e materiali dannosi. Il Garante ha ricordato che “la rapidità dell’intervento è fondamentale quando sono in gioco diritti fondamentali, come la protezione dei dati personali: una violazione in questo ambito può provocare danni gravi e spesso irreversibili”.
L’AI Omnibus e il divieto dei deepfake non consensuali in UE
Il settimo pacchetto di semplificazione di alcune norme digitali europee prevede il divieto di generare deepfake di natura sessuale non consensuale e pedopornografico. La nuova norma stabilisce che nell’UE non potranno essere immessi sul mercato sistemi di intelligenza artificiale progettati per creare immagini, video o audio che raffigurano persone identificabili in contenuti sessuali espliciti senza il loro consenso. La misura non si estende solo all’uso dell’utente finale, ma alla radice, per tentare di inibire l’introduzione delle app sul mercato. Le aziende avranno tempo fino al 2 dicembre 2026 per adeguare i propri strumenti e introdurre misure di sicurezza in grado di prevenire questo tipo di utilizzo.
Conclusione
I deepfake rappresentano una delle sfide più complesse dell’era digitale, perché mettono in discussione la fiducia nelle immagini, nelle informazioni e nelle relazioni personali e sociali. I danni causati dal loro abuso non sono virtuali ma concreti: possono incidere profondamente sulla vita delle persone, soprattutto quando colpiscono minori, reputazione e diritti fondamentali. Per questo sono necessarie risposte rapide ed efficaci: norme adeguate, responsabilità delle piattaforme, strumenti di tutela e una maggiore consapevolezza pubblica.
Per approfondire:
[1] UNICEF, L’uso improprio dei deepfake è un abuso, Statement, 4 febbraio 2026
ultimo aggiornamento il 14 Settembre 2026
