Social Media Girls e deepfake non consensuali: cosa dice la legge e come difendersi
Piattaforme come “Social Media Girls” raccolgono fotografie di donne prelevate dai profili social — Instagram, Facebook, TikTok — e le manipolano con strumenti di intelligenza artificiale per produrre contenuti sessualmente espliciti falsi, senza alcun consenso delle persone ritratte. I contenuti vengono poi distribuiti e monetizzati.
Questo fenomeno non è una zona grigia del diritto. È un reato — in Italia, in Europa, e in molte altre giurisdizioni. Chi ne è vittima ha strumenti legali concreti per agire, e la tempestività è spesso determinante.
Perché è illegale: il quadro normativo
Art. 612-ter c.p. — Diffusione illecita di immagini sessualmente esplicite
L’art. 612-ter del Codice Penale (introdotto dalla Legge 69/2019, c.d. “Codice Rosso”) punisce chiunque diffonda immagini o video sessualmente espliciti senza il consenso delle persone ritratte.
La norma si applica anche ai contenuti falsi — immagini generate o manipolate con AI che riproducono la somiglianza di una persona reale in contesti sessuali senza il suo consenso. La pena prevista va da uno a sei anni di reclusione, con multa da 5.000 a 15.000 euro. Le pene sono aggravate se il fatto è commesso da chi ha una relazione affettiva con la vittima o tramite strumenti informatici.
Art. 612-quater c.p. — Deepfake come reato autonomo
La Legge 132/2025, in vigore dal 10 ottobre 2025, ha introdotto il nuovo art. 612-quater c.p.: reclusione da uno a cinque anni per chi diffonde senza consenso immagini, video o audio falsificati tramite intelligenza artificiale in modo da ingannare sulla loro autenticità.
È la risposta legislativa italiana al fenomeno dei deepfake non consensuali — inclusi i contenuti generati da piattaforme come Social Media Girls. Non è più necessario dimostrare che l’immagine è “sessualmente esplicita” ai sensi dell’art. 612-ter: basta che sia falsa, che tragga in inganno e che sia diffusa senza consenso.
Diritto all’immagine — artt. 96-97 l.d.a. e art. 10 c.c.
La legge sul diritto d’autore stabilisce che il ritratto di una persona non può essere esposto, riprodotto o messo in commercio senza il suo consenso. L’art. 10 del Codice Civile permette di chiedere al giudice la cessazione dell’abuso e il risarcimento del danno.
Scaricare fotografie da un profilo social e usarle — anche solo come base per una manipolazione AI — viola il diritto all’immagine della persona ritratta, indipendentemente dall’impostazione di privacy del profilo originale.
GDPR — Trattamento illecito di dati personali
Le fotografie di una persona fisica sono dati personali ai sensi del Regolamento UE 2016/679. Il volto, in particolare, è un dato biometrico — categoria speciale ai sensi dell’art. 9 GDPR — che richiede consenso esplicito per qualsiasi trattamento, inclusa la riproduzione, la manipolazione e la distribuzione.
Le sanzioni GDPR arrivano fino a 20 milioni di euro o al 4% del fatturato globale annuo dell’organizzazione responsabile.
AI Act europeo
Il Regolamento UE 2024/1689 (AI Act) vieta sistemi AI che manipolano comportamenti in modo da causare danno fisico, psicologico o reputazionale. I deepfake di natura sessuale non consensuali rientrano tra gli usi vietati. Le sanzioni possono arrivare fino al 6% del fatturato globale.
Come funziona il meccanismo di queste piattaforme
Il processo è automatizzato: software scaricano fotografie pubblicamente accessibili dai profili social, algoritmi di intelligenza artificiale le modificano per generare contenuti sessualmente espliciti falsi, i contenuti vengono pubblicati su piattaforme a pagamento o distribuiti in forum online.
La natura automatizzata rende il fenomeno scalabile — lo stesso sistema può elaborare migliaia di immagini — e rende più difficile identificare i responsabili, che spesso operano da paesi con normative più permissive.
Il fatto che le immagini originali fossero pubblicamente visibili sui social non costituisce autorizzazione a usarle, tantomeno a manipolarle. “Pubblico” su un social network non significa “libero da diritti” — come abbiamo spiegato in dettaglio per le foto su Facebook.
Cosa fare se sei vittima
La tempestività è determinante: quanto più tempo passa, tanto più il contenuto si diffonde e tanto più difficile diventa rimuoverlo completamente.
Entro 24 ore
Documenta tutto prima di agire. Screenshot con URL completo, data e ora visibili, nome del sito. Non cancellare nulla — ogni elemento può servire come prova in sede penale o civile. Se possibile, usa strumenti di acquisizione forense che certificano la data (ad esempio, tramite notaio digitale o servizi di timestamping).
Contatta un avvocato specializzato. Le azioni da intraprendere — penali, civili, amministrative — richiedono una strategia coordinata. Agire in modo frammentato può indebolire la posizione.
Entro 48-72 ore
Diffida formale al gestore del sito. Anche se il sito opera dall’estero, una diffida formale documenta la richiesta di rimozione e la data in cui il gestore ne è venuto a conoscenza. Questo ha rilevanza in sede di responsabilità.
Segnalazione alle piattaforme di hosting e ai motori di ricerca. Google, Bing e altri motori di ricerca hanno procedure specifiche per la rimozione di contenuti non consensuali di natura sessuale. La deindicizzazione non rimuove il contenuto dall’origine, ma ne limita significativamente la diffusione.
Ricorso d’urgenza al Tribunale. In casi gravi, è possibile ottenere un’ordinanza d’urgenza che obbliga il sito o il provider a rimuovere i contenuti in tempi rapidi.
Nelle settimane successive
Denuncia penale alla Polizia Postale. La Polizia Postale ha competenza specifica sui reati informatici e può avviare indagini anche su soggetti operanti dall’estero attraverso la cooperazione internazionale.
Reclamo al Garante per la Protezione dei Dati Personali. Il Garante può aprire un’istruttoria per violazione del GDPR e ordinare la rimozione dei dati e il risarcimento.
Deindicizzazione dai motori di ricerca (diritto all’oblio). Il diritto alla cancellazione ai sensi dell’art. 17 GDPR permette di chiedere la rimozione dei contenuti anche ai motori di ricerca.
Azione risarcitoria. Il danno non è solo patrimoniale: include il danno morale, il danno psicologico documentato, la perdita di opportunità professionali. Il risarcimento può essere richiesto sia ai gestori della piattaforma sia a chiunque abbia contribuito alla diffusione.
Come proteggersi preventivamente
La prevenzione non elimina il rischio — le piattaforme possono operare su immagini già pubblicate in precedenza — ma può ridurlo significativamente.
Imposta la visibilità dei profili. Profili privati limitano l’accesso alle fotografie ai soli account approvati. Su Instagram e Facebook, verifica periodicamente le impostazioni di privacy e rivedi l’elenco dei follower/amici.
Disattiva la geolocalizzazione nelle foto. I metadati EXIF delle fotografie possono contenere la posizione esatta di scatto. Disattivare la geolocalizzazione nella fotocamera dello smartphone elimina questo dato prima della pubblicazione.
Aggiungi watermark discreti. Un watermark discreto non impedisce la manipolazione, ma rende il contenuto originale identificabile e documenta la paternità in caso di contestazione.
Monitora la tua presenza online. Cerca periodicamente il tuo nome e le tue fotografie con Google Immagini o servizi di ricerca inversa come TinEye. Imposta Google Alert per il tuo nome.
Una nota sulla vittimizzazione secondaria
Un aspetto che emerge frequentemente in questi casi è la tendenza delle vittime a interrogarsi su cosa avrebbero potuto fare diversamente — se avessero dovuto pubblicare meno foto, se il profilo privato avrebbe impedito tutto. Non è così.
La responsabilità è esclusivamente di chi crea, distribuisce e monetizza questi contenuti. L’esistenza di foto pubblicamente accessibili sui social non costituisce consenso a nessun utilizzo, men che meno alla manipolazione sessuale. Il quadro normativo italiano ed europeo è costruito esattamente su questo principio.
→ Leggi anche: Sora 2, deepfake e copyright — le lezioni legali → Leggi anche: Scarlett Johansson contro OpenAI — voice cloning e diritto all’immagine → Leggi anche: Diritto all’immagine — guida completa alla tutela in Italia → Leggi anche: Sosia di personaggi famosi: diritto all’immagine e deepfake AI
Se sei vittima di manipolazione non consensuale della tua immagine su piattaforme come Social Media Girls o siti analoghi, o se vuoi valutare preventivamente la tua esposizione, prenota una consulenza o scrivici direttamente. Garantiamo la massima riservatezza.
Articoli correlati:
- Sora 2, deepfake e copyright
- Diritto all’immagine — guida completa
- Legge 132/2025 — intelligenza artificiale e diritto d’autore
- GDPR e diritti digitali
- Sosia di personaggi famosi e deepfake
Lo Studio Legale Dandi fornisce assistenza legale in Diritto d'autore. Dai un'occhiata ai nostri servizi oppure contattaci!
