Deepfakes and Online Hate: When Artificial Intelligence Targets a Young Muslim Woman

ITALIANO.... ENGLISH 

DEEPFAKE E ODIO ONLINE: QUANDO L’INTELLIGENZA ARTIFICIALE COLPISCE UNA GIOVANE DONNA MUSULMANA

EML Islamophobia Watch – Monitor. Verify. Document. Respond.

Una giovane donna musulmana, volontaria in una campagna dedicata all’educazione sulla salute femminile, è diventata bersaglio di video manipolati attraverso l’intelligenza artificiale e di una successiva ondata di derisione online, che ha coinvolto anche il suo hijab.

Il caso è stato esaminato dall’Oversight Board di Meta, che ha stabilito che uno dei video pubblicati su Facebook avrebbe dovuto essere rimosso.

La vicenda nasce da una reale intervista televisiva nella quale la giovane partecipava, come volontaria, a una campagna volta a migliorare l’educazione sulla salute delle donne e a ridurre lo stigma relativo ad alcune condizioni sanitarie.

Quelle immagini sono state successivamente manipolate.

In uno dei video generati attraverso l’intelligenza artificiale, la donna veniva falsamente presentata come titolare di un ruolo ufficiale nel settore sanitario e appariva mentre forniva consigli che non aveva mai dato, svolgendo esercizi fisici assurdi e consumando cibo poco salutare.

Nulla di tutto questo apparteneva all’intervista originale.

Secondo l’Oversight Board, immagini e video manipolati della giovane hanno raggiunto complessivamente decine di milioni di visualizzazioni sulle diverse piattaforme. Il singolo post Facebook sottoposto all’esame del Board aveva superato le 5.000 visualizzazioni e raccolto numerosi commenti, alcuni dei quali ridicolizzavano il suo aspetto fisico, il peso e l’hijab.

Il contenuto era stato segnalato per possibile violazione delle norme di Meta contro bullismo e molestie, ma la segnalazione e il successivo ricorso non erano stati sottoposti prioritariamente a revisione umana. Il video era quindi rimasto online senza neppure un’etichetta che ne indicasse la natura artificiale.

L’Oversight Board ha successivamente stabilito che il contenuto violava le regole contro bullismo e molestie e ne ha disposto la rimozione.

EML ISLAMOPHOBIA WATCH: DISTINGUERE I FATTI DALLE INTERPRETAZIONI

La European Muslims League ritiene importante mantenere una distinzione rigorosa.

Non esistono, sulla base degli elementi pubblicamente disponibili, prove sufficienti per affermare che la creazione originaria del deepfake fosse motivata esclusivamente dall’odio verso l’Islam.

È invece documentato che una giovane donna musulmana è stata rappresentata falsamente attraverso l’intelligenza artificiale e successivamente esposta a commenti denigratori che hanno riguardato anche il suo hijab.

È proprio questa combinazione a meritare attenzione.

L’intelligenza artificiale può trasformare rapidamente l’immagine autentica di una persona in materiale falso capace di alimentare derisione, stereotipi e campagne di molestie. Quando la vittima appartiene a una minoranza religiosa visibile, elementi identitari come l’hijab possono diventare a loro volta bersaglio dell’attacco.

Il problema, quindi, non riguarda soltanto la disinformazione tecnologica. Riguarda anche la capacità delle piattaforme di proteggere persone comuni dalla manipolazione della propria immagine e dall’amplificazione di contenuti discriminatori.

L’EML Islamophobia Watch continuerà a monitorare casi analoghi, distinguendo sempre la legittima libertà di espressione e di critica dalla falsificazione, dalla manipolazione e dagli attacchi rivolti alle persone sulla base della loro appartenenza religiosa.

Monitor. Verify. Document. Respond.

European Muslims League (EML)

Islamophobia Watch – European Monitoring & Response Unit

ENGLISH

DEEPFAKES AND ONLINE HATE: WHEN ARTIFICIAL INTELLIGENCE TARGETS A YOUNG MUSLIM WOMAN

EML Islamophobia Watch – Monitor. Verify. Document. Respond.

A young Muslim woman volunteering in a campaign dedicated to women’s health education became the target of AI-manipulated videos and a subsequent wave of online ridicule, which also involved her hijab.

The case was examined by Meta’s Oversight Board, which determined that one of the videos posted on Facebook should have been removed.

The case originated from a genuine television interview in which the young woman participated as a volunteer in a campaign aimed at improving women’s health education and reducing stigma surrounding certain health conditions.

Those images were subsequently manipulated.

In one AI-generated video, the woman was falsely portrayed as holding an official health-related position and appeared to give advice she had never provided, perform absurd physical exercises and consume unhealthy food.

None of this appeared in the original interview.

According to the Oversight Board, manipulated images and videos of the young woman collectively reached tens of millions of views across different platforms. The individual Facebook post reviewed by the Board had received more than 5,000 views and attracted numerous comments, some of which mocked her physical appearance, weight and hijab.

The content had been reported for potentially violating Meta’s rules on bullying and harassment, but neither the initial report nor the subsequent appeal was prioritised for human review. The video therefore remained online without even a label indicating that it had been artificially generated or manipulated.

The Oversight Board subsequently determined that the content violated the rules against bullying and harassment and ordered its removal.

EML ISLAMOPHOBIA WATCH: DISTINGUISHING FACTS FROM INTERPRETATIONS

The European Muslims League considers it essential to maintain a rigorous distinction.

Based on the publicly available evidence, there is insufficient proof to conclude that the original creation of the deepfake was motivated exclusively by hatred of Islam.

What is documented, however, is that a young Muslim woman was falsely represented through artificial intelligence and subsequently exposed to derogatory comments that also targeted her hijab.

It is precisely this combination that deserves attention.

Artificial intelligence can rapidly transform a person’s authentic image into fabricated material capable of fuelling ridicule, stereotypes and campaigns of harassment. When the victim belongs to a visible religious minority, identity markers such as the hijab can themselves become targets of abuse.

The issue therefore extends beyond technological disinformation. It also concerns the ability of digital platforms to protect ordinary people from the manipulation of their image and from the amplification of discriminatory content.

EML Islamophobia Watch will continue to monitor similar cases, always distinguishing legitimate freedom of expression and criticism from falsification, manipulation and attacks directed at individuals on the basis of their religious identity.

Monitor. Verify. Document. Respond.

European Muslims League (EML)

Islamophobia Watch – European Monitoring & Response Unit

Lo specchio: Islam, Occidente e pudore

Immaginiamo uno specchio.

Una donna occidentale che camminasse per le strade di Kabul vestita secondo le normali consuetudini europee potrebbe essere percepita come estranea ai codici sociali locali. Allo stesso modo, una donna afghana completamente coperta che cammina per Milano, Parigi o Londra può attirare sguardi, curiosità e talvolta diffidenza.

Ogni società tende a considerare normale ciò a cui è abituata e strano ciò che appartiene agli altri.

Ma cultura, religione e libertà personale non sono la stessa cosa.

Il burqa non è il pudore

In Europa si confondono spesso burqa, niqab, hijab e principio religioso del pudore.

Il burqa afghano è una specifica forma storica e culturale di copertura integrale e non viene indicato dal Corano come capo obbligatorio.

Il pudore, invece, è un principio religioso chiaramente presente nell'Islam e riguarda entrambi i sessi.

È significativo che il Corano, prima ancora di rivolgersi alle donne, dica agli uomini credenti di abbassare lo sguardo e custodire la propria castità (Corano 24:30), per poi rivolgersi alle donne (24:31).

La responsabilità, quindi, non viene posta soltanto sul corpo della donna. Anche l'uomo deve governare il proprio sguardo e i propri desideri.

Ma questo è davvero così estraneo all'Occidente?

Il pudore non appartiene soltanto all'Islam.

Nel Vangelo, Gesù richiama l'uomo alla responsabilità persino rispetto allo sguardo desiderante (Matteo 5:27-28). Nel cristianesimo troviamo inoltre richiami alla modestia e alla castità.

Nell'ebraismo esiste il concetto di tzniut, che riguarda modestia, comportamento e dignità della persona.

Le tre religioni non hanno regole identiche e sarebbe sbagliato sostenere il contrario. Ma presentare il pudore come qualcosa di esclusivamente islamico significa dimenticare una parte importante della storia religiosa dell'Occidente.

Basta osservare una fotografia dell'Ottocento o dei primi decenni del Novecento. L'abbigliamento, i rapporti tra uomini e donne, la famiglia e la sessualità erano regolati da codici molto diversi da quelli attuali.

Questo non significa idealizzare il passato. Le donne hanno conquistato diritti fondamentali che devono essere difesi.

Significa semplicemente riconoscere che l'Occidente è cambiato.

Ma che cos'è, allora, l'Occidente?

Qui nasce forse l'equivoco più grande.

L'Islam è una religione. L'Occidente non lo è.

L'Occidente è il risultato di molte eredità: cristianesimo ed ebraismo, cultura greco-romana, umanesimo, Illuminismo, democrazia liberale, sviluppo scientifico e, soprattutto negli ultimi secoli, crescente secolarizzazione.

Per questo dire semplicemente “Islam contro Occidente” significa confrontare due categorie differenti.

Molto spesso il vero confronto non è tra Islam e Occidente, ma tra una visione religiosa dell'essere umano e una visione contemporanea fortemente fondata sull'autonomia individuale.

La prima domanda:

“Che cosa è giusto davanti a Dio?”

La seconda tende maggiormente a chiedere:

“Che cosa sono libero di fare, purché non danneggi gli altri?”

Sono due modi differenti di concepire la libertà.

Per la religione, infatti, non tutto ciò che desideriamo o che avviene consensualmente diventa automaticamente moralmente giusto. Esistono anche responsabilità verso Dio, verso noi stessi, verso la famiglia e verso la società.

Chi critica una donna musulmana coperta?

Dovremmo allora porre una domanda che raramente viene formulata.

Quando qualcuno critica una donna perché sceglie di coprirsi, parla in quanto cristiano oppure in quanto occidentale contemporaneo?

Non è la stessa cosa.

Un cristiano può certamente discutere la teologia islamica. Ma se considera il pudore in sé qualcosa di arretrato, entra in contrasto anche con una parte importante della propria tradizione religiosa.

Il confronto, quindi, non dovrebbe essere costruito artificialmente come Islam contro cristianesimo o Islam contro Occidente.

La questione più profonda riguarda il posto che una società attribuisce a Dio, al desiderio, alla disciplina personale e alla libertà.

Mettiamoci nei suoi panni

Una donna afghana o musulmana non deve essere costretta a coprirsi. Su questo non dovrebbe esserci alcuna ambiguità.

Ma proviamo anche, per un momento, a metterci nei suoi panni.

Una donna nata e cresciuta in una società nella quale coprirsi rappresenta normalità, educazione, pudore o convinzione religiosa non necessariamente si sentirà più libera semplicemente togliendo il velo o indossando gli stessi abiti delle altre donne occidentali.

Ciò che per una donna europea può apparire normale, per lei potrebbe significare esporsi in un modo che le provoca disagio.

Esattamente come una donna occidentale potrebbe sentirsi profondamente a disagio se, trasferendosi altrove, qualcuno pretendesse improvvisamente che coprisse il proprio corpo secondo consuetudini che non sente proprie.

È qui che lo specchio diventa veramente utile.

Non possiamo condannare l'imposizione di coprirsi e, contemporaneamente, considerare emancipata una donna soltanto quando decide di scoprirsi.

La libertà deve funzionare in entrambe le direzioni.

Naturalmente cultura, educazione e religione influenzano profondamente le nostre scelte. Accade alla donna afghana come alla donna europea.

Ma proprio per questo la domanda non dovrebbe essere:

“Quanto è coperta?”

La domanda dovrebbe essere:

“È stata rispettata nella sua dignità e nella sua scelta?”

Lo specchio

Forse, prima di domandarci perché “l'Islam” sia diverso “dall'Occidente”, dovremmo formulare meglio la domanda.

Non Islam contro Occidente.

Perché l'Occidente non è una religione.

Il vero confronto riguarda differenti concezioni della persona, della libertà, del desiderio, della famiglia, della responsabilità e del rapporto con Dio.

Né scoprirsi né coprirsi rende automaticamente una donna libera.

E forse la libertà comincia proprio quando smettiamo di pretendere che l'altro debba assomigliarci per essere considerato libero.

European Muslims League (EML)

Dialogo, conoscenza reciproca e rispetto della libertà religiosa.