DEEPFAKE E ODIO ONLINE: QUANDO L’INTELLIGENZA ARTIFICIALE COLPISCE UNA GIOVANE DONNA MUSULMANA
EML Islamophobia Watch – Monitor. Verify. Document. Respond.
Una giovane donna musulmana, volontaria in una campagna dedicata all’educazione sulla salute femminile, è diventata bersaglio di video manipolati attraverso l’intelligenza artificiale e di una successiva ondata di derisione online, che ha coinvolto anche il suo hijab.
Il caso è stato esaminato dall’Oversight Board di Meta, che ha stabilito che uno dei video pubblicati su Facebook avrebbe dovuto essere rimosso.
La vicenda nasce da una reale intervista televisiva nella quale la giovane partecipava, come volontaria, a una campagna volta a migliorare l’educazione sulla salute delle donne e a ridurre lo stigma relativo ad alcune condizioni sanitarie.
Quelle immagini sono state successivamente manipolate.
In uno dei video generati attraverso l’intelligenza artificiale, la donna veniva falsamente presentata come titolare di un ruolo ufficiale nel settore sanitario e appariva mentre forniva consigli che non aveva mai dato, svolgendo esercizi fisici assurdi e consumando cibo poco salutare.
Nulla di tutto questo apparteneva all’intervista originale.
Secondo l’Oversight Board, immagini e video manipolati della giovane hanno raggiunto complessivamente decine di milioni di visualizzazioni sulle diverse piattaforme. Il singolo post Facebook sottoposto all’esame del Board aveva superato le 5.000 visualizzazioni e raccolto numerosi commenti, alcuni dei quali ridicolizzavano il suo aspetto fisico, il peso e l’hijab.
Il contenuto era stato segnalato per possibile violazione delle norme di Meta contro bullismo e molestie, ma la segnalazione e il successivo ricorso non erano stati sottoposti prioritariamente a revisione umana. Il video era quindi rimasto online senza neppure un’etichetta che ne indicasse la natura artificiale.
L’Oversight Board ha successivamente stabilito che il contenuto violava le regole contro bullismo e molestie e ne ha disposto la rimozione.
EML ISLAMOPHOBIA WATCH: DISTINGUERE I FATTI DALLE INTERPRETAZIONI
La European Muslims League ritiene importante mantenere una distinzione rigorosa.
Non esistono, sulla base degli elementi pubblicamente disponibili, prove sufficienti per affermare che la creazione originaria del deepfake fosse motivata esclusivamente dall’odio verso l’Islam.
È invece documentato che una giovane donna musulmana è stata rappresentata falsamente attraverso l’intelligenza artificiale e successivamente esposta a commenti denigratori che hanno riguardato anche il suo hijab.
È proprio questa combinazione a meritare attenzione.
L’intelligenza artificiale può trasformare rapidamente l’immagine autentica di una persona in materiale falso capace di alimentare derisione, stereotipi e campagne di molestie. Quando la vittima appartiene a una minoranza religiosa visibile, elementi identitari come l’hijab possono diventare a loro volta bersaglio dell’attacco.
Il problema, quindi, non riguarda soltanto la disinformazione tecnologica. Riguarda anche la capacità delle piattaforme di proteggere persone comuni dalla manipolazione della propria immagine e dall’amplificazione di contenuti discriminatori.
L’EML Islamophobia Watch continuerà a monitorare casi analoghi, distinguendo sempre la legittima libertà di espressione e di critica dalla falsificazione, dalla manipolazione e dagli attacchi rivolti alle persone sulla base della loro appartenenza religiosa.
Monitor. Verify. Document. Respond.
European Muslims League (EML)
Islamophobia Watch – European Monitoring & Response Unit
ENGLISH
DEEPFAKES AND ONLINE HATE: WHEN ARTIFICIAL INTELLIGENCE TARGETS A YOUNG MUSLIM WOMAN
EML Islamophobia Watch – Monitor. Verify. Document. Respond.
A young Muslim woman volunteering in a campaign dedicated to women’s health education became the target of AI-manipulated videos and a subsequent wave of online ridicule, which also involved her hijab.
The case was examined by Meta’s Oversight Board, which determined that one of the videos posted on Facebook should have been removed.
The case originated from a genuine television interview in which the young woman participated as a volunteer in a campaign aimed at improving women’s health education and reducing stigma surrounding certain health conditions.
Those images were subsequently manipulated.
In one AI-generated video, the woman was falsely portrayed as holding an official health-related position and appeared to give advice she had never provided, perform absurd physical exercises and consume unhealthy food.
None of this appeared in the original interview.
According to the Oversight Board, manipulated images and videos of the young woman collectively reached tens of millions of views across different platforms. The individual Facebook post reviewed by the Board had received more than 5,000 views and attracted numerous comments, some of which mocked her physical appearance, weight and hijab.
The content had been reported for potentially violating Meta’s rules on bullying and harassment, but neither the initial report nor the subsequent appeal was prioritised for human review. The video therefore remained online without even a label indicating that it had been artificially generated or manipulated.
The Oversight Board subsequently determined that the content violated the rules against bullying and harassment and ordered its removal.
EML ISLAMOPHOBIA WATCH: DISTINGUISHING FACTS FROM INTERPRETATIONS
The European Muslims League considers it essential to maintain a rigorous distinction.
Based on the publicly available evidence, there is insufficient proof to conclude that the original creation of the deepfake was motivated exclusively by hatred of Islam.
What is documented, however, is that a young Muslim woman was falsely represented through artificial intelligence and subsequently exposed to derogatory comments that also targeted her hijab.
It is precisely this combination that deserves attention.
Artificial intelligence can rapidly transform a person’s authentic image into fabricated material capable of fuelling ridicule, stereotypes and campaigns of harassment. When the victim belongs to a visible religious minority, identity markers such as the hijab can themselves become targets of abuse.
The issue therefore extends beyond technological disinformation. It also concerns the ability of digital platforms to protect ordinary people from the manipulation of their image and from the amplification of discriminatory content.
EML Islamophobia Watch will continue to monitor similar cases, always distinguishing legitimate freedom of expression and criticism from falsification, manipulation and attacks directed at individuals on the basis of their religious identity.
Monitor. Verify. Document. Respond.
European Muslims League (EML)
Islamophobia Watch – European Monitoring & Response Unit
Nessun commento:
Posta un commento