Plusieurs photos générées par IA prétendant à tort montrer le maire de New York, Zohran Mamdani, enfant, et sa mère, la cinéaste Mira Nair, en compagnie du financier déchu Jeffrey Epstein et de sa confidente Ghislaine Maxwell, ainsi que d’autres personnalités publiques de premier plan, ont été largement diffusées lundi sur les réseaux sociaux.
Ces images proviennent d’un compte X qualifié de parodique après la publication vendredi par le ministère de la Justice d’une énorme quantité de nouveaux dossiers sur Epstein. Elles sont clairement marquées du logo «AI» et d’autres éléments qu’elles contiennent ne concordent pas.
Voici un examen plus approfondi des faits.
ALLÉGATION : Les images montrent Mamdani enfant et sa mère avec Jeffrey Epstein et d’autres personnalités publiques liées au financier déchu.
LES FAITS : Les images ont été créées à l’aide de l’intelligence artificielle. Elles comportent toutes un filigrane numérique qui les identifie comme telles et sont apparues pour la première fois sur un compte X parodique qui affirme créer «des vidéos et des mèmes IA de haute qualité».
Sur l’une des images, Mamdani et Nair apparaissent au premier plan d’une photo de groupe avec Maxwell, Epstein, l’ancien président Bill Clinton, le fondateur d’Amazon Jeff Bezos et le fondateur de Microsoft Bill Gates. Ils semblent poser de nuit dans une rue bondée de la ville. Mamdani semble être un préadolescent ou un jeune adolescent.
Une autre image montre apparemment le même groupe de personnes, à l’exception de Nair, dans ce qui semble être un décor tropical. Epstein est représenté tenant Clinton dans ses bras, tandis que Maxwell a son bras autour de Mamdani, qui semble légèrement plus jeune.
D’autres images générées par l’IA qui circulent en ligne montrent Mamdani comme un bébé tenu par Nair alors qu’elle pose avec Epstein, Clinton, Maxwell et Bezos. Aucune des victimes d’Epstein n’a publiquement accusé Clinton, Gates ou Bezos d’être impliqués dans ses crimes.
L’application Gemini de Google a détecté SynthID, un outil de tatouage numérique permettant d’identifier les contenus générés ou modifiés par l’IA, dans toutes les images décrites ci-dessus. Cela signifie qu’elles ont été créées ou modifiées, en tout ou en partie, par les modèles d’IA de Google.
Le compte X qui a publié les images pour la première fois se décrit comme «un moteur de mèmes alimenté par l’IA» qui utilise «l’IA pour créer des mèmes, des chansons, des histoires et des visuels qui appellent les choses exactement comme elles sont : rapides, bruyantes et impossibles à ignorer».
Une demande envoyée au compte est restée sans réponse. Cependant, un message publié par le compte semble reconnaître qu’il a créé les images.
«Bon sang, vous avez échoué», peut-on lire. «Je l’ai délibérément représenté comme un bébé, ce qui rendrait techniquement cette photo vieille de 34 ans. Oups.»
Les photos ont commencé à circuler après la publication d’un courriel dans lequel une attachée de presse, Peggy Siegal, écrivait à Epstein pour lui dire qu’elle avait vu diverses personnalités, dont Clinton, Bezos et Nair, un cinéaste indien primé, lors d’une «after-party» organisée en 2009 pour un film dans la maison de ville de Maxwell.
Ces images ont donné lieu à la propagation de fausses informations sur Internet. Par exemple, certains prétendent qu’Epstein est le père de Mamdani. Ce n’est pas vrai : le père de Mamdani est Mahmood Mamdani, professeur d’anthropologie à l’université Columbia. D’autres affirment que le premier mariage de Nair était avec un parent d’Epstein. Ce n’est pas le cas. Elle était auparavant mariée au photographe Mitch Epstein. Une recherche dans les archives publiques et les articles existants sur les deux hommes ne révèle aucune preuve de liens familiaux. Epstein est un nom de famille courant parmi les familles juives.
Le bureau du maire de New York n’a pas répondu à une demande de commentaires.