La tendance des caricatures générées par l’IA est la dernière mode à se répandre sur les réseaux sociaux. Elle consiste à demander à un chatbot tel que ChatGPT de créer une caricature personnalisée de vous-même en lui fournissant des informations sur vos centres d’intérêt.
Ce texte est une traduction d’un contenu de CTV News.
Bien que cela puisse sembler être un divertissement inoffensif, un expert met en garde contre les aspects sinistres de la gamification de l’IA, qui comporte notamment des risques pour votre vie privée.
Claudiu Popa, spécialiste certifié en cybersécurité et professionnel de la confidentialité, est le PDG de Data Risk Canada. Il explique que maintenant que les chatbots IA peuvent générer des images, il est naturel que les gens veuillent en créer une à partir d’eux-mêmes.
Cependant, même si cela peut sembler être une utilisation légitime des ressources, M. Popa affirme qu’il y a des impacts à la fois sur l’environnement et la vie privée, ainsi que le risque de fuites de données qui en découle.
«Ces outils partagent tous des informations sur nous-mêmes, et en fin de compte, il s’agit d’une appropriation de consentement», a-t-il dit mardi à CTVNews.ca.
En termes de confidentialité, M. Popa a expliqué que le chatbot est entraîné à extraire autant d’informations que possible de l’utilisateur, dans l’espoir que l’image soit précise ou amusante. M. Popa a qualifié cela de «piège à l’attention», une tactique à laquelle beaucoup de jeunes tombent pour ne pas passer à côté de la dernière tendance en ligne.
Cependant, il met en garde contre les problèmes majeurs liés à la confidentialité et au consentement, et contre le risque que les gens participent à la violation de leur propre vie privée.
M. Popa a expliqué que nous ne devrions pas utiliser les chatbots pour «gamifier notre existence» en créant des outils viraux qui, en fin de compte, profitent aux entreprises à but lucratif. Les courtiers en données, qui utilisent les informations personnelles que nous partageons en ligne à des fins de publicité ciblée, en sont un exemple.
Il a ajouté que la tendance des caricatures générées par l’IA est un bon exemple que les parents et les enseignants peuvent utiliser lorsqu’ils parlent aux enfants de la manière dont ils sont conditionnés à partager davantage d’informations sur eux-mêmes en ligne.
« Vous créez des outils prédictifs qui permettent à ces plateformes de connaître les types de besoins des jeunes de leur âge », a-t-il déclaré. «
«C’est une façon de collecter ce type d’informations, sans dire aux gens ce que vous en faites. C’est là le nœud du problème : tout se résume au consentement.»
— Claudiu Popa, spécialiste certifié en cybersécurité et professionnel de la confidentialité
Lorsque M. Popa a essayé de suivre la tendance des caricatures avec l’IA, il s’est aperçu que celle-ci lui demandait sans cesse davantage d’informations, telles que des photos et des courriels, pour créer l’image.
«Ce n’est pas son rôle de vous rappeler sans cesse l’impact de cette activité itérative sur votre vie privée», a-t-il affirmé. «Qu’il s’agisse d’un défi de caricature ou d’un jeu en ligne, nous devons être en mesure de repérer ces choses et de donner à chacun les moyens d’y mettre un terme, avant de nous retrouver à fournir des informations sensibles.»
Ce qui est également préoccupant, selon M. Popa, c’est l’évolution vers une IA «agentive», qui donne à l’outil le contrôle sur des informations sensibles, telles que les courriels et les comptes bancaires.
«N’acceptez jamais ce type d’accès invasif, ne serait-ce que parce qu’il supprime la responsabilité de la plateforme», a-t-il averti.
Si vous avez donné à un outil d’IA l’accès à votre compte bancaire en ligne et que vous êtes victime d’une fraude, M. Popa a souligné que vous ne serez jamais couvert par les conditions d’utilisation d’aucune banque, car vous avez autorisé un outil agentique à accéder à vos informations personnelles via « vos propres contrôles d’accès et identifiants ».
Enfin, M. Popa a souligné que l’utilisation de l’IA avait des conséquences concrètes, comme le montre l’impact environnemental des centres de données IA. Il a déclaré que l’eau était prioritairement réservée aux centres de données, plutôt qu’aux résidents locaux, qui en paient le prix sur le plan environnemental.
«Ce type d’activité virale (comme la tendance des caricatures IA) ne rend service à personne et contribue certainement à la mauvaise réputation dont souffrent de plus en plus ces chatbots IA», a-t-il précisé.
