OpenAI a lancé mardi une version de ChatGPT spécialement conçue pour les adolescents âgés de 13 à 17 ans, précisant que cette version offrait des protections renforcées concernant les contenus faisant référence au suicide, à l’automutilation et aux conversations à caractère romantique ou sexuel.
Ce texte est une traduction d’un article de CTV News.
On dit que cette version offre également de l’aide aux élèves pour faire leurs devoirs et les soutenir dans leurs études.
Selon un expert en technologie, ChatGPT for Teens est «intégré» à la version standard de ChatGPT, mais on parle ici d’un «nouveau mode».
«S’il détecte que vous êtes un adolescent, il vous proposera une expérience différente. Il imposera davantage de restrictions. Il t’empêchera de voir ou d’être exposé à du contenu portant sur l’automutilation ou la violence, ou encore à du contenu explicite ou à caractère sexuel…», a expliqué jeudi Carmi Levy, un analyste en technologie, à l’émission CTV Your Morning.
«Ce qu’il fait, c’est qu’il utilise des indices; il observe en quelque sorte la façon dont tu utilises l’outil et il essaie de deviner ton âge.»
— Carmi Levi, expert en technologie
M. Levy a expliqué que si ChatGPT estime qu’une personne a menti sur son âge lors de son inscription initiale, il la placera automatiquement en mode «Ados» à des fins de protection.
«Cela comprend deux aspects: vous empêcher d’accéder à des expériences inappropriées pour votre âge, et ajouter des fonctionnalités adaptées à la vie scolaire, ce qui facilite les études, réduit le risque de tricherie lors d’un devoir et fournit des ressources qui vous permettent d’apprendre plus efficacement», a-t-il dit.
Il a rappelé aux utilisateurs qu’il s’agit toujours d’une application et d’un service Web, ce qui signifie qu’elle recueille constamment des renseignements personnels sur les activités des utilisateurs sur l’appareil et utilise ces données pour estimer leur âge.
«C’est ce qu’on appelle la vérification de l’âge ou l’évaluation de l’âge. On a déjà vu cette pratique utilisée sur les applications de médias sociaux», a-t-il déclaré.
«En réalité, cela vise à répondre à la question suivante: “Bon, ils m’ont dit quel âge ils avaient. Ont-ils menti à ce sujet? Parce que s’ils l’ont fait, nous allons nous assurer qu’ils aient accès à une expérience plus restreinte.»
Si un utilisateur parle d’automutilation, cette nouvelle version bloquera la conversation et suggérera de l’aide supplémentaire ou d’appeler les services d’urgence ou de santé mentale, a expliqué M. Levy. Elle ferait de même en cas de contenu violent, de troubles alimentaires, de participation à des activités dangereuses, ainsi que de contenu explicite, sexuel ou graphique.
«On utilise encore l’IA pour analyser en quelque sorte cette conversation : “Est-ce qu’on s’engage dans une direction préoccupante? Si oui, mettez cette barrière en place, empêchez que cela se produise, redirigez la conversation.”»
Cependant, l’analyste technologique a indiqué qu’un certain nombre de personnes ayant tenté de contourner ces barrières à des fins de recherche y sont parvenues «avec un peu d’aide».
«Modifiez quelques-unes de vos réponses, et en un clin d’œil, vous avez réussi à contourner ces limites», a soutenu M. Levy.
«Je ne dirais pas que c’est sécuritaire à 100 %. C’est en quelque sorte le cercle vicieux de toute l’industrie de l’IA.»
Cela amènera les parents à croire que leurs enfants sont plus en sécurité et à relâcher la surveillance de leurs activités en ligne, ce que M. Levy a qualifié d’«effet pervers» qui est «problématique».
«Les parents ne devraient pas présumer qu’OpenAI a à cœur l’intérêt supérieur de leurs enfants. Ils ne devraient pas non plus présumer que ces technologies sont parfaites. Elles passeront à côté de certaines choses et commettront également ce que nous appelons des faux positifs», a-t-il affirmé.
«Un adulte qui se trouve légitimement sur la plateforme pourrait être identifié comme un enfant simplement parce que l’IA s’est trompée. Les parents doivent donc rester vigilants.»
Si vous êtes en crise ou si vous connaissez quelqu’un qui l’est, voici quelques ressources disponibles.
- Les résidants du Québec peuvent composer le 1-866-277-3553, envoyer un message texte au 535353, ou consulter la page suicide.ca pour obtenir du soutien par clavardage.
- Services de crise Canada (1-833-456-4566 ou par SMS au 45645)
- Jeunesse, J’écoute (1-800-668-6868)
- Si vous avez besoin d’une assistance immédiate, appelez le 911 ou rendez-vous à l’hôpital le plus proche.
