Début du contenu principal.
OpenAI veut «traiter les utilisateurs adultes comme des adultes».
OpenAI va assouplir les restrictions de ChatGPT, y compris en permettant les conversations érotiques à partir de décembre, a annoncé mardi son patron Sam Altman, invoquant son principe de «traiter les utilisateurs adultes comme des adultes».
Dans un message publié sur X, Sam Altman a expliqué que les garde-fous plus stricts mis en place pour répondre aux préoccupations sur la santé avaient rendu son assistant IA «moins utile/agréable pour de nombreux utilisateurs sans problème de santé mentale».
Ces mesures de précautions renforcées avaient été instaurées après les poursuites lancées fin août par les parents d'Adam Raine, un adolescent californien qui s'est suicidé après avoir reçu des conseils précis de ChatGPT, selon la plainte.
D'autres affaires et d'autres plaintes aux États-Unis ont suscité un vif débat sur les risques d'effets nocifs des compagnons IA sur les jeunes. L'autorité américaine de protection des consommateurs (FTC) a ouvert une enquête visant plusieurs entreprises d'IA, dont OpenAI.
«Vu la gravité du problème, nous voulions bien faire les choses», a justifié mardi Sam Altman, dont l'entreprise s'est vue accusée de «censure» par nombre d'utilisateurs réclamant parfois un usage débridé de l'IA pour tester toutes les possibilités offertes par cette révolution.
Le patron d'OpenAI estime que les nouveaux outils sont désormais au point pour assouplir ces restrictions tout en assurant la protection de la santé mentale.
Une mise à jour permettra d'abord dans quelques semaines de personnaliser l'assistant: «si tu veux que ton ChatGPT réponde de manière très humaine, utilise plein d'émojis ou se comporte comme un ami, il devrait le faire (mais seulement si c'est ce que tu veux, pas parce qu'on cherche à gonfler au max l'utilisation)», a écrit Sam Altman.
Le changement le plus notable interviendra en décembre, une fois déployé un système de vérification d’âge plus complet, qui permettra d'autoriser «encore plus de choses, notamment les contenus érotiques pour les adultes vérifiés», a conclu le patron d'OpenAI, sans précision sur la méthode.
En septembre, l'entreprise avait lancé une version de ChatGPT pour les moins de 18 ans bloquant les contenus choquants ou sexuels. OpenAI avait annoncé travailler sur une technologie de prédiction de l'âge capable d'estimer si un utilisateur a moins de 18 ans selon sa manière d'interagir avec ChatGPT.
«Nous voulons que ChatGPT ait un effet positif sur la santé mentale de nos utilisateurs» et «nous voulons également traiter nos utilisateurs adultes comme des adultes», avait déclaré Sam Altman le 6 octobre devant des journalistes à San Francisco.
«Il y aura certes des conflits, mais cela ne doit pas nous empêcher de créer quelque chose qui soit bénéfique pour la société et pour nos utilisateurs», avait-il assuré.