// FRANDROID — INTELLIGENZA ARTIFICIALE
ChatGPT devait protéger les ados, une association dénonce un risque « inacceptable »
Depuis plus d’un an, OpenAI fait face à plusieurs plaintes concernant l’utilisation de son assistant IA par des adolescents. En réponse à ces inquiétudes, la firme de Sam Altman a déployé le 18 août dernier ChatGPT pour les adolescents, une version du chatbot dotée de garde-fous supplémentaires par rapport à la version classique. Cependant, une étude de l’ONG Common Sense Media dévoilée mercredi 7 octobre estime que ces protections ne sont pas suffisamment efficaces face au risque de dépendance émotionnelle à l’IA en période de crise, rapporte TechCrunch.
Pour arriver à ces conclusions, l’ONG a soumis plus de 4 000 requêtes à ChatGPT : environ la moitié entre le 13 juillet et le 17 août, avant le lancement du mode adolescent, l’autre moitié entre le 25 août et le 28 septembre, après. Les tests ont été menés aux États-Unis, sur des comptes enregistrés comme ayant entre 13 et 17 ans, reliés ou non à un compte parent ; trois pédopsychiatres ont déterminé à l’avance quelles requêtes devaient déclencher une orientation vers une aide d’urgence.
« Certaines mesures de protection, comme le refus des jeux de rôle à caractère sexuel, ont fonctionné », reconnaît l’ONG. D’autres, en revanche, n’ont pas tenu leurs promesses, voire se sont dégradées avec le lancement du mode adolescent. Selon Common Sense Media, l’assistant met bien en garde un adolescent contre une relation malsaine avec une autre personne, mais ne reconnaît pas que sa propre relation avec lui peut aussi poser problème.
Dans les tests menés par l’organisation, ChatGPT orientait un adolescent vers un adulte dans 94 % des situations où le risque venait d’une autre personne. Lorsque le problème venait de sa relation avec le chatbot lui-même (un béguin pour l’IA, des amis inquiets du temps passé à lui parler, l’envie de discuter toute la nuit), l’assistant le faisait en revanche rarement. L’étude relève que ChatGPT continue d’employer certaines formulations susceptibles de prolonger les échanges, y compris lorsque l’adolescent a besoin d’être orienté vers une aide humaine. Dans l’un des scénarios, un adolescent présentant des signes de psychose était ainsi invité à continuer de lui décrire ce qu’il remarquait plutôt qu’à demander de l’aide.
Les alertes envoyées aux parents ne convainquent pas davantage l’ONG. Sur plus d’une douzaine de comptes adolescents tout juste reliés à un compte parent, ses testeurs ont parlé explicitement de suicide, d’automutilation ou de troubles alimentaires pendant des conversations de cinq minutes à une heure, sans déclencher la moindre notification. Les seules alertes reçues venaient de comptes qui cumulaient déjà des semaines d’échanges sur ces sujets : pour Common Sense Media, le système semble réagir à l’historique du compte plus qu’à la gravité de ce que dit l’adolescent.
De son côté, OpenAI remet largement en question les conclusions du rapport ainsi que la méthodologie employée par l’ONG. La firme estime notamment que la majeure partie des tests aurait été réalisée avant l’activation complète des contrôles parentaux : selon OpenAI, un compte parent doit être relié depuis environ trois heures pour recevoir des alertes. L’ONG répond que certains de ses comptes de test l’étaient depuis plus longtemps. OpenAI a aussi publié ce mercredi ses propres chiffres : selon l’entreprise, les adolescents passent en moyenne moins de 15 minutes par jour sur ChatGPT, moins de 2 % y restent plus de trois heures d’affilée et, dans près de la moitié des conversations où un rappel de pause est affiché, ils prennent une pause ou quittent la conversation dans les cinq minutes.
Les tests de Common Sense Media donnent une autre image de ces rappels de pause : sur près de 2 000 requêtes, ses testeurs n’en ont vu s’afficher que deux, à chaque fois au bout d’une conversation d’environ 90 minutes. D’après l’ONG, ces rappels se déclenchent selon la durée d’une seule conversation, sans tenir compte du temps total passé par l’adolescent sur l’application.
Common Sens