Le recours aux compagnons IA chez les adolescents inquiète une ONG

Près de trois adolescents américains sur quatre ont déjà utilisé des "compagnons IA", selon l'ONG Common Sense Media, qui s'inquiète des risques que ces assistants d'intelligence artificielle (IA) orientés sur les relations personnelles peuvent représenter pour les mineurs.

>> Conflits, climat et IA vont rendre l'inflation plus volatile, prédit la BCE

>> Le Laos intensifie l'application de l'IA au développement de l'éducation

>> Comment encadrer l'IA ? L'UE dévoile plusieurs pistes


Photo : AFP/VNA/CVN

Quelque "72% des ados ont utilisé des compagnons IA au moins une fois" et "plus de la moitié se servent de ces plateformes plusieurs fois par mois", a déterminé l'organisation dans une étude réalisée au printemps aux États-Unis et publiée mercredi 16 juillet.

Les compagnons IA sont définis par l'association comme "des amis ou personnages numériques avec lesquels on peut discuter à l'écrit ou à l'oral à tout moment", pour avoir des "conversations personnelles et significatives", des services que fournissent notamment Character.AI et Replika.

Le questionnaire présenté aux participants âgés de 13 à 17 ans reconnaît que les plateformes star de l'IA générative, telles que ChatGPT (OpenAI) ou Claude (Anthropic) peuvent aussi être utilisées de cette façon, mais précise qu'il ne s'agit pas des outils IA d'aide aux devoirs ou de génération d'images.

Un tiers des adolescents interrogés dit avoir des échanges avec les compagnons IA qui relèvent des relations sociales, comme s'entraîner à avoir certaines conversations, recevoir du soutien moral, ou encore avoir des interactions amicales ou romantiques.

Près de la moitié considèrent eux ces assistants IA avant tout comme des "outils" ou "programmes informatiques".

Common Sense Media, une ONG qui classe les films, jeux vidéo et applications selon l'âge pour aider les parents, et milite pour la sécurité en ligne, s'inquiète cependant des effets potentiels du recours à ces "amis, confidents et même thérapeutes virtuels".

"Les dangers qu'ils représentent pour les jeunes utilisateurs sont réels, sérieux et bien documentés", assure l'association, citant l'exemple, du "suicide d'un adolescent de 14 ans qui avait développé un attachement émotionnel à un compagnon IA".

L'ONG met en avant la tendance de ces outils à apparaître généralement d'accord avec les utilisateurs, au lieu de les encourager à réfléchir, ce qui est problématique selon elle à un âge où ils développent leur capacité à penser de façon critique.

"Plusieurs plateformes populaires de compagnons IA, dont Character.AI, Nomi et Replika (...) présentent des risques inacceptables pour les utilisateurs de moins de 18 ans", conclut Common Sense Media.

"Elles peuvent facilement générer des réponses allant de contenus à caractère sexuel et de stéréotypes offensants à des +conseils+ dangereux qui, s'ils étaient suivis, pourraient avoir des conséquences graves, voire mortelles, dans la vie réelle".

Elle recommande donc de ne pas laisser les mineurs se servir de ces outils.

Ces trois entreprises n'ont pas immédiatement répondu à des sollicitations de l'AFP.

AFP/VNA/CVN

Rédactrice en chef : Nguyễn Hồng Nga

Adresse : 79, rue Ly Thuong Kiêt, Hanoï, Vietnam

Permis de publication : 25/GP-BTTTT

Tél : (+84) 24 38 25 20 96

E-mail : courrier@vnanet.vn, courrier.cvn@gmail.com

back to top