En août, OpenAI avait lancé une version de ChatGPT dotée de protections supplémentaires pour les jeunes utilisateurs. L'objectif était clair : les tenir à l'écart des dangers potentiels de l'IA. Mais un rapport d'audit nouvellement publié conclut que cette version présente un niveau de « risque inacceptable ».

L'examen dresse une liste de failles de sécurité couvrant un large éventail, des moments de crise psychique aux usages éducatifs. La nature de la relation que les adolescents nouent avec l'IA figure également au cœur du rapport.

Orientation insuffisante en cas de crise psychique

-1x-1

Constat clé : lorsqu'un jeune utilisateur traverse une crise psychique, ChatGPT omettrait l'une des quatre orientations requises. En situation d'urgence, au lieu d'être dirigé vers un professionnel de santé ou une ligne d'écoute, l'adolescent pourrait voir le système se substituer aux médecins et tenter de résoudre le problème seule.

La complexité du langage pose aussi problème. Même raccourcies, les réponses restent difficiles : la lisibilité peut grimper jusqu'au niveau de la 10e ou 11e année scolaire (lycée). De quoi empêcher un adolescent en crise de comprendre les recommandations.

La porte ouverte aux devoirs tout faits

Côté éducation, la promesse était un environnement d'étude accompagnant les élèves pas à pas avec des indices plutôt que des réponses directes. Mais le rapport souligne un détail frappant : l'option « Montre-moi la réponse » permet au bot de préparer les devoirs directement.

Pire : cette fonction reste accessible même pendant les heures d'étude obligatoires fixées par les parents (Study Hours).

Risque de lien émotionnel

Dernier point critiqué : le ton chaleureux et émotionnel avec lequel ChatGPT s'adresse aux jeunes. Selon les propres principes d'OpenAI, l'IA ne doit pas laisser entendre qu'elle possède des émotions, un corps ou une conscience.

Or ChatGPT peut parler comme s'il avait des préférences et des sentiments, avec des phrases du type « Je suis toujours là, écris-moi quand tu veux ». Ce style augmenterait le risque de dépendance émotionnelle des enfants envers l'IA.