Le Délégué général aux droits de l’enfant a publié un avis consacré aux risques (et aux opportunités) que l’intelligence artificielle (IA) représente pour les droits de l'enfant (et des adolescents).
Concernant les opportunités, l’IA peut favoriser l’apprentissage, faciliter l’accès à l’information, stimuler la créativité et renforcer l’inclusion, notamment pour les enfants en situation de handicap. Toutefois, ces bénéfices s’accompagnent d’un risque d’aggravation de la fracture numérique, principalement dans l'accompagnement très inégal que les enfants et adolescents reçoivent de la part de leurs parents. En outre, les avantages de l’IA dans le domaine éducatif doivent être nuancés : son utilisation peut entraîner un appauvrissement des apprentissages et compliquer l’évaluation des acquis des élèves, en particulier lorsqu’il s’agit de travaux réalisés à domicile.
L’IA expose également les jeunes à plusieurs risques importants, tels que l’accès à des contenus préjudiciables, la désinformation, la reproduction de stéréotypes, la collecte massive de données personnelles, les manipulations ou encore les cyberviolences. Certains enfants et adolescents utilisent par ailleurs des chatbots comme soutien émotionnel ou comme confident, ce qui peut favoriser une forme d’isolement social et les détourner du recours à un adulte de confiance en cas de difficulté. D’autres phénomènes déjà présents sur les réseaux sociaux peuvent être amplifiés par l’IA. C’est notamment le cas des deepfakes, qui permettent de créer des images ou vidéos à caractère sexuel à partir de simples photographies, de la sextorsion, qui consiste à menacer de diffuser des contenus intimes afin d’obtenir de l’argent ou des faveurs sexuelles, ou encore du grooming, par lequel un adulte établit progressivement une relation avec un mineur dans le but d’obtenir des faveurs sexuelles.
Le Délégué considère que les cadres juridiques européens existants constituent une base, mais encore insuffisante au regard des usages réels des jeunes. Il recommande dès lors de renforcer la régulation et la transparence des systèmes d’IA, de développer l’éducation aux médias et au numérique, ainsi que de consolider les mécanismes de protection et de signalement.
Pour aller plus loin sur cette thématique :
Un webinaire gratuit, organisé par Yapaka "Accompagner l’adolescent dans un monde où l’IA bouscule nos repères" avec Emmanuel Thill, pédopsychiatre, se tiendra le jeudi 18 juin de 13H à 14H
Une page thématique dédiée à cette question
