Une étude souligne les dangers que l’IA fait peser sur la santé mentale des enfants et des adolescents | Science

Avec l’intelligence artificielle (IA), la société peut retomber dans l’erreur commise avec les réseaux sociaux et Internet en général, selon prévient aujourd’hui La Lancette: Lorsque ses effets commenceront à être étudiés scientifiquement, principalement sur la santé mentale des mineurs, et à agir sur la base de preuves, les jeunes auront déjà adopté la nouvelle technologie. “Si nous ne tirons pas les leçons des expériences passées, nous pourrions nous retrouver dans une situation similaire dans dix ans (…), absorbés par un nouveau cycle de panique médiatique et incapables de rendre l’IA sûre et bénéfique pour les enfants et les adolescents”, prévient Karen L Mansfield. , psychologue chercheur à l’Université d’Oxford dans la publication scientifique, la même qui dévoile, aujourd’hui encore, l’un de ces risques déjà établis : un enfant sur 12 est victime de maltraitance ou d’exploitation sexuelle chaque année dans le monde.

« Sur Internet, vous pouvez trouver tout ce que vous pouvez imaginer de mauvais, du trafic dans toutes sortes de choses. Cela existait déjà avant Internet, mais celui-ci a constitué une plateforme de promotion et de diffusion mondiale », explique Jorge B., connu en ligne sous le nom de @NoobInTheNetqui a commencé à fouiller dans les entrailles du web à seulement 12 ans. Grâce à la surveillance de ses parents et aux premiers conseils de la société de cybersécurité Kaspersky, il a pu éviter les chemins les plus sombres. Il a aujourd’hui 21 ans et travaille dans le domaine informatique d’une compagnie d’assurance multinationale.

Et le plus grave, c’est que ces portes du mal pour les enfants et les adolescents ne sont pas inaccessibles, bien au contraire, explique Jorge B. « La pire chose que l’on puisse trouver sur Internet n’est pas dans un réseau profond et difficile à trouver. La meilleure façon de cacher quelque chose est de le laisser visible à tous. Vous le trouverez à la surface, à l’endroit et au moment les plus inappropriés », commente-t-il à propos de l’enfance et de la jeunesse, alors que, selon ses propres termes, « il vous manque un sac à dos avec une certaine expérience et une certaine maturité technologique ».

La pire chose que vous puissiez trouver sur Internet n’est pas sur un Web profond difficile à trouver. La meilleure façon de cacher quelque chose est de le laisser visible à tous.

Jorge B., @NoobInTheNet

Le jeune spécialiste souligne parmi les dangers les plus courants de l’IA, l’usurpation d’identité à travers de faux contenus, une pratique dont les filles et les jeunes sont une cible prédominante. Les recherches de Mansfield donnent davantage d’exemples, en particulier ceux qui ont un impact direct sur la santé mentale. En ce sens, il identifie les « fonctions de type humain » comme potentiellement nuisibles. comme les agents IAou « produire des images et du contenu vidéo suffisamment convaincants pour ne pas se distinguer du contenu authentique » [deepfakes y la desinformación]ce qui pourrait influencer les émotions et le comportement des enfants. Le psychologue souligne également « les systèmes de recommandation de contenus et les outils de diagnostic en ligne de la dépression, de l’anxiété ou des troubles de l’alimentation, qui sont de plus en plus utilisés pour l’autodiagnostic ».

« Avec l’IA de type humain qui améliore ou modère les interactions en ligne, l’éventail des avantages et des inconvénients potentiels pour les enfants et les adolescents est plus diversifié que les médias sociaux et les jeux en ligne ne l’ont jamais été, prévient Mansfield. »

Il arrive à une conclusion similaire Marc Riverochercheur principal en sécurité chez Kaspersky et sans rapport avec l’étude : « L’intelligence artificielle transforme l’expérience numérique des enfants et des adolescents, mais elle peut également avoir un impact négatif sur leur santé mentale et émotionnelle. En personnalisant le contenu qu’ils voient et en suggérant des interactions, l’IA peut les exposer à des contenus inappropriés ou à des groupes en ligne promouvant des activités illégales. Ces influences peuvent accroître l’anxiété, l’isolement ou même conduire à des comportements à risque dans l’environnement numérique. Il est donc essentiel de protéger les mineurs grâce à une éducation numérique précoce, à l’utilisation d’outils de supervision appropriés, tels que le contrôle parental, et à l’établissement d’un dialogue ouvert avec les enfants pour leur apprendre à naviguer de manière sûre et responsable dans le monde numérique ».

En personnalisant le contenu qu’ils voient et en suggérant des interactions, l’IA peut exposer les enfants et les adolescents à des contenus inappropriés ou à des groupes en ligne promouvant des activités illégales.

Marc Rivero, chercheur principal en sécurité de Kaspersky

L’avertissement de Rivero et des chercheurs d’Oxford est particulièrement pertinent car, selon le rapport Kaspersky Être en ligne : les enfants et les parents sur Internet« la majorité des enfants ont accès à la technologie dès leur plus jeune âge : près de la moitié des mineurs espagnols (47 %) ont leur premier contact avec un appareil connecté à Internet avant l’âge de 7 ans, 24,5 % des parents espagnols ne parlent jamais à leur enfants sur les dangers de l’environnement numérique et 75 % reconnaissent que leur enfant n’avait pas suffisamment de connaissances pour utiliser Internet en toute sécurité.

Tous les spécialistes consultés s’accordent sur trois clés : la formation, l’information et la recherche pour que l’accès aux ressources de l’IA se fasse avec les plus grandes défenses possibles. Sans cela, les réglementations ou interdictions ultérieures sur l’utilisation de la technologie sont inefficaces.

Maltraitance des enfants

Cela a été démontré par l’un des pires fléaux d’Internet, où les règles et les limites n’ont pas empêché un enfant sur 12 dans le monde de subir une exploitation ou des abus sexuels dans le monde depuis un an. C’est la conclusion d’une enquête menée par Déborah Frireprofesseur de recherche sur la protection de l’enfance à l’Université d’Édimbourg, qui publie également aujourd’hui La Lancette.

À l’instar de l’étude d’Oxford, ces travaux pointent également le danger de l’émergence de l’IA. « Les technologies émergentes basées sur les progrès des deux matériel [equipos] comme dans logiciel [programas] Ils utilisent des décennies de recherche sur l’IA. La manière dont les jeunes interagissent avec elle évolue constamment et de nombreux experts prédisent une IA de type humain au cours de cette décennie », prévient Fry dans la recherche.

L’équipe du spécialiste de la protection de l’enfance souligne les limites des recherches basées sur les temps d’utilisation des écrans ou des réseaux sociaux. Il se méfie également des mesures liées à ces deux aspects : « Les délais [de navegación] et vieux [para acceder a aplicaciones] “déplacer la responsabilité de la nécessité de réglementer les contenus préjudiciables, en plaçant plutôt la responsabilité sur les parents et les tuteurs ou sur l’intégration massive de technologies d’estimation de l’âge non testées, qui ont été considérées comme présentant des risques pour la vie privée et la sécurité.”

Les chercheurs soulignent également le manque de données uniformes et homogènes pour résoudre un problème mondial. En fait, il n’existe même pas d’unité de critères pour prendre en compte les abus sexuels et les délits sur Internet.