Tout le monde s’inquiète peut-être de l’arrivée de l’IA pour nos emplois, mais les conséquences néfastes de cette technologie sur les jeunes ne doivent pas être ignorées.
Alors que l’Union européenne a récemment interdit les technologies d’IA potentiellement dangereuses pour la santé, les États-Unis sont en retard sur les règles fédérales globales régissant l’intelligence artificielle.
Et de nouvelles recherches ont découvert un lien alarmant entre l’utilisation des chatbots IA et les problèmes émotionnels chez les enfants et les adolescents, certains groupes étant plus vulnérables aux effets négatifs.
Publiée lundi dans la revue JAMA Pediatrics, l’étude a interrogé près de 40 000 élèves de la 4e à la 12e année en Ontario, au Canada, sur leur utilisation de l’IA.
Plus de 21 % des étudiants ont déclaré utiliser l’IA générative à des « fins affectives », c’est-à-dire un soutien émotionnel ou des conseils concernant leurs amis et leur famille.
Quel est le problème ? L’utilisation de chatbots pour ces raisons était fortement liée à des « scores de problèmes émotionnels significativement plus élevés » – les étudiants étant presque deux fois plus susceptibles de présenter des symptômes de détresse cliniquement significatifs.
Le problème n’est pas le même dans tous les groupes : le lien entre l’utilisation de l’IA et les problèmes émotionnels était plus fort chez les filles, les étudiants de divers genres et les étudiants noirs, autochtones et autres races.
Dr Consuelo Cagandedirecteur de la division de psychiatrie de l’enfant et de l’adolescent à l’hôpital Northwell Zucker Hillside et au centre médical pour enfants Cohen, a déclaré que les jeunes qui se tournent vers les chatbots IA pour obtenir de l’aide face à des problèmes émotionnels sont « très préoccupants » – un 10 sur une échelle de 1 à 10.
« Les jeunes remplacent progressivement les groupes sociaux traditionnels et les modèles de traitement traditionnels par ces chatbots et ces algorithmes », a déclaré au Post Cagande, qui n’a pas participé à l’étude.
Le problème le plus important, a-t-elle ajouté, est « le manque de garanties, de suivis cliniques ou de garanties en cas de crise pour les personnes à risque qui utilisent des chatbots ».
Les jeunes qui se tournent vers l’IA pour obtenir un soutien émotionnel ont également déclaré se sentir seuls et avoir l’impression de ne pas « compter » pour les autres, ont découvert les chercheurs. Pourtant, même lorsque ces facteurs ont été supprimés, le lien entre l’utilisation de l’IA et les problèmes émotionnels persistait.
Cagande a déclaré qu’ils peuvent également craindre d’être jugés s’ils parlent de leurs problèmes à quelqu’un.
Si les jeunes envisagent d’utiliser des chatbots, Cagande recommande une supervision, ainsi qu’une éducation à la culture numérique et à l’utilisation de l’IA en raison du potentiel de désinformation.
Elle craint également que certains enfants et adolescents cachent leur utilisation de l’IA pour des raisons émotionnelles.
Par-dessus tout, l’IA générative ne devrait pas être la première ressource en cas de détresse émotionnelle ou de problèmes de santé mentale, Cagande ajoutant qu’elle ne devrait être utilisée que comme un outil supplémentaire.
« Si un enfant utilise un chatbot IA, il doit dire à un clinicien ce dont il a été informé sur ses problèmes de santé mentale grâce au chatbot et ne pas nécessairement considérer cela comme un conseil final », a-t-elle déclaré.
Sinon, les modèles traditionnels de discussion avec un médecin qui peut aider à trouver des ressources ou des références vers un professionnel de la santé mentale, ainsi qu’avec des enseignants ou des conseillers d’orientation dans les écoles, devraient être les premières lignes de soutien.
