Les chatbots IA « sexualisés » représentent une menace pour les enfants, avertissent les procureurs généraux dans une lettre
L'Association nationale des procureurs généraux (NAAG) a adressé une lettre à 13 entreprises d'IA, dont OpenAI, Anthropic, Apple et Meta, exigeant des mesures de protection renforcées pour protéger les enfants contre les contenus inappropriés et nuisibles.
Elle a averti que les enfants étaient exposés à du matériel à connotation sexuelle via des chatbots d'IA « flirty ».
« Exposer les enfants à des contenus sexualisés est indéfendable », ont écrit les procureurs généraux. « Et un comportement qui serait illégal — voire criminel — s'il était commis par des humains n'est pas excusable simplement parce qu'il est effectué par une machine. »
La lettre a également établi des comparaisons avec la montée des réseaux sociaux, affirmant que les agences gouvernementales n'avaient pas suffisamment mis en lumière les effets négatifs sur les enfants.
« Les plateformes de réseaux sociaux ont causé des dommages importants aux enfants, en partie parce que les organismes de surveillance gouvernementaux n'ont pas agi assez rapidement. Leçon retenue. Les dommages potentiels de l'IA, tout comme ses bénéfices potentiels, dépassent de loin l'impact des réseaux sociaux », a écrit le groupe.
L'utilisation de l'IA chez les enfants est répandue. Aux États-Unis, une enquête menée par l'organisation à but non lucratif Common Sense Media a révélé que sept adolescents sur dix avaient essayé l'IA générative en 2024. En juillet 2025, il a été constaté que plus des trois quarts utilisaient des compagnons IA et que la moitié des répondants déclaraient s'y fier régulièrement.
D'autres pays ont observé des tendances similaires. Au Royaume-Uni, une enquête menée l'année dernière par le régulateur Ofcom a révélé que la moitié des enfants de 8 à 15 ans en ligne avaient utilisé un outil d'IA générative au cours de l'année précédente.
L'utilisation croissante de ces outils suscite des inquiétudes croissantes de la part des parents, des écoles et des groupes de défense des droits des enfants, qui soulignent des risques allant des chatbots « flirty » à connotation sexuelle, du matériel d'abus sexuel d'enfants généré par IA, de l'intimidation, du grooming, de l'extorsion, de la désinformation, des atteintes à la vie privée et des impacts sur la santé mentale encore mal compris.
Meta a récemment été particulièrement critiquée après que des documents internes divulgués ont révélé que ses assistants IA avaient été autorisés à « flirter et à participer à des jeux de rôle romantiques avec des enfants », y compris avec des enfants dès l'âge de huit ans. Les fichiers montraient également des politiques permettant aux chatbots de dire aux enfants que leur « forme juvénile est une œuvre d'art » et de les décrire comme un « trésor ». Meta a ensuite déclaré avoir supprimé ces directives.
La NAAG a déclaré que ces révélations avaient laissé les procureurs généraux « révoltés par ce mépris apparent pour le bien-être émotionnel des enfants » et a averti que les risques ne se limitaient pas à Meta.
Le groupe a cité des poursuites contre Google et Character.ai, alléguant que des chatbots sexualisés avaient contribué au suicide d'un adolescent et encouragé un autre à tuer ses parents.
Parmi les 44 signataires figurait le procureur général du Tennessee, Jonathan Skrmetti, qui a déclaré que les entreprises ne pouvaient pas défendre des politiques qui normalisent les interactions sexualisées avec des mineurs.
« Qu'un algorithme déraille, cela peut être corrigé — mais c'en est une autre que les dirigeants d'une entreprise adoptent des directives qui autorisent explicitement le grooming », a-t-il déclaré. « Si nous ne pouvons pas orienter l'innovation pour éviter de nuire aux enfants, ce n'est pas du progrès — c'est un fléau. »
Decrypt a contacté, mais n'a pas encore reçu de réponse de la part de toutes les entreprises d'IA mentionnées dans la lettre.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
Musk parle de la production de puces : la capacité de fabrication à grande échelle de la Chine dépasse souvent celle du reste du monde combiné
Après que Changxin Storage a annoncé une avancée majeure dans la mémoire serveur DDR5, l'indice Philadelphia Semiconductor des marchés américains a chuté de 2,7 % pendant la nuit, entraînant la baisse collective de Micron, SK Hynix ADR et d'autres valeurs. Elon Musk a commenté cette tendance en déclarant que, lorsqu'une méthode de fabrication d'un produit est maîtrisée par la Chine, sa capacité de mise à l'échelle dépasse souvent celle du reste du monde, ajoutant que "la Chine semble progresser rapidement" sur des normes universelles telles que LP5 et LP6.
La nouvelle vague d’IA : combinant les caractéristiques des bulles “technologiques” et “immobilières”, elle rappelle le grand cycle international de capitaux de 2008.
La vague actuelle d'IA présente une dualité : au niveau micro, la nature à forte intensité d'actifs des centres de données IA pousse le secteur vers des financements par dette de type immobilier, tels que les obligations d'entreprise, les prêts privés et les ABS de puissance de calcul ; au niveau macro, près de 2 000 milliards de dollars d’épargne excédentaire étrangère affluent dans les principaux actifs IA du marché boursier américain via des institutions privées, recréant un cycle de capital transnational similaire à celui observé à la veille des subprimes en 2008. Avec près de 3 000 milliards de dollars de dettes hors bilan et une montée des taux d'intérêt, le secteur devra bientôt affronter une épreuve majeure de liquidité.
Le trading par IA connaît un "moment fragile" ! Les marchés boursiers japonais et coréens subissent un "mardi noir", SK Hynix, Samsung et SoftBank plongent ensemble
Mardi, les actions technologiques asiatiques ont subi une nouvelle vague de ventes systématiques. La faiblesse du secteur américain des semi-conducteurs durant la nuit s’est propagée sur les marchés Asie-Pacifique. Les inquiétudes concernant la concurrence accrue due à l’avancée technologique de ChangXin Memory dans les puces de stockage chinoises, ainsi que les retours sur les investissements du capital dans l’IA et l’environnement de financement, se sont intensifiées.
SpaceX (SPCX.US) : 80 % de potentiel de hausse caché dans Starship ? Morgan Stanley : le 15e vol d'essai sera un catalyseur majeur
Morgan Stanley indique que le prochain vol du Starship de SpaceX, prévu pour sa quinzième mission, pourrait représenter une étape clé vers la réutilisation complète de sa fusée de nouvelle génération, ouvrant la voie à de nouvelles opportunités pour l’entreprise dans les domaines des communications par satellite et de l’intelligence artificielle (IA).
Prix des cryptos
Plus
