Les chatbots IA « sexualisés » représentent une menace pour les enfants, avertissent les procureurs généraux dans une lettre
L'Association nationale des procureurs généraux (NAAG) a adressé une lettre à 13 entreprises d'IA, dont OpenAI, Anthropic, Apple et Meta, exigeant des mesures de protection renforcées pour protéger les enfants contre les contenus inappropriés et nuisibles.
Elle a averti que les enfants étaient exposés à du matériel à connotation sexuelle via des chatbots d'IA « flirty ».
« Exposer les enfants à des contenus sexualisés est indéfendable », ont écrit les procureurs généraux. « Et un comportement qui serait illégal — voire criminel — s'il était commis par des humains n'est pas excusable simplement parce qu'il est effectué par une machine. »
La lettre a également établi des comparaisons avec la montée des réseaux sociaux, affirmant que les agences gouvernementales n'avaient pas suffisamment mis en lumière les effets négatifs sur les enfants.
« Les plateformes de réseaux sociaux ont causé des dommages importants aux enfants, en partie parce que les organismes de surveillance gouvernementaux n'ont pas agi assez rapidement. Leçon retenue. Les dommages potentiels de l'IA, tout comme ses bénéfices potentiels, dépassent de loin l'impact des réseaux sociaux », a écrit le groupe.
L'utilisation de l'IA chez les enfants est répandue. Aux États-Unis, une enquête menée par l'organisation à but non lucratif Common Sense Media a révélé que sept adolescents sur dix avaient essayé l'IA générative en 2024. En juillet 2025, il a été constaté que plus des trois quarts utilisaient des compagnons IA et que la moitié des répondants déclaraient s'y fier régulièrement.
D'autres pays ont observé des tendances similaires. Au Royaume-Uni, une enquête menée l'année dernière par le régulateur Ofcom a révélé que la moitié des enfants de 8 à 15 ans en ligne avaient utilisé un outil d'IA générative au cours de l'année précédente.
L'utilisation croissante de ces outils suscite des inquiétudes croissantes de la part des parents, des écoles et des groupes de défense des droits des enfants, qui soulignent des risques allant des chatbots « flirty » à connotation sexuelle, du matériel d'abus sexuel d'enfants généré par IA, de l'intimidation, du grooming, de l'extorsion, de la désinformation, des atteintes à la vie privée et des impacts sur la santé mentale encore mal compris.
Meta a récemment été particulièrement critiquée après que des documents internes divulgués ont révélé que ses assistants IA avaient été autorisés à « flirter et à participer à des jeux de rôle romantiques avec des enfants », y compris avec des enfants dès l'âge de huit ans. Les fichiers montraient également des politiques permettant aux chatbots de dire aux enfants que leur « forme juvénile est une œuvre d'art » et de les décrire comme un « trésor ». Meta a ensuite déclaré avoir supprimé ces directives.
La NAAG a déclaré que ces révélations avaient laissé les procureurs généraux « révoltés par ce mépris apparent pour le bien-être émotionnel des enfants » et a averti que les risques ne se limitaient pas à Meta.
Le groupe a cité des poursuites contre Google et Character.ai, alléguant que des chatbots sexualisés avaient contribué au suicide d'un adolescent et encouragé un autre à tuer ses parents.
Parmi les 44 signataires figurait le procureur général du Tennessee, Jonathan Skrmetti, qui a déclaré que les entreprises ne pouvaient pas défendre des politiques qui normalisent les interactions sexualisées avec des mineurs.
« Qu'un algorithme déraille, cela peut être corrigé — mais c'en est une autre que les dirigeants d'une entreprise adoptent des directives qui autorisent explicitement le grooming », a-t-il déclaré. « Si nous ne pouvons pas orienter l'innovation pour éviter de nuire aux enfants, ce n'est pas du progrès — c'est un fléau. »
Decrypt a contacté, mais n'a pas encore reçu de réponse de la part de toutes les entreprises d'IA mentionnées dans la lettre.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
Le marché haussier de l’IA entre dans « l’ère de l’encaissement » ! Morgan Stanley et JPMorgan prévoient un S&P 500 à 8 000 points, la violente reprise des semi-conducteurs et du marché boursier sud-coréen confirme la « vague majeure de croissance des profits »
Les deux géants financiers de Wall Street, Morgan Stanley et JPMorgan, ont récemment publié de concert des rapports indiquant que le principal moteur de la progression continue du S&P 500 est en train de passer de l'expansion des valorisations à la révision à la hausse des bénéfices et à la concrétisation commerciale de l'IA.
Wall Street fait preuve de prudence collective ! Dernier résumé des rapports 13F sur les positions : divergence dans le rééquilibrage des leaders technologiques et du secteur de l’IA, la lutte entre haussiers et baissiers s’enlise
Les documents trimestriels 13F publiés par la SEC américaine révèlent qu'au deuxième trimestre de cette année, les investisseurs institutionnels ont légèrement réduit leurs positions dans des secteurs clés tels que les semi-conducteurs, l'infrastructure d'intelligence artificielle (IA) et les grandes valeurs technologiques, sans signe évident de pari unilatéral important.
Les signaux dans les rapports trimestriels des fabricants de puces : une demande plus forte qu'il y a trois mois, la hausse des prix commence à se « diffuser »
JPMorgan estime que les résultats trimestriels mondiaux du secteur des semi-conducteurs envoient un signal haussier clair : premièrement, la demande dépasse les attentes et les géants du secteur tels que TSMC augmentent massivement leurs dépenses en capital pour accélérer l'expansion de la production ; deuxièmement, l'effet de hausse des prix se propage concrètement aux fabricants d'équipements et aux fournisseurs de matériaux, permettant aux fabricants d'équipements d'augmenter leurs marges bénéficiaires grâce à des hausses de prix ; troisièmement, les géants du stockage sécurisent à l'avance un niveau de profit extrêmement élevé pour les prochaines années via des accords à long terme et des prépaiements importants.
Prix des cryptos
Plus
