Les criminels pratiquent le « vibe hacking » avec l’IA à des niveaux sans précédent : Anthropic
Malgré des garde-fous « sophistiqués », la société d’infrastructure d’IA Anthropic affirme que les cybercriminels trouvent toujours des moyens de détourner son chatbot IA Claude pour mener des cyberattaques à grande échelle.
Dans un rapport « Threat Intelligence » publié mercredi, les membres de l’équipe Threat Intelligence d’Anthropic, dont Alex Moix, Ken Lebedev et Jacob Klein, ont partagé plusieurs cas où des criminels ont détourné le chatbot Claude, certaines attaques exigeant plus de 500 000 $ de rançon.
Ils ont découvert que le chatbot était utilisé non seulement pour fournir des conseils techniques aux criminels, mais aussi pour exécuter directement des piratages en leur nom via le « vibe hacking », leur permettant de mener des attaques avec seulement des connaissances de base en codage et en cryptographie.
En février, la société de sécurité blockchain Chainalysis a prédit que les arnaques crypto pourraient connaître leur plus grande année en 2025, car l’IA générative a rendu les attaques plus évolutives et abordables. Anthropic a découvert qu’un hacker avait utilisé le « vibe hacking » avec Claude pour voler des données sensibles auprès d’au moins 17 organisations — y compris des établissements de santé, des services d’urgence, des institutions gouvernementales et religieuses — avec des demandes de rançon allant de 75 000 $ à 500 000 $ en Bitcoin.
Une note de rançon simulée montre comment les cybercriminels exploitent Claude pour proférer des menaces. Source: Anthropic Le hacker a entraîné Claude à évaluer les dossiers financiers volés, calculer les montants de rançon appropriés et rédiger des notes de rançon personnalisées pour maximiser la pression psychologique.
Bien qu’Anthropic ait ensuite banni l’attaquant, l’incident reflète la façon dont l’IA facilite la commission de cybercrimes même pour les codeurs les plus débutants à un « degré sans précédent ».
« Des acteurs qui ne peuvent pas mettre en œuvre de manière indépendante un chiffrement de base ou comprendre la mécanique des appels système réussissent désormais à créer des ransomwares dotés de capacités d’évasion [et] à mettre en œuvre des techniques anti-analyse. »
Des travailleurs informatiques nord-coréens ont également utilisé Claude d’Anthropic
Anthropic a également découvert que des travailleurs informatiques nord-coréens ont utilisé Claude pour forger des identités convaincantes, réussir des tests techniques de codage et même décrocher des postes à distance dans des entreprises technologiques américaines du Fortune 500. Ils ont aussi utilisé Claude pour préparer des réponses aux entretiens pour ces postes.
Claude a également été utilisé pour effectuer le travail technique une fois embauché, a précisé Anthropic, notant que ces stratagèmes d’emploi visaient à canaliser les profits vers le régime nord-coréen malgré les sanctions internationales.
Répartition des tâches alimentées par Claude utilisées par les travailleurs informatiques nord-coréens. Source: Anthropic Plus tôt ce mois-ci, un travailleur informatique nord-coréen a été contre-piraté, révélant qu’une équipe de six personnes partageait au moins 31 fausses identités, obtenant tout, des pièces d’identité gouvernementales et numéros de téléphone à l’achat de comptes LinkedIn et UpWork pour masquer leur véritable identité et décrocher des emplois dans la crypto.
L’un des travailleurs aurait passé un entretien pour un poste d’ingénieur full-stack chez Polygon Labs, tandis que d’autres preuves montraient des réponses d’entretien scriptées dans lesquelles ils affirmaient avoir de l’expérience chez le marché NFT OpenSea et le fournisseur d’oracle blockchain Chainlink.
Anthropic a déclaré que son nouveau rapport vise à discuter publiquement des incidents de mauvaise utilisation afin d’aider la communauté plus large de la sécurité et de la sûreté de l’IA et de renforcer la défense de l’industrie contre les abus de l’IA.
La société a indiqué que malgré la mise en œuvre de « mesures de sécurité et de sûreté sophistiquées » pour empêcher la mauvaise utilisation de Claude, les acteurs malveillants continuent de trouver des moyens de les contourner.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
La probabilité de défaut de CoreWeave dépasse 60 % ! Jensen Huang tente de rassurer : le coût du financement diminue, pas besoin que Nvidia garantisse.
Après le discours de Jensen Huang, l'action CoreWeave, qui avait chuté de 9,5 % en séance matinale, est repartie à la hausse. Le CDS à cinq ans de l'entreprise a dépassé 1190 points de base jeudi en cours de séance, atteignant un record historique en termes de coût de protection contre le risque de défaut. Certains rendements des obligations d'entreprise ont dépassé 15 à 16 %. Les spreads du CDS à cinq ans d’Oracle, Amazon, Alphabet (maison-mère de Google) et Meta sont également à des niveaux historiquement élevés. Selon les analystes de Deutsche Bank, à mesure que le cycle des dépenses en capital liées à l’IA est de plus en plus financé par la dette plutôt que par les flux de trésorerie libres, les investisseurs doivent accorder une plus grande attention aux signaux de prix du marché du crédit. Globalement, le coût du financement lié à l'IA reste modéré, mais certains signes commencent à susciter l'inquiétude.
Wall Street en alerte alors que Bessent pourrait à nouveau intervenir pour freiner les rendements, des indices clés attendus ce vendredi
Ce vendredi, les principaux négociants primaires de titres du Trésor recevront le questionnaire habituel du Département du Trésor des États-Unis avant l’annonce du refinancement. Citi prévoit que le questionnaire pourrait suggérer une réduction du volume d’émissions de dettes à long terme, voire l’annulation de l’émission des bons du Trésor à 20 ans. Morgan Stanley souligne : « Les deux prochains annonces de refinancement seront cruciales, en particulier celle de novembre, qui intervient juste après les élections de mi-mandat. »
Le sentiment de refuge l'emporte sur les inquiétudes liées à l'inflation, les obligations d'État européennes et américaines augmentent, les rendements des bons du Trésor américain chutent de plus de 10 points de base en cours de séance.
Les investisseurs inquiets de la forte inflation se tournent désormais vers l'impact potentiel de la hausse des coûts d'emprunt sur la croissance économique. Certains commentaires établissent un lien entre la récente baisse des rendements des bons du Trésor américain et l'augmentation rapide du coût du financement pour les entreprises liées à l'IA, estimant que les pressions pesant sur les actions technologiques et le secteur des infrastructures de l'IA poussent les capitaux vers des actifs refuges comme les obligations d'État.
Google réalise une percée en informatique quantique : le taux d’erreur réduit de 40 fois, surmontant le goulot d’étranglement des ressources clés
Google a validé sur son processeur Willow une technique appelée « culture magique », réduisant le taux d’erreur quantique d’environ 40 fois et atteignant une fidélité logique du T-state de 99,99 %, établissant ainsi un nouveau record dans ce domaine. Si cette avancée peut être mise à l’échelle avec succès, elle réduira considérablement la taille matérielle requise pour construire des systèmes quantiques tolérants aux fautes, ce qui revêt une grande importance pour la commercialisation de l’informatique quantique.
Prix des cryptos
Plus
