Anthropic dit que les cybercriminels ont utilisé son Claude Ai pour «piratage de vibraison»

L’IA aide seulement les cols blancs à être plus productifs – il aide également les criminels à col blanc.

Anthropic a déclaré dans un rapport de mercredi qu’il a détecté et contrecarré les cybercriminels qui tentaient de réaliser des hacks à l’aide de l’outil d’IA de la startup, Claude.

Bien que l’IA soit utilisée dans les efforts de piratage depuis des années, Anthropic a déclaré que les progrès de la technologie signifient qu’il est utilisé pour « effectuer » des cyberattaques tout au long de l’opération – et avec des équipes plus petites.

« L’IA agentique a été armée », a déclaré la startup.

La suite d’outils de codage Claude d’Anthropic est largement utilisée dans le monde de la technologie, y compris chez Meta.

Ils peuvent aider les codeurs novices à créer des logiciels avec des invites simples ou aider les ingénieurs logiciels plus expérimentés plus productifs. Selon le rapport d’Anthropic, il en va de même pour la cybercriminalité.

L’IA signifie que les pirates ne nécessitent plus le même niveau d’expertise technique car ils peuvent instruire des outils comme Claude pour créer du code malveillant, a déclaré Anthropic, le décrivant comme un « piratage d’ambiance ».

Dans un exemple, un cybercrimiral a utilisé du code de claude pour « commettre un vol à grande échelle et une extorsion de données personnelles », puis a tenté d’empêcher les victimes de payer pour éviter que les données ne soient divulguées. Le pirate a utilisé Claude pour la reconnaissance des cibles, l’automatisation des attaques, le calcul des frais de rançon et la génération de « notes de rançon visuellement alarmantes », a indiqué la startup.

Dans un autre exemple, un cybercrimiral a utilisé Claude pour développer des ransomwares, un type de logiciel qui crypte les fichiers d’une cible et demande le paiement pour les déverrouiller. Le cybercriminal a vendu les packages de ransomwares sur les forums Internet jusqu’à 1 200 $, a déclaré Anthropic.

« Sans l’aide de Claude, ils ne pouvaient pas implémenter ou dépanner des composants de logiciels malveillants de base », a déclaré Anthropic à propos du pirate, ajoutant qu’il a interdit le compte associé et l’a signalé aux parties concernées.

Anthropic a déclaré qu’il partageait ses résultats afin que d’autres chercheurs et organisations puissent « renforcer leurs propres défenses contre les abus des systèmes d’IA ». Il a ajouté qu’il avait également mis en œuvre de nouvelles façons de détecter une mauvaise utilisation de ses outils.

La startup soutenue par Amazon est en pourparlers pour lever environ 5 milliards de dollars de financement à une évaluation de 170 milliards de dollars, a rapporté Trading Insider plus tôt ce mois-ci.