Bank of America a embauché des entrepreneurs pour protéger les logiciels contre Rogue AI
Bank of America renforce ses défenses contre les puissants modèles d’IA.
Le PDG Brian Moynihan a déclaré aux analystes lors d’une conférence téléphonique mercredi que la banque avait embauché 1 000 personnes supplémentaires – des consultants externes – pour ce qu’il a appelé « la remédiation du mythe ».
Il a développé ce point dans une interview avec CNBC mercredi. Il a déclaré que le développement de puissants modèles d’IA, tels que Mythos d’Anthropic, avait révélé certaines vulnérabilités logicielles dans le code de la banque, qui est utilisé à la fois par le personnel interne et par les fournisseurs externes.
Mythos, un modèle d’IA restreint connu pour sa capacité à trouver et à exploiter les faiblesses logicielles, a été publié par étapes au cours de l’année écoulée avec des garde-fous. Moynihan a déclaré à CNBC que lorsque les modèles frontières ont commencé à apparaître, les dirigeants de BofA se sont assis et ont réfléchi à la manière de consolider rapidement les vulnérabilités.
« Nous avons engagé 1 000 entrepreneurs pour nous aider à effectuer les travaux de réparation au deuxième trimestre, et ces personnes restent ici aujourd’hui, nous aidant, en plus des 3 000 personnes que nous avons dans cette zone », a déclaré Moynihan à CNBC.
L’exécutif n’a pas précisé combien coûterait exactement cette initiative. Cependant, il a déclaré lors de la conférence téléphonique que la BofA avait dépensé « plus de quelques centaines de millions » pour résoudre les problèmes logiciels et résoudre les problèmes de conformité en matière de lutte contre le blanchiment d’argent, ce qui a conduit à une amende de 1,2 milliard de dollars du Trésor.
L’investissement de BofA dans le renforcement de la sécurité de ses logiciels intervient alors que les modèles d’IA deviennent de plus en plus performants et autonomes. Les agents d’IA de laboratoires comme OpenAI, Anthropic, Google et Meta ont piraté les logiciels et les sites Web de plusieurs organisations, notamment la société d’IA Hugging Face et le site Web du gouvernement australien. Les agents d’Anthropic ont même soumis une fausse information sur un meurtre à la police de Philadelphie.
Le PDG de JPMorgan Chase, Jamie Dimon, s’est déjà prononcé contre Mythos, déclarant à Bloomberg plus tôt ce mois-ci que les risques de cybersécurité « avaient été multipliés par 10 » après la sortie du modèle.
« L’IA a créé des vulnérabilités dont nous ignorions l’existence, et nous nous sommes toujours préoccupés de la cybersécurité avant ces choses », a-t-il ajouté.
