Les banquiers renforcent leurs défenses contre les agents malhonnêtes
C’était la semaine des bénéfices des grandes banques, et Wall Street avait une nouvelle menace en tête : l’IA malveillante.
Les dirigeants des plus grandes institutions financières du pays ont utilisé leurs résultats pour assurer aux investisseurs qu’ils faisaient tout ce qui est en leur pouvoir pour repousser les attaques de modèles d’IA puissants et malveillants.
Certains ont été précis sur les mesures qu’ils prenaient, comme le PDG de Bank of America, Brian Moynihan.
Moynihan a déclaré lors d’une conférence téléphonique sur les résultats mercredi et d’une interview avec CNBC que la banque s’était empressée de consolider les vulnérabilités de ses bases de code après la publication de puissants modèles d’IA tels que Mythos d’Anthropic.
L’entreprise a embauché 1 000 consultants externes pour résoudre ces problèmes au cours du dernier trimestre, et leur travail se poursuit.
La PDG de Citigroup, Jane Fraser, a partagé des sentiments similaires sur la sécurité de l’IA lors de la conférence téléphonique sur les résultats du troisième trimestre de la société, mardi.
« Nous n’attendons pas que les risques se produisent », a-t-elle déclaré, ajoutant : « Nous avons renforcé nos systèmes et exécuté des scénarios difficiles et perturbateurs pour tester nos défenses et nos réponses. »
Plus tard au cours de l’appel, elle a déclaré que Citigroup continuait à « investir dans des capacités de pointe » pour renforcer ses cyberdéfenses.
Le PDG de Morgan Stanley, Ted Pick, a déclaré mercredi lors d’un appel que la société investissait « tout ce qu’il faut » pour protéger les actifs de ses clients, car « vous ne pouvez pas affronter l’IA depuis votre garage ».
Le PDG de Goldman Sachs, David Solomon, a déclaré que la banque était préoccupée par « l’avancée incontrôlée des modèles frontières » et que l’IA présentait des risques importants ainsi que des opportunités.
« Nous devons permettre l’innovation et également exiger la responsabilité », a ajouté Solomon lors de l’appel de mardi.
Et enfin, le PDG de JPMorgan, Jamie Dimon, a déclaré mardi lors d’un appel qu’il ne permettrait pas à « n’importe quel agent extérieur d’entrer dans l’entreprise, car c’est tout simplement trop risqué pour les clients et pour JPMorgan ».
Les agents Rogue AI sont une priorité
Les commentaires des responsables financiers interviennent alors que des agents d’IA malveillants de laboratoires comme OpenAI, Anthropic, Google et Meta, capables d’exploiter les vulnérabilités logicielles, ont piraté les logiciels et les sites Web de plusieurs organisations au cours des derniers mois.
L’un des premiers cas de ce type s’est produit en juillet, lorsqu’un agent OpenAI a piraté les systèmes internes de la société d’IA Hugging Face lors d’un test de cybersécurité.
Plus récemment, ses agents ont piraté Site du gouvernement australien, ce qui a conduit le Premier ministre Anthony Albanese à exprimer « l’extrême inquiétude » de l’Australie concernant l’incident au PDG d’OpenAI, Sam Altman.
Les collaborateurs de l’IA eux-mêmes sont de plus en plus préoccupés par le rythme de développement de l’IA et les risques qu’elle pose. En septembre, le chercheur d’Anthropic Jacob Coxon a publiquement démissionné, affirmant qu’Anthropic et OpenAI « jouaient avec des vies », incitant de nombreux autres employés des laboratoires frontaliers à partager les mêmes préoccupations.
Peu de temps après, les chefs d’entreprises d’IA, tels qu’Altman, Dario Amodei et le PDG de SpaceXAI, Elon Musk, se sont tous mis d’accord sur la nécessité de « tracer la frontière », faisant référence au ralentissement du développement de l’IA et à l’ajout de contrôles et de contrepoids en matière de sécurité.
