Goldman travaille avec Anthropic sur les cyber-risques liés à l’IA
Goldman Sachs examine en avant-première l’un des modèles d’IA les plus puissants au monde et agit rapidement pour se prémunir contre les risques qu’il pourrait poser.
Le PDG David Solomon a déclaré que la banque travaillait en étroite collaboration avec Anthropic pour évaluer les menaces de cybersécurité liées à son dernier système, après que son déploiement ait déclenché l’alarme dans l’ensemble du secteur. Solomon a déclaré que la banque est « hyper consciente » de ses capacités et qu’elle se coordonne avec Anthropic et ses propres fournisseurs de sécurité pour se prémunir contre les menaces potentielles.
La semaine dernière, Anthropic a annoncé qu’elle ne publierait pas son nouveau modèle, Mythos, en raison de problèmes de cybersécurité. La société a averti que le système était suffisamment avancé pour que même des non-experts puissent exploiter les vulnérabilités des principaux systèmes d’exploitation. Au lieu de cela, il a déclaré qu’il offrait des avant-premières limitées à 11 organisations, dans le cadre d’un groupe de cybersécurité nommé « Projet Glasswing ».
« La cybersécurité est depuis longtemps au cœur de nos activités », a déclaré Solomon lors de la conférence téléphonique sur les résultats du premier trimestre de la banque. « Et nous avons, depuis très, très longtemps, mis en avant d’énormes ressources. »
Les débuts du modèle ont également donné lieu à une réunion la semaine dernière entre le président de la Réserve fédérale, Jerome Powell, le secrétaire au Trésor, Scott Bessent, et les dirigeants des principales banques américaines. Solomon a déclaré que de telles discussions ne sont pas nouvelles, soulignant que les banques collaborent depuis des années avec le Trésor sur les risques liés à la cybersécurité.
« Avec l’aide du gouvernement américain et des éditeurs de modèles, nous sommes très concentrés sur le renforcement de notre cyber-résilience et de nos infrastructures », a déclaré Solomon. « Et cela fait partie de nos capacités continues dans lesquelles nous investissons et dans lesquelles nous accélérons nos investissements. »
Malgré les risques, Solomon a souligné son optimisme quant aux effets à moyen et long terme de l’IA sur les secteurs d’activité de Goldman.
« Chaque fois que votre technologie s’accélère, il y aura des obstacles et des problèmes de risque », a-t-il déclaré à un analyste plus tard au cours de l’appel. « Mais la puissance de la technologie, la capacité de l’utiliser dans une entreprise, de repenser les processus, de créer de l’efficacité et également de créer plus de capacité à investir dans la croissance – je ne trouve pas de PDG qui ne parle pas de cela », a-t-il déclaré.
