JPMorgan déploie les changements Claude : limites de 2 000 $ et sécurité supplémentaire

JPMorgan a lancé des limites de dépenses mensuelles de 2 000 $ pour certains employés utilisant Claude Code, messages internes vus par l’émission Trading Insider.

Ce plafond, ainsi qu’un nouvel effort de sécurité pour certains utilisateurs de Claude, marque une autre évolution dans la façon dont la plus grande banque américaine affine son utilisation de l’IA dans un contexte de coûts et de risques croissants, et remodèle les attentes des ingénieurs logiciels.

Le mois dernier, deux messages Teams dans un groupe pour certains ingénieurs ayant accès à Claude d’Anthropic ont posé des questions sur un nouveau code d’erreur : « Dépassé le budget » et « Budget = 2000,0 ».

Les réponses des employés indiquent qu’il existe une limite de dépenses mensuelles de 2 000 $ pour certains ingénieurs utilisant Claude ; deux réponses ont indiqué que les coûts étaient réinitialisés mensuellement. D’autres réponses indiquent que les utilisateurs peuvent demander une augmentation de leur limite de dépenses.

Comme Trading Insider l’a précédemment rapporté, JPMorgan, qui dispose d’un budget technologique annuel de près de 20 milliards de dollars, suit attentivement l’utilisation de l’IA par ses ingénieurs depuis des mois, mais c’est la première indication des dépenses en IA ou des plafonds de jetons.

Les coûts des jetons sont devenus un problème de plus en plus pressant à Wall Street. En juin, Zachery Anderson, responsable des données et de l’analyse des paiements chez JPMorgan, a déclaré lors d’un événement technologique que certains employés « dépensent plus en jetons que leur salaire », mais qu’il n’y avait pas d’effort à l’échelle de l’entreprise pour réduire leur utilisation, a rapporté Semafor.

Lors de la conférence téléphonique sur les résultats du deuxième trimestre de la banque en juillet, le directeur financier Jeremy Barnum a déclaré que même si les dépenses symboliques étaient à ce moment-là « insignifiantes », la banque « prévoit une accélération significative de ce chiffre pour le second semestre ».

JPMorgan a refusé de commenter les détails des limites des jetons ou sa stratégie de coûts. Un porte-parole a déclaré : « Nous abordons l’IA avec discipline, en liant les coûts à une valeur commerciale mesurable et en prenant en compte une série de mesures, notamment l’adoption, les résultats, l’amélioration de la productivité, la qualité, la rapidité, la création de capacités, la réduction des risques et l’impact commercial. »

Nouvelle architecture pour Claude

La limite de 2 000 $ pour certains coïncide avec un changement plus large dans la façon dont certains ingénieurs de la banque utilisent Claude, et a été mentionnée dans un groupe Teams à propos d’une nouvelle architecture de codage, « Devspace ». Jusqu’à récemment, certains développeurs pilotaient Claude directement sur leurs postes de travail. Devspace, cependant, est un plan à plus long terme qui restreint l’accès de Claude aux informations d’identification des employés et sa capacité à interagir avec les systèmes internes, a déclaré le porte-parole.

Ce type de restriction est particulièrement utile pour exécuter et contrôler les agents IA, qui peuvent prendre des décisions et effectuer des tâches par eux-mêmes.

Devspace est décrit comme un serveur de type sandbox « conteneurisé » hébergé dans Amazon Web Services dans un article de blog sur un site interne pour les questions techniques consultées par Trading Insider. Un bac à sable de codage, comme celui d’un terrain de jeu, est un endroit isolé où les logiciels peuvent s’exécuter sans affecter le reste d’un système informatique.

Le porte-parole a déclaré que Devspace est relativement nouveau et que la banque continue de déployer de nouvelles fonctionnalités. Le billet de blog a été publié il y a deux mois ; on ne sait pas quand l’entreprise a commencé à introduire le nouvel environnement de codage et combien d’ingénieurs y ont accès.

Pat Opet, responsable mondial de la sécurité de l’information chez JPMorgan, a parlé de l’architecture sandbox lors d’une discussion au coin du feu lors d’une conférence sur la cybersécurité en avril, avant que la banque ne lance la plateforme. Il a déclaré qu’il peut être risqué de placer de puissants outils d’IA sur les mêmes ordinateurs de bureau qui hébergent les e-mails, les fichiers sensibles et les informations personnelles des employés. Opet a déclaré que l’entreprise « essayait de construire cela de manière à isoler la plate-forme utilisée par l’IA » et à créer des environnements de bureau distincts pour les employés et l’IA.

« Idéalement, nous souhaiterions que ces agents fonctionnent dans un écosystème où ils n’ont aucun droit. Ils ont une identité, mais aucun droit », a-t-il déclaré. « Lorsque ces outils doivent accéder à une ressource, nous voulons contrôler la compréhension du contexte qui l’entoure. »

Grâce à ce type d’architecture, JPMorgan peut mieux comprendre et autoriser l’activité des agents, a déclaré Opet. Si un agent d’IA parvenait à s’échapper de l’environnement, il ne disposerait pas des informations d’identification nécessaires pour accéder aux systèmes internes ou « abuser de l’entreprise ».

Avec le déploiement de Devspace, la banque a commencé à concrétiser la vision d’Opet, même s’il n’est pas clair si ou quand tous les ingénieurs qui utilisent Claude commenceront à travailler dans le nouvel environnement numérique.

Pour l’instant, seule une partie des 65 000 personnes de la division Global Technology de la banque a accès à Claude. En août, un tableau de bord interne consulté par Trading Insider montrait qu’environ 8 000 personnes détenaient des licences Claude, et que le Le groupe Teams pour les questions sur Devspace comptait environ 1 900 membres début septembre. Il n’est pas clair si toutes les personnes du groupe Teams disposent de sièges dans Devspace.

Depuis la discussion au coin du feu d’Opet, l’inquiétude concernant les agents malveillants de l’IA s’est accrue, et les menaces à la sécurité publique ont fait boule de neige en gravité et en fréquence.

Les agents d’Anthropic et d’OpenAI ont échappé aux environnements de test fermés au cours des derniers mois, accédant parfois à Internet et piratant des sites Web. Anthropic a depuis renforcé la sécurité de ses environnements de test numérique, et OpenAI s’est engagé à changer la façon dont il divulgue lorsque ses agents deviennent malveillants. Certains dirigeants de l’industrie ont préconisé de ralentir les progrès technologiques pour sauver l’humanité.

Les banques détiennent une énorme quantité de données sensibles, depuis les informations d’identification des clients jusqu’à leurs numéros de carte de crédit. La réputation des entreprises est liée à leur niveau de sécurité, réel et perçu, ce qui rend la question de la cybersécurité à l’ère de l’IA particulièrement pressante. L’accent mis sur la sécurité n’est pas nouveau pour JPMorgan : la société faisait partie du « Project Glasswing », un groupe de cybersécurité qui a testé le puissant modèle Mythos d’Anthropic dans un environnement contrôlé en avril.

Lorsque Opet s’est exprimé en avril, il a déclaré que la construction réussie de cette architecture engendrerait suffisamment de « confiance » pour faire évoluer les assistants de codage d’IA dans l’ensemble de l’entreprise, qui s’enorgueillit d’être un pionnier en matière d’IA à Wall Street.

« C’est en quelque sorte notre meilleure vision du moment sur la manière dont les entreprises peuvent concevoir des assistants de codage », a-t-il déclaré.