Votre banque peut vous tenir responsable des erreurs de votre agent IA

Votre banque peut vous tenir responsable des erreurs de votre agent IA

Votre IA a-t-elle pris une mauvaise décision financière ? Eh bien, ne soyez pas surpris si vous restez avec le sac.

C’est l’avertissement que plusieurs grandes banques ont récemment adressé à leurs clients.

Dans les e-mails et les notifications d’applications examinés par Trading Insider, les banques disent essentiellement aux titulaires de comptes : les agents IA ayant accès aux informations financières peuvent être traités comme une extension de l’utilisateur – et non comme un intrus extérieur.

« Lorsque vous utilisez un service d’IA, vous êtes responsable de toutes les actions entreprises par l’IA », a envoyé un e-mail à ses clients plus tôt ce mois-ci. « L’IA peut faire des erreurs, halluciner, mal comprendre vos instructions ou les suivre d’une manière que vous n’aviez pas prévue, ce qui pourrait entraîner des pertes importantes. »

Dans un e-mail de novembre, Chase Bank a également averti ses clients que « les transactions autorisées pourraient ne pas être réversibles si vos informations sont utilisées à mauvais escient ».

Citi a ajouté une bannière sur son site Web et son application mobile dirigeant les utilisateurs vers une page avertissant : « Les assistants IA peuvent commettre des erreurs, et cela signifie que vous pouvez être tenu responsable des erreurs qu’ils commettent. »

Les nouvelles alertes arrivent alors qu’une nouvelle classe d’agents IA développe une habitude d’achat.

Auparavant, des modèles d’IA comme ChatGPT d’OpenAI ou Claude d’Anthropic répondaient aux questions des utilisateurs avec des blocs de texte. Désormais, des agents en ligne comme Meta’s Muse, Instinct AI ou OpenAI’s Dots sont capables d’aller en ligne pour terminer des tâches au nom d’un client, comme réserver un vol, réserver une table au restaurant ou acheter du déodorant avant d’en manquer.

Les détaillants ont dû réagir aux outils en modifiant leurs conditions générales. En mars, Trading Insider a rapporté que Target avait modifié son accord client pour indiquer que les achats effectués par un agent IA étaient « considérés comme des transactions autorisées par vous ». En septembre, Amazon a empêché les agents Muse d’effectuer des achats, invoquant des problèmes de sécurité et de fiabilité.

Les banques tentent également de tracer une ligne de démarcation entre les connexions de comptes autorisées avec des outils d’IA et les clients qui transmettent simplement à un outil d’IA leurs identifiants de connexion. Le mois dernier, Axios a signalé que de grandes banques avaient détecté des agents tiers opérant sur les comptes clients, dans certains cas avec l’autorisation et les identifiants de connexion des clients.

Chaque e-mail bancaire consulté par Trading Insider avertissait les clients de ne pas partager d’informations importantes, telles que des noms d’utilisateur, des mots de passe ou des codes de sécurité.

Wells Fargo a également déclaré que les clients ne devraient pas céder l’accès à la légère.

« Aucune technologie ne devrait être fiable pour agir au nom d’un client sans une sécurité renforcée, une autorisation claire du client et des garanties conçues pour protéger son argent et ses informations financières », a déclaré un représentant de la banque à Trading Insider.

Lors d’une conférence téléphonique sur les résultats en octobre, Jamie Dimon, PDG de JPMorgan Chase, a lancé un avertissement similaire aux clients concernant l’utilisation d’agents IA.

« Si les gens les utilisent, ils doivent comprendre le risque », a-t-il déclaré. « En attendant, nous n’allons pas permettre à n’importe quel agent extérieur d’entrer dans l’entreprise car c’est tout simplement trop risqué pour les clients et pour JPMorgan. »

La campagne de sensibilisation s’est étendue aux fabricants d’appareils et de logiciels eux-mêmes. La version bêta du dernier logiciel Mac d’Apple inclut un message d’avertissement lorsqu’un utilisateur envisage d’accorder à un agent IA ou à une application un accès au niveau du système à son ordinateur.

A lire également