// LES NUMÉRIQUES — INTELLIGENZA ARTIFICIALE
Actualité : Il confie ses identifiants bancaires à Grok qui partage ensuite le solde de ses comptes et ses dépenses personnelles dans une discussion groupée
Confier ses comptes bancaires à Grok n’était sans doute pas l’idée du siècle. Et ça, le PDG d’une société de logiciels l’a appris à ses dépens.
Shane Mac est le PDG de XMTP Labs, une société de logiciels. Nous sommes en août dernier quand l’homme décide de créer un agent IA dans Grok Bot pour analyser ses comptes bancaires. Le but pour lui était de suivre le solde de ses comptes, ses plus grosses dépenses, ses frais récurrents et repérer des opérations possiblement suspectes.
Embarrassed to share this, but it scared the shit out of meLast Thursday, an AI agent posted my personal bank balances into our company Slack. As meIt broke down all my expenses in detail. Then it apologizedBe careful of the dark side of proactive agentsMore below... pic.twitter.com/27IUsBRIXM
Shane Mac a donné l’autorisation à Grok d’accéder à son compte principal, à son épargne, mais sans possibilité de toucher à l’argent. Sauf que voilà, après avoir dressé le bilan financier de Shane Mac, Grok l’a publié dans le canal Slack de son entreprise, une messagerie privée professionnelle pour ceux qui l’ignorent.
Shane Mac a été alerté par un salarié qui pensait au départ qu’il s’agissait des comptes de l’entreprise. Mais non : les informations bancaires de Shane Mac dont son épargne, ses plus grosses dépenses et le coût d’un chantier sur sa propriété furent publiés par Grok Bot dans le canal Slack professionnel.
Le plus grave, c’est que l’agent IA n’a pas eu accès à Slack. Shane Mac utilisait un autre agent Grok Bot comme outil professionnel avec l'autorisation de se connecter à la messagerie de XMTP Labs. Les agents IA d’un même utilisateur de Grok Bot partagent le même environnement informatique, ce qui signifie que les comptes ouverts, les sessions de navigateur et les accès enregistrés sont partagés.
Deux agents IA pourtant différents agissent donc avec les mêmes connexions. C’est ce qui explique qu’un agent IA destiné à ses comptes bancaires a pu poster les informations à propos de ses finances sur Slack grâce à la connexion de celui qui fait office d’outil professionnel. Après l’incident, l’homme a supprimé toutes ses connexions à Grok Bot, dont ses comptes bancaires, ses comptes Google ou encore ses calendriers.
On le sait, les agents IA se multiplient et à mesure que leur autonomie grandit, ils accèdent à des comptes sensibles. Certains utilisateurs n’hésitent donc pas à confier des éléments pourtant sensibles à ces agents IA encore imparfaits et il y a eu beaucoup d’autres incidents dans le genre, très récemment.
This works well. If Grok @Bot makes a mistake with a purchase or leaks your card (never happened yet), SpaceX will make you whole. https://t.co/JZDQm3a95r
Elon Musk a depuis répondu et expliqué que son entreprise rembourserait un utilisateur si Grok Bot fait une erreur lors d’un achat ou partage des informations bancaires. Toutefois, le milliardaire n’a pas précisé quelles pertes seraient couvertes par sa société.