// LES NUMÉRIQUES — INTELLIGENZA ARTIFICIALE
Actualité : Des IA qui vident votre compte en cas d'hallucination : Visa et Mastercard travaillent sur des protections
Encouragées par la peur de louper le coche, les entreprises imposent l’IA partout alors même que cette technologie suscite des inquiétudes. Ant International, Mastercard et Visa se préparent justement le fait que, dans peu de temps, des agents IA pourront faire des achats à notre place. Et malgré les protections annoncées par les trois groupes, impossible de ne pas serrer les dents face à ce futur de l'automatisation des achats en ligne.
Rappelons que récemment, Jacob Coxon, ancien d’OpenAI et Anthropic, a alerté sur les dangers que l’IA fait peser sur l’humanité. Selon lui, les grands laboratoires ont bien conscience que d’ici la fin de la décennie, cette technologie pourrait se transformer en véritable catastrophe. Pourtant, cela ne fait pas ralentir les grandes entreprises. Et même le milieu bancaire s’engouffre dans la brèche.
Dans une tentative de nous rassurer, Ant International, Mastercard et Visa promettent des protections pour que les agents IA ne fassent pas n’importe quoi lorsqu’ils effectuent des achats à la place des utilisateurs. Pour cela, les trois groupes ont lancé une collaboration autour d’un cadre commun appelé Know-Your-Agent. Le but est d’identifier les IA qui effectueront des achats pour les utilisateurs et de vérifier qu’il y a bien une autorisation.
Ryan McInerney, PDG de Visa, explique que les consommateurs utilisent déjà l’IA pour faire des recherches dans le cadre de leurs achats mais ne confient pas vraiment le paiement. Et il faut le dire, la confiance est l’obstacle numéro un. Selon une étude publiée par Visa lui-même, 23% des internautes interrogés aux États-Unis font confiance à une IA générative pour gérer un paiement.
C’est justement cette absence de confiance que cherche à résoudre Know-Your-Agent. Ant International, Mastercard et Visa souhaitent que les réseaux de cartes bancaires, les portefeuilles numériques, les plateformes et autres boutiques en ligne puissent reconnaître lorsqu’un agent a déjà été vérifié.
Le but est qu’une IA enregistrée chez Visa, par exemple, n’ait pas besoin de recommencer la démarche pour Mastercard. Chaque entreprise aura toutefois ses propres règles pour accepter ou refuser une transaction.
Sauf que voilà, cela ne veut pas dire que le réseau va forcément repérer le problème. Et puis on parle de millions d’utilisateurs de Visa et Mastercard. Est-on sûr qu’il n’y aura pas de problèmes parmi tous ces consommateurs ? A-t-on envie qu’une IA utilise notre carte bancaire pendant qu’on a le dos tourné, une technologie aussi imprévisible ?
Les trois groupes cherchent en tout cas à créer des règles communes pour éviter que chaque acteur du paiement n’ait à construire son écosystème fermé. Rappelons toutefois que chaque groupe a déjà sa propre technologie puisque Visa utilise Trusted Agent Protocol, Mastercard a Verifiable Intent, et Ant International exploite Agentic Mobile Protocol. Know-Your-Agent ne remplacera pas ces solutions.
Et malgré tout, entre les rappels des comportements destructeurs des agents IA et autres polémiques, la popularité de ces solutions pourrait ne pas faiblir. Selon McKinsey, en 2030, les agents IA pourraient générer entre 3 000 et 5 000 milliards de dollars de commerce mondial.
Bref, comment savoir qu’une IA respecte ce que vous lui avez demandé ? Jiang-Ming Yang, directeur de l’innovation chez Ant International, évoque justement les hallucinations, un problème récurrent chez les IA qui n’a toujours pas été enrayé à ce jour. Il est possible qu’un agent interprète mal une consigne ou prenne une mauvaise décision. Le paiement est alors catastrophique puisque de l’argent quitte votre compte bancaire.