Choose your language to read side by side with English.

Why the world’s banks are so worried about Anthropic’s latest AI model
,

Pourquoi les banques du monde sont si inquiètes du dernier modèle d’IA d’Anthropic

Why the world’s banks are so worried about Anthropic’s latest AI model

Toby Walsh, Professor of AI, Research Group Leader, UNSW Sydney
Show
Hide
EN – FR
FR – EN

Anthropic’s latest model – Mythos – has spooked the world of finance. So it’s a good idea to keep your computer and banking apps updated.

Le dernier modèle d’Anthropic – Mythos – a inquiété le monde de la finance. Il est donc conseillé de maintenir votre ordinateur et vos applications bancaires à jour.

The legendary American bank robber Willie Sutton spent 40 years robbing banks because, as he claimed in his autobiography, he loved doing it. And when asked why he chose banks of all places to rob, he allegedly replied “Because that’s where the money is.”

Le voleur de banque américain légendaire Willie Sutton a passé 40 ans à braquer des banques parce que, comme il l’a affirmé dans son autobiographie, il adorait ça. Et lorsqu’on lui a demandé pourquoi il avait choisi de braquer des banques de toutes parts, il aurait répondu : « Parce que c’est là que se trouve l’argent. »

Back in 2017, I wrote a book predicting it wasn’t just lovable rogues like Sutton who would soon be robbing banks, but artificial intelligence (AI).

En 2017, j’ai écrit un livre prédisant que ce n’étaient pas seulement des malfrats adorables comme Sutton qui braqueraient bientôt des banques, mais l’intelligence artificielle (IA).

That day, it appears, could now be about to arrive. Banks around the world are seriously worried cyber criminals will soon take advantage of the latest advances in AI to try to rob them.

Ce jour-là, il semblerait, pourrait être sur le point d’arriver. Les banques du monde entier sont sérieusement inquiètes que les cybercriminels tirent bientôt parti des dernières avancées de l’IA pour tenter de les braquer.

The digital back door into the vault

La porte dérobée numérique vers le coffre

The finance world’s concern rests on the impressive cyber capabilities of a product called “ Mythos ”. This is the latest and most capable AI model from Anthropic, the company behind the popular Claude chatbot.

L’inquiétude du monde de la finance repose sur les impressionnantes capacités cyber d’un produit appelé « Mythos ». Il s’agit du modèle d’IA le plus récent et le plus performant d’Anthropic, l’entreprise derrière le chatbot populaire Claude.

As a member of the public, you can’t access or use this model – for now. That’s because Anthropic (and many others) believe Mythos is too capable to launch upon an unsuspecting world.

En tant que membre du public, vous ne pouvez pas accéder ni utiliser ce modèle – pour l’instant. C’est parce qu’Anthropic (et beaucoup d’autres) estiment que Mythos est trop puissant pour être lancé dans un monde qui ne s’y attend pas.

Internal testing of Mythos has uncovered thousands of severe security vulnerabilities across every major operating system and web browser.

Des tests internes de Mythos ont révélé des milliers de vulnérabilités de sécurité graves sur tous les principaux systèmes d’exploitation et navigateurs web.

Some of these vulnerabilities have gone undetected for decades. Many are what tech insiders call “ zero day ” vulnerabilities – attacks that are so dangerous that developers need to fix them in zero days’ time.

Certaines de ces vulnérabilités n’ont pas été détectées depuis des décennies. Beaucoup sont ce que les initiés de la technologie appellent des vulnérabilités « zero day » – des attaques si dangereuses que les développeurs doivent les corriger en un temps record.

Not for public use

Usage non public

To counter this emerging threat, Anthropic has made the model available to a dozen partners of a defensive coalition that includes Microsoft, Amazon Web Services, Apple, Cisco and the Linux Foundation.

Pour contrer cette menace émergente, Anthropic a mis le modèle à la disposition d’une douzaine de partenaires d’une coalition de défense qui comprend Microsoft, Amazon Web Services, Apple, Cisco et la Linux Foundation.

The company has also committed US$100 million (about A$140 million) in usage credits and US$4 million (about A$5.6 million) in open-source grants to start finding and fixing these bugs.

L’entreprise a également engagé 100 millions de dollars américains (environ 140 millions de dollars australiens) en crédits d’utilisation et 4 millions de dollars américains (environ 5,6 millions de dollars australiens) en subventions open source pour commencer à trouver et à corriger ces bugs.

In addition, more than 40 additional organisations – including a number of US banks – have also received access. But worryingly, as far as we know, Anthropic has not yet granted access to any banks in Australia, the United Kingdom or Europe.

De plus, plus de 40 organisations supplémentaires – dont un certain nombre de banques américaines – ont également obtenu l’accès. Mais, de manière préoccupante, selon ce que nous savons, Anthropic n’a pas encore accordé l’accès à des banques en Australie, au Royaume-Uni ou en Europe.

To add to concerns, on Wednesday, Anthropic confirmed it was investigating claims in a Bloomberg report that a small group of unauthorised users had gained access to Mythos. However, at this stage, there is no suggestion this alleged access was for malicious purposes.

Pour ajouter aux préoccupations, mercredi, Anthropic a confirmé enquêter sur des allégations contenues dans un rapport de Bloomberg selon lesquelles un petit groupe d’utilisateurs non autorisés avait accédé à Mythos. Cependant, à ce stade, il n’y a aucune suggestion que cet accès présumé ait été à des fins malveillantes.

Should you be worried?

Devriez-vous vous inquiéter?

Last week, regulators and policymakers from around the world gathered at the International Monetary Fund spring meeting in Washington. The Iran war was a major focus. But attendees also issued a series of warnings about this emerging cybersecurity threat to the banking industry.

La semaine dernière, des régulateurs et des décideurs politiques du monde entier se sont réunis lors de la réunion printanière du Fonds monétaire international à Washington. La guerre en Iran était un point central. Mais les participants ont également émis une série d’avertissements concernant cette menace émergente de cybersécurité pour le secteur bancaire.

Not only are banks an attractive target, being where the money is, but the industry runs on many legacy systems, decades old technology that may be especially vulnerable to these sorts of attacks.

Non seulement les banques sont une cible attrayante, car c’est là que se trouve l’argent, mais le secteur repose également sur de nombreux systèmes hérités, une technologie vieille de plusieurs décennies qui peut être particulièrement vulnérable à ce genre d’attaques.

You personally don’t need to be too worried. Many countries have strong protections for bank customers. In Australia, for example, the first A$250,000 of a customer’s deposits are insured through the government-backed Financial Claims Scheme.

Personnellement, vous n’avez pas besoin de trop vous inquiéter. De nombreux pays disposent de protections solides pour les clients bancaires. En Australie, par exemple, les premiers 250 000 dollars australiens des dépôts d’un client sont assurés par le Fonds de garantie des créances financières, soutenu par le gouvernement.

And the Australian Securities and Investments Commission ensures banks investigate and reimburse fraudulent transactions where the customer is not at fault.

Et la Commission australienne des valeurs mobilières et des investissements (ASIC) garantit que les banques enquêtent et remboursent les transactions frauduleuses lorsque le client n’est pas en faute.

So, it’s probably not a wise idea to withdraw your cash and put it under the mattress. But banks should be (and are) rushing to plug these vulnerabilities.

Il n’est donc probablement pas judicieux de retirer votre argent liquide et de le cacher sous le matelas. Mais les banques devraient (et sont en train de) se dépêcher de colmater ces vulnérabilités.

I would recommend you regularly update your computer and smartphone to have the latest operating system and banking apps. There are likely to be many more updates in the near future as new vulnerabilities are uncovered and patched.

Je vous recommande de mettre régulièrement à jour votre ordinateur et votre smartphone pour disposer du dernier système d’exploitation et des applications bancaires. Il est probable qu’il y ait beaucoup plus de mises à jour dans un avenir proche à mesure que de nouvelles vulnérabilités sont découvertes et corrigées.

And, as I’m sure you have been, you need to be ever vigilant for phishing attacks by email and SMS trying to obtain your banking credentials.

Et, comme vous le savez sûrement, vous devez rester extrêmement vigilant face aux attaques de hameçonnage (phishing) par e-mail et SMS qui tentent d’obtenir vos identifiants bancaires.

The evolving threat landscape

Le paysage des menaces en évolution

In the longer term, Mythos exposes the challenge that defence is much harder than attack. Software is one of the most complex products humanity builds. It is therefore almost impossible to ensure it is bug-free.

À plus long terme, Mythos met en lumière le défi que la défense est beaucoup plus difficile que l’attaque. Le logiciel est l’un des produits les plus complexes construits par l’humanité. Il est donc presque impossible de garantir qu’il est exempt de bugs.

That puts us in an unending race against the “bad guys” to uncover and fix faults before they get exploited.

Cela nous place dans une course sans fin contre les « mauvais gars » pour découvrir et corriger les défauts avant qu’ils ne soient exploités.

For example, with significant fanfare, the European Union just released its age verification app, designed to be a cornerstone to the emerging laws on access to social media, pornography and other age-restricted content. However, within hours, security experts found cyber vulnerabilities that underage users could easily exploit.

Par exemple, avec beaucoup de tapage médiatique, l’Union européenne vient de lancer son application de vérification d’âge, conçue pour être une pierre angulaire des lois émergentes sur l’accès aux médias sociaux, à la pornographie et à tout autre contenu restreint par l’âge. Cependant, en quelques heures, des experts en sécurité ont trouvé des vulnérabilités cybernétiques que les utilisateurs mineurs pouvaient facilement exploiter.

In the most critical settings, we can try to prove mathematically that our software is bug-free. For instance, the Beneficial AI Foundation just announced an ambitious “moonshot” project to prove that the popular messaging app Signal is bug-free and protects privacy as claimed.

Dans les contextes les plus critiques, nous pouvons essayer de prouver mathématiquement que notre logiciel est exempt de bugs. Par exemple, la Beneficial AI Foundation vient d’annoncer un ambitieux projet « moonshot » pour prouver que l’application de messagerie populaire Signal est exempte de bugs et protège la vie privée comme le prétend.

But such efforts are the exception today rather than the norm. Perhaps further advances in AI could soon help reverse this.

Mais de tels efforts sont aujourd’hui l’exception plutôt que la norme. Peut-être que de nouveaux progrès en IA pourraient bientôt aider à inverser cette tendance.

Toby Walsh receives funding from the Australian Research Council for a Laureate Fellowship on trustworthy AI.

Toby Walsh reçoit un financement du Australian Research Council pour une bourse Laureate sur l’IA fiable.

Read more