¿Por qué los bancos del mundo están tan preocupados por el último modelo de IA de Anthropic?
Why the world’s banks are so worried about Anthropic’s latest AI model
Anthropic’s latest model – Mythos – has spooked the world of finance. So it’s a good idea to keep your computer and banking apps updated.
El último modelo de Anthropic – Mythos – ha inquietado al mundo de las finanzas. Por lo tanto, es una buena idea mantener actualizados su computadora y sus aplicaciones bancarias.
The legendary American bank robber Willie Sutton spent 40 years robbing banks because, as he claimed in his autobiography, he loved doing it. And when asked why he chose banks of all places to rob, he allegedly replied “Because that’s where the money is.”
El legendario ladrón de bancos estadounidense Willie Sutton pasó 40 años robando bancos porque, como afirmó en su autobiografía, le encantaba hacerlo. Y cuando le preguntaron por qué eligió robar bancos de todos lados, supuestamente respondió: «Porque ahí es donde está el dinero.»
Back in 2017, I wrote a book predicting it wasn’t just lovable rogues like Sutton who would soon be robbing banks, but artificial intelligence (AI).
En 2017, escribí un libro prediciendo que no solo serían los pícaros adorables como Sutton quienes pronto robarían bancos, sino la inteligencia artificial (IA).
That day, it appears, could now be about to arrive. Banks around the world are seriously worried cyber criminals will soon take advantage of the latest advances in AI to try to rob them.
Ese día, al parecer, podría estar a punto de llegar. Los bancos de todo el mundo están muy preocupados porque los cibercriminales pronto aprovecharán los últimos avances en IA para intentar robarlos.
The digital back door into the vault
La puerta trasera digital a la bóveda
The finance world’s concern rests on the impressive cyber capabilities of a product called “ Mythos ”. This is the latest and most capable AI model from Anthropic, the company behind the popular Claude chatbot.
La preocupación del mundo financiero radica en las impresionantes capacidades cibernéticas de un producto llamado «Mythos.» Este es el modelo de IA más reciente y capaz de Anthropic, la compañía detrás del popular chatbot Claude.
As a member of the public, you can’t access or use this model – for now. That’s because Anthropic (and many others) believe Mythos is too capable to launch upon an unsuspecting world.
Como miembro del público, no puede acceder ni usar este modelo, por ahora. Esto se debe a que Anthropic (y muchos otros) creen que Mythos es demasiado capaz para lanzarlo a un mundo desprevenido.
Internal testing of Mythos has uncovered thousands of severe security vulnerabilities across every major operating system and web browser.
Las pruebas internas de Mythos han descubierto miles de graves vulnerabilidades de seguridad en todos los principales sistemas operativos y navegadores web.
Some of these vulnerabilities have gone undetected for decades. Many are what tech insiders call “ zero day ” vulnerabilities – attacks that are so dangerous that developers need to fix them in zero days’ time.
Algunas de estas vulnerabilidades han pasado desapercibidas durante décadas. Muchas son lo que los expertos en tecnología llaman vulnerabilidades de «día cero» (zero day): ataques tan peligrosos que los desarrolladores deben corregirlos en cuestión de días.
Not for public use
No para uso público
To counter this emerging threat, Anthropic has made the model available to a dozen partners of a defensive coalition that includes Microsoft, Amazon Web Services, Apple, Cisco and the Linux Foundation.
Para contrarrestar esta amenaza emergente, Anthropic ha puesto el modelo a disposición de una docena de socios de una coalición defensiva que incluye a Microsoft, Amazon Web Services, Apple, Cisco y la Linux Foundation.
The company has also committed US$100 million (about A$140 million) in usage credits and US$4 million (about A$5.6 million) in open-source grants to start finding and fixing these bugs.
La compañía también ha comprometido 100 millones de dólares estadounidenses (alrededor de 140 millones de dólares australianos) en créditos de uso y 4 millones de dólares estadounidenses (alrededor de 5,6 millones de dólares australianos) en subvenciones de código abierto para comenzar a encontrar y solucionar estos errores.
In addition, more than 40 additional organisations – including a number of US banks – have also received access. But worryingly, as far as we know, Anthropic has not yet granted access to any banks in Australia, the United Kingdom or Europe.
Además, más de 40 organizaciones adicionales –incluidos varios bancos estadounidenses– también han recibido acceso. Pero, lo que preocupa, hasta donde sabemos, Anthropic aún no ha concedido acceso a ningún banco en Australia, el Reino Unido ni en Europa.
To add to concerns, on Wednesday, Anthropic confirmed it was investigating claims in a Bloomberg report that a small group of unauthorised users had gained access to Mythos. However, at this stage, there is no suggestion this alleged access was for malicious purposes.
Para añadir a la preocupación, el miércoles, Anthropic confirmó que estaba investigando afirmaciones en un informe de Bloomberg de que un pequeño grupo de usuarios no autorizados había obtenido acceso a Mythos. Sin embargo, en esta etapa, no hay sugerencia de que este presunto acceso fuera con fines maliciosos.
Should you be worried?
¿Debería preocuparse?
Last week, regulators and policymakers from around the world gathered at the International Monetary Fund spring meeting in Washington. The Iran war was a major focus. But attendees also issued a series of warnings about this emerging cybersecurity threat to the banking industry.
La semana pasada, reguladores y responsables políticos de todo el mundo se reunieron en la reunión de primavera del Fondo Monetario Internacional en Washington. La guerra de Irán fue un foco importante. Pero los asistentes también emitieron una serie de advertencias sobre esta creciente amenaza de ciberseguridad para la industria bancaria.
Not only are banks an attractive target, being where the money is, but the industry runs on many legacy systems, decades old technology that may be especially vulnerable to these sorts of attacks.
No solo los bancos son un objetivo atractivo, por ser donde está el dinero, sino que la industria funciona con muchos sistemas heredados, tecnología de décadas que puede ser especialmente vulnerable a este tipo de ataques.
You personally don’t need to be too worried. Many countries have strong protections for bank customers. In Australia, for example, the first A$250,000 of a customer’s deposits are insured through the government-backed Financial Claims Scheme.
Usted personalmente no necesita preocuparse demasiado. Muchos países tienen fuertes protecciones para los clientes bancarios. En Australia, por ejemplo, los primeros A$250,000 de los depósitos de un cliente están asegurados a través del Fondo de Reclamaciones Financieras respaldado por el gobierno.
And the Australian Securities and Investments Commission ensures banks investigate and reimburse fraudulent transactions where the customer is not at fault.
Y la Comisión Australiana de Valores e Inversiones garantiza que los bancos investiguen y reembolsen las transacciones fraudulentas cuando el cliente no es el culpable.
So, it’s probably not a wise idea to withdraw your cash and put it under the mattress. But banks should be (and are) rushing to plug these vulnerabilities.
Por lo tanto, probablemente no sea una idea sensata retirar su efectivo y esconderlo bajo el colchón. Pero los bancos deberían estar (y lo están) apresurándose a tapar estas vulnerabilidades.
I would recommend you regularly update your computer and smartphone to have the latest operating system and banking apps. There are likely to be many more updates in the near future as new vulnerabilities are uncovered and patched.
Le recomendaría que actualice regularmente su computadora y teléfono inteligente para tener el sistema operativo y las aplicaciones bancarias más recientes. Es probable que haya muchas más actualizaciones en un futuro cercano a medida que se descubran y corrijan nuevas vulnerabilidades.
And, as I’m sure you have been, you need to be ever vigilant for phishing attacks by email and SMS trying to obtain your banking credentials.
Y, como estoy seguro que lo ha estado, debe estar siempre vigilante ante los ataques de phishing por correo electrónico y SMS que intentan obtener sus credenciales bancarias.
The evolving threat landscape
El panorama de amenazas en evolución
In the longer term, Mythos exposes the challenge that defence is much harder than attack. Software is one of the most complex products humanity builds. It is therefore almost impossible to ensure it is bug-free.
A más largo plazo, Mythos expone el desafío de que la defensa es mucho más difícil que el ataque. El software es uno de los productos más complejos que la humanidad construye. Por lo tanto, es casi imposible garantizar que esté libre de errores.
That puts us in an unending race against the “bad guys” to uncover and fix faults before they get exploited.
Esto nos sitúa en una carrera interminable contra los «malos» para descubrir y corregir fallas antes de que sean explotadas.
For example, with significant fanfare, the European Union just released its age verification app, designed to be a cornerstone to the emerging laws on access to social media, pornography and other age-restricted content. However, within hours, security experts found cyber vulnerabilities that underage users could easily exploit.
Por ejemplo, con gran publicidad, la Unión Europea acaba de lanzar su aplicación de verificación de edad, diseñada para ser una piedra angular de las leyes emergentes sobre el acceso a las redes sociales, la pornografía y otros contenidos restringidos por edad. Sin embargo, en cuestión de horas, expertos en seguridad encontraron vulnerabilidades cibernéticas que los usuarios menores de edad podrían explotar fácilmente.
In the most critical settings, we can try to prove mathematically that our software is bug-free. For instance, the Beneficial AI Foundation just announced an ambitious “moonshot” project to prove that the popular messaging app Signal is bug-free and protects privacy as claimed.
En los entornos más críticos, podemos intentar demostrar matemáticamente que nuestro software está libre de errores. Por ejemplo, la Beneficial AI Foundation acaba de anunciar un ambicioso proyecto «moonshot» para demostrar que la popular aplicación de mensajería Signal está libre de errores y protege la privacidad como se afirma.
But such efforts are the exception today rather than the norm. Perhaps further advances in AI could soon help reverse this.
Pero tales esfuerzos son la excepción hoy en día, más que la norma. Quizás los avances futuros en IA pronto puedan ayudar a revertir esto.
Toby Walsh receives funding from the Australian Research Council for a Laureate Fellowship on trustworthy AI.
Toby Walsh recibe financiación del Consejo Australiano de Investigación para una Beca Laureate sobre IA confiable.
Read more
-
Dentro de los complejos de estafas del sudeste asiático: Una trabajadora traficada habla de fraude, coerción y tortura
Inside Southeast Asia’s scam compounds: A trafficked worker tells of fraud, coercion and torture
-
¿Destruirá el conflicto en Líbano el alto el fuego entre EE. UU. e Irán? Quizás, pero ya era frágil.
Will the conflict in Lebanon destroy the US-Iran ceasefire? Maybe, but it was already shaky