Choose your language to read side by side with English.

Why the world’s banks are so worried about Anthropic’s latest AI model
,

Mengapa bank-bank dunia sangat khawatir tentang model AI terbaru Anthropic

Why the world’s banks are so worried about Anthropic’s latest AI model

Toby Walsh, Professor of AI, Research Group Leader, UNSW Sydney
Show
Hide
EN – ID
ID – EN

Anthropic’s latest model – Mythos – has spooked the world of finance. So it’s a good idea to keep your computer and banking apps updated.

Model terbaru Anthropic – Mythos – telah membuat dunia keuangan ketakutan. Jadi, ini adalah ide bagus untuk menjaga komputer dan aplikasi perbankan Anda tetap diperbarui.

The legendary American bank robber Willie Sutton spent 40 years robbing banks because, as he claimed in his autobiography, he loved doing it. And when asked why he chose banks of all places to rob, he allegedly replied “Because that’s where the money is.”

Perampok bank legendaris Amerika, Willie Sutton, menghabiskan 40 tahun merampok bank karena, seperti yang diklaimnya dalam otobiografinya, dia suka melakukannya. Dan ketika ditanya mengapa dia memilih bank di mana pun untuk dirampok, dia diduga menjawab, “Karena di situlah uangnya.”

Back in 2017, I wrote a book predicting it wasn’t just lovable rogues like Sutton who would soon be robbing banks, but artificial intelligence (AI).

Pada tahun 2017, saya menulis buku yang memprediksi bahwa bukan hanya para penjahat yang menarik seperti Sutton yang akan segera merampok bank, tetapi kecerdasan buatan (AI).

That day, it appears, could now be about to arrive. Banks around the world are seriously worried cyber criminals will soon take advantage of the latest advances in AI to try to rob them.

Hari itu, tampaknya, kini hampir tiba. Bank-bank di seluruh dunia sangat khawatir bahwa penjahat siber akan segera memanfaatkan kemajuan terbaru dalam AI untuk mencoba merampok mereka.

The digital back door into the vault

Pintu belakang digital menuju brankas

The finance world’s concern rests on the impressive cyber capabilities of a product called “ Mythos ”. This is the latest and most capable AI model from Anthropic, the company behind the popular Claude chatbot.

Kekhawatiran dunia keuangan berpusat pada kemampuan siber mengesankan dari produk bernama “Mythos.” Ini adalah model AI terbaru dan paling mumpuni dari Anthropic, perusahaan di balik chatbot Claude yang populer.

As a member of the public, you can’t access or use this model – for now. That’s because Anthropic (and many others) believe Mythos is too capable to launch upon an unsuspecting world.

Sebagai anggota publik, Anda belum bisa mengakses atau menggunakan model ini – untuk saat ini. Itu karena Anthropic (dan banyak pihak lain) percaya Mythos terlalu mumpuni untuk diluncurkan ke dunia yang tidak siap.

Internal testing of Mythos has uncovered thousands of severe security vulnerabilities across every major operating system and web browser.

Pengujian internal Mythos telah mengungkap ribuan kerentanan keamanan parah di setiap sistem operasi dan peramban web utama.

Some of these vulnerabilities have gone undetected for decades. Many are what tech insiders call “ zero day ” vulnerabilities – attacks that are so dangerous that developers need to fix them in zero days’ time.

Beberapa kerentanan ini tidak terdeteksi selama puluhan tahun. Banyak di antaranya adalah apa yang disebut insider teknologi sebagai kerentanan “zero day” – serangan yang sangat berbahaya sehingga pengembang perlu memperbaikinya dalam waktu nol hari.

Not for public use

Tidak untuk penggunaan publik

To counter this emerging threat, Anthropic has made the model available to a dozen partners of a defensive coalition that includes Microsoft, Amazon Web Services, Apple, Cisco and the Linux Foundation.

Untuk menangkal ancaman yang muncul ini, Anthropic telah menyediakan model tersebut kepada selusin mitra dari koalisi defensif yang mencakup Microsoft, Amazon Web Services, Apple, Cisco, dan Linux Foundation.

The company has also committed US$100 million (about A$140 million) in usage credits and US$4 million (about A$5.6 million) in open-source grants to start finding and fixing these bugs.

Perusahaan ini juga telah mengalokasikan US$100 juta (sekitar A$140 juta) dalam kredit penggunaan dan US$4 juta (sekitar A$5,6 juta) dalam hibah sumber terbuka untuk mulai menemukan dan memperbaiki bug-bug ini.

In addition, more than 40 additional organisations – including a number of US banks – have also received access. But worryingly, as far as we know, Anthropic has not yet granted access to any banks in Australia, the United Kingdom or Europe.

Selain itu, lebih dari 40 organisasi tambahan – termasuk sejumlah bank AS – juga telah menerima akses. Namun yang mengkhawatirkan, sejauh yang kami tahu, Anthropic belum memberikan akses kepada bank mana pun di Australia, Inggris Raya, atau Eropa.

To add to concerns, on Wednesday, Anthropic confirmed it was investigating claims in a Bloomberg report that a small group of unauthorised users had gained access to Mythos. However, at this stage, there is no suggestion this alleged access was for malicious purposes.

Menambah kekhawatiran, pada hari Rabu, Anthropic mengonfirmasi bahwa mereka sedang menyelidiki klaim dalam laporan Bloomberg bahwa sekelompok kecil pengguna tidak berwenang telah mendapatkan akses ke Mythos. Namun, pada tahap ini, tidak ada indikasi bahwa akses yang diduga ini untuk tujuan jahat.

Should you be worried?

Apakah Anda perlu khawatir?

Last week, regulators and policymakers from around the world gathered at the International Monetary Fund spring meeting in Washington. The Iran war was a major focus. But attendees also issued a series of warnings about this emerging cybersecurity threat to the banking industry.

Minggu lalu, regulator dan pembuat kebijakan dari seluruh dunia berkumpul pada pertemuan musim semi Dana Moneter Internasional di Washington. Perang Iran adalah fokus utama. Namun, para hadirin juga mengeluarkan serangkaian peringatan tentang ancaman keamanan siber yang muncul ini terhadap industri perbankan.

Not only are banks an attractive target, being where the money is, but the industry runs on many legacy systems, decades old technology that may be especially vulnerable to these sorts of attacks.

Tidak hanya bank yang menjadi target menarik karena merupakan tempat uang berada, tetapi industri ini juga berjalan menggunakan banyak sistem lama, teknologi berusia puluhan tahun yang mungkin sangat rentan terhadap jenis serangan semacam ini.

You personally don’t need to be too worried. Many countries have strong protections for bank customers. In Australia, for example, the first A$250,000 of a customer’s deposits are insured through the government-backed Financial Claims Scheme.

Secara pribadi, Anda tidak perlu terlalu khawatir. Banyak negara memiliki perlindungan kuat bagi nasabah bank. Di Australia, misalnya, 250.000 A$ pertama dari simpanan nasabah diasuransikan melalui Skema Klaim Keuangan yang didukung pemerintah.

And the Australian Securities and Investments Commission ensures banks investigate and reimburse fraudulent transactions where the customer is not at fault.

Dan Komisi Sekuritas dan Investasi Australia memastikan bank menyelidiki dan mengganti transaksi penipuan di mana nasabah tidak bersalah.

So, it’s probably not a wise idea to withdraw your cash and put it under the mattress. But banks should be (and are) rushing to plug these vulnerabilities.

Jadi, mungkin bukan ide yang bijak untuk menarik uang tunai Anda dan menyimpannya di bawah kasur. Tetapi bank seharusnya (dan sedang) bergegas menutup kerentanan ini.

I would recommend you regularly update your computer and smartphone to have the latest operating system and banking apps. There are likely to be many more updates in the near future as new vulnerabilities are uncovered and patched.

Saya sarankan Anda secara rutin memperbarui komputer dan smartphone Anda agar memiliki sistem operasi dan aplikasi perbankan terbaru. Kemungkinan akan ada banyak pembaruan lagi dalam waktu dekat seiring terungkap dan ditambalnya kerentanan baru.

And, as I’m sure you have been, you need to be ever vigilant for phishing attacks by email and SMS trying to obtain your banking credentials.

Dan, seperti yang saya yakin sudah Anda lakukan, Anda perlu selalu waspada terhadap serangan phishing melalui email dan SMS yang mencoba mendapatkan kredensial perbankan Anda.

The evolving threat landscape

Lanskap ancaman yang berkembang

In the longer term, Mythos exposes the challenge that defence is much harder than attack. Software is one of the most complex products humanity builds. It is therefore almost impossible to ensure it is bug-free.

Dalam jangka panjang, Mythos mengungkap tantangan bahwa pertahanan jauh lebih sulit daripada serangan. Perangkat lunak adalah salah satu produk paling kompleks yang dibangun umat manusia. Oleh karena itu, hampir mustahil untuk memastikan bahwa perangkat lunak tersebut bebas dari bug.

That puts us in an unending race against the “bad guys” to uncover and fix faults before they get exploited.

Hal itu menempatkan kita dalam perlombaan tanpa akhir melawan “orang jahat” untuk mengungkap dan memperbaiki kesalahan sebelum dieksploitasi.

For example, with significant fanfare, the European Union just released its age verification app, designed to be a cornerstone to the emerging laws on access to social media, pornography and other age-restricted content. However, within hours, security experts found cyber vulnerabilities that underage users could easily exploit.

Misalnya, dengan gembar-gembor besar, Uni Eropa baru saja merilis aplikasi verifikasi usia mereka, yang dirancang sebagai landasan hukum yang muncul mengenai akses ke media sosial, pornografi, dan konten terbatas usia lainnya. Namun, dalam beberapa jam, para ahli keamanan menemukan kerentanan siber yang dapat dengan mudah dieksploitasi oleh pengguna di bawah umur.

In the most critical settings, we can try to prove mathematically that our software is bug-free. For instance, the Beneficial AI Foundation just announced an ambitious “moonshot” project to prove that the popular messaging app Signal is bug-free and protects privacy as claimed.

Dalam pengaturan yang paling kritis, kita dapat mencoba membuktikan secara matematis bahwa perangkat lunak kita bebas dari bug. Misalnya, Beneficial AI Foundation baru saja mengumumkan proyek “moonshot” ambisius untuk membuktikan bahwa aplikasi pesan populer Signal bebas dari bug dan melindungi privasi seperti yang diklaim.

But such efforts are the exception today rather than the norm. Perhaps further advances in AI could soon help reverse this.

Namun, upaya semacam itu adalah pengecualian hari ini daripada norma. Mungkin kemajuan lebih lanjut dalam AI dapat segera membantu membalikkan hal ini.

Toby Walsh receives funding from the Australian Research Council for a Laureate Fellowship on trustworthy AI.

Toby Walsh menerima pendanaan dari Australian Research Council untuk Fellowship Laureate tentang AI yang tepercaya.

Read more