Jika AI adiktif, di manakah letak tanggung jawabnya – pada perusahaan teknologi besar atau penggunanya?
If AI is addictive, where does the responsibility lie – with big tech or its users?
Generative AI systems show signs of being addictive, but the evidence is still at an early stage.
Sistem AI generatif menunjukkan tanda-tanda adiktif, tetapi buktinya masih pada tahap awal.
When I talk to my son, an engineering student, and we have a question or disagreement, he immediately turns to ChatGPT as his primary source of information and confirmation.
Ketika saya berbicara dengan putra saya, seorang mahasiswa teknik, dan kami memiliki pertanyaan atau perselisihan, dia segera beralih ke ChatGPT sebagai sumber informasi dan konfirmasi utamanya.
He is not alone in this. The use of generative AI tools has exploded across different demographic groups. For many people, these tools can be entertaining, informative and beneficial. However, they also have a dark side.
Dia tidak sendirian dalam hal ini. Penggunaan alat AI generatif telah meledak di berbagai kelompok demografi. Bagi banyak orang, alat-alat ini dapat menghibur, informatif, dan bermanfaat. Namun, mereka juga memiliki sisi gelap.
Generative AI is not formally recognised as addictive right now – the medical evidence is still being gathered. But there is a significant amount of data showing heavy use of chatbots and other systems that produce text, images and video leads to neural patterns and behaviour that are associated with addiction.
AI generatif belum secara resmi diakui sebagai adiktif saat ini – bukti medis masih dikumpulkan. Namun, ada sejumlah besar data yang menunjukkan bahwa penggunaan chatbot dan sistem lain yang menghasilkan teks, gambar, dan video secara berlebihan mengarah pada pola saraf dan perilaku yang terkait dengan kecanduan.
In light of Meta’s and YouTube’s recent legal defeat in a landmark social media addiction trial, I believe it’s time to ask whether a similar logic applies to generative AI – and how it could be addressed. The starting point would be to identify who carries responsibility for overuse of generative AI.
Dalam terang kekalahan hukum Meta dan YouTube baru-baru ini dalam persidangan kecanduan media sosial yang bersejarah, saya yakin sudah waktunya untuk bertanya apakah logika serupa berlaku untuk AI generatif – dan bagaimana hal itu dapat ditangani. Titik awalnya adalah mengidentifikasi siapa yang bertanggung jawab atas penggunaan berlebihan AI generatif.
The science on this is not settled, and there are some who counsel caution when using the term addiction. They propose the use of other expressions such as “problematic use”. However, in a recent paper, our team of researchers suggest there is strong evidence to suggest that generative AI has addictive properties.
Ilmu pengetahuan tentang hal ini belum pasti, dan ada beberapa pihak yang menyarankan kehati-hatian saat menggunakan istilah kecanduan. Mereka mengusulkan penggunaan ekspresi lain seperti “penggunaan bermasalah”. Namun, dalam makalah baru-baru ini, tim peneliti kami menunjukkan bahwa ada bukti kuat yang menunjukkan bahwa AI generatif memiliki sifat adiktif.
Much-discussed examples include emotional dependency on chatbot companions, compulsive engagement with them, and the loss of real-world acquaintances and friends.
Contoh yang banyak dibahas termasuk ketergantungan emosional pada pendamping chatbot, keterlibatan kompulsif dengan mereka, dan hilangnya kenalan serta teman di dunia nyata.
A key factor here is that, as in all cases of addiction, the behaviour has negative consequences for the user which may affect both their personal and professional lives.
Faktor kunci di sini adalah bahwa, seperti dalam semua kasus kecanduan, perilaku tersebut memiliki konsekuensi negatif bagi pengguna yang dapat memengaruhi kehidupan pribadi dan profesional mereka.
If we follow the argument that generative AI is a candidate for addictive behaviour, then we also need to look at responsibility. Societies tend to find ways to deal with harm by holding people or groups responsible for fixing it. Those who could be accountable include legislators, regulators, industry and health systems.
Jika kita mengikuti argumen bahwa AI generatif adalah kandidat perilaku adiktif, maka kita juga perlu melihat tanggung jawab. Masyarakat cenderung menemukan cara untuk mengatasi kerugian dengan meminta pertanggungjawaban individu atau kelompok untuk memperbaikinya. Mereka yang dapat dimintai pertanggungjawaban termasuk legislator, regulator, industri, dan sistem kesehatan.
Historical examples
Contoh Historis
Historical precedents such as smoking might offer insights into how the area of generative AI addiction could evolve.
Preseden historis seperti merokok mungkin dapat memberikan wawasan tentang bagaimana area kecanduan AI generatif dapat berkembang.
Older readers may remember when the Marlboro Man would appear before any feature movie in their local cinemas. It eventually transpired that not only was smoking addictive and bad for your health, but that tobacco companies knew this. Nevertheless, it was publicly denied.
Pembaca yang lebih tua mungkin ingat ketika Marlboro Man muncul sebelum film fitur apa pun di bioskop lokal mereka. Akhirnya terungkap bahwa tidak hanya merokok itu adiktif dan buruk bagi kesehatan, tetapi perusahaan tembakau tahu hal ini. Meskipun demikian, hal itu secara publik disangkal.
This led to lengthy and high-profile litigation, eventually resulting in large-scale financial payouts and changes to the industry. These changes included the plain packaging of tobacco products and gruesome warning labels on them.
Hal ini menyebabkan litigasi yang panjang dan mencolok, yang pada akhirnya menghasilkan pembayaran keuangan skala besar dan perubahan pada industri. Perubahan-perubahan ini termasuk pengemasan produk tembakau polos dan label peringatan mengerikan di atasnya.
Gambling could be following a similar trajectory – and now social media companies may be taking their first steps into a similar process.
Perjudian dapat mengikuti lintasan serupa – dan sekarang perusahaan media sosial mungkin mengambil langkah pertama mereka ke dalam proses serupa.
A key question is whether the makers of a product – be it tobacco, gambling or social media – are aware of its addictive properties. Another important factor being considered is whether certain companies may even use the allegedly addictive properties of their products for corporate advantage.
Pertanyaan kuncinya adalah apakah pembuat suatu produk – baik itu tembakau, perjudian, atau media sosial – menyadari sifat adiktifnya. Faktor penting lain yang dipertimbangkan adalah apakah perusahaan tertentu bahkan dapat menggunakan sifat adiktif dari produk mereka untuk keuntungan korporat.
AI is not tobacco, of course, but there may be parallels to be studied.
AI bukanlah tembakau, tentu saja, tetapi mungkin ada paralel yang perlu dipelajari.
In our research, we have identified four groups of stakeholders that are now being called upon to address the challenges linked to the possibility of addiction to generative AI.
Dalam penelitian kami, kami telah mengidentifikasi empat kelompok pemangku kepentingan yang kini diminta untuk mengatasi tantangan terkait kemungkinan kecanduan terhadap AI generatif.
The first is governments and regulators. These have a key role to play in highlighting the problems, setting the rules of engagement, and creating incentives for other parties to engage with the topic.
Yang pertama adalah pemerintah dan regulator. Mereka memiliki peran kunci dalam menyoroti masalah, menetapkan aturan main, dan menciptakan insentif bagi pihak lain untuk terlibat dengan topik ini.
They can do this by requiring labelling, restricting advertising, applying liability law and providing research funding – along with many other mechanisms.
Mereka dapat melakukan ini dengan mewajibkan pelabelan, membatasi iklan, menerapkan hukum tanggung jawab, dan menyediakan pendanaan penelitian – bersama dengan banyak mekanisme lainnya.
But the most important role in addressing potential addictive behaviour associated with generative AI would be held by big tech companies that develop and own these technologies – and stand to benefit financially from them.
Namun peran terpenting dalam mengatasi perilaku adiktif potensial yang terkait dengan AI generatif akan dipegang oleh perusahaan teknologi besar yang mengembangkan dan memiliki teknologi ini – dan berdiri untuk mendapatkan keuntungan finansial darinya.
These companies own and have access to user data, which would be needed to ascertain the features that support or alleviate addiction. They are also the parties that would benefit financially from addiction by increasing user numbers and engagement, the main currency of the digital age.
Perusahaan-perusahaan ini memiliki dan mengakses data pengguna, yang diperlukan untuk memastikan fitur-fitur yang mendukung atau meredakan kecanduan. Mereka juga pihak yang akan mendapat manfaat secara finansial dari kecanduan dengan meningkatkan jumlah pengguna dan keterlibatan, mata uang utama era digital.
In addition to these two groups, academic researchers have an important role in collecting and interpreting data, and providing the evidence needed to recognise addiction and addictive features – in ways that allow for evidence-based political or legal debate.
Selain dua kelompok ini, peneliti akademis memiliki peran penting dalam mengumpulkan dan menafsirkan data, serta memberikan bukti yang diperlukan untuk mengenali kecanduan dan fitur adiktif – dengan cara yang memungkinkan debat politik atau hukum berbasis bukti.
Finally, civil society organisations such as user or patient groups can help by providing support, advocating for members’ interests, and establishing early-warning structures.
Terakhir, organisasi masyarakat sipil seperti kelompok pengguna atau pasien dapat membantu dengan menyediakan dukungan, memperjuangkan kepentingan anggota, dan membangun struktur peringatan dini.
The point is that none of these interested parties can address the problem on their own. They need to collaborate.
Intinya adalah bahwa tidak ada pihak berkepentingan ini yang dapat mengatasi masalah sendirian. Mereka perlu berkolaborasi.
Someone else’s problem
Masalah orang lain
A key problem at the moment is the lack of structured debate about responsibilities – everybody assumes it is someone else’s problem. But there is ample precedent showing how greater engagement from those involved with the issue may be achieved.
Masalah utama saat ini adalah kurangnya debat terstruktur mengenai tanggung jawab – setiap orang berasumsi bahwa itu adalah masalah orang lain. Namun, ada banyak preseden yang menunjukkan bagaimana keterlibatan yang lebih besar dari pihak-pihak yang terlibat dalam isu tersebut dapat dicapai.
With tobacco, the World Health Organization (WHO) formed the Framework Convention on Tobacco Control – a treaty-based mechanism that brought together governments, public health bodies, researchers and civil society to evaluate evidence and draw up common rules. The International AI Safety Report shows comparable international consensus-building activities are already happening in other aspects of AI.
Dalam kasus tembakau, Organisasi Kesehatan Dunia (WHO) membentuk Konvensi Kerangka Kerja Pengendalian Tembakau – mekanisme berbasis perjanjian yang menyatukan pemerintah, badan kesehatan masyarakat, peneliti, dan masyarakat sipil untuk mengevaluasi bukti dan merumuskan aturan bersama. Laporan Keamanan AI Internasional menunjukkan bahwa kegiatan pembangunan konsensus internasional yang sebanding sudah terjadi dalam aspek AI lainnya.
Some responsibility also falls on the users of AI, who should try to avoid or control their own potentially harmful behaviour. But appeals to individual moderation or mindfulness have been shown with other addictions to be insufficient.
Sebagian tanggung jawab juga terletak pada pengguna AI, yang harus berusaha menghindari atau mengendalikan perilaku mereka sendiri yang berpotensi berbahaya. Namun, upaya untuk moderasi atau kesadaran individu telah terbukti tidak cukup dalam kasus kecanduan lainnya.
While the harms associated with smoking or alcohol misuse are well known, society still relies on age limits, packaging rules and advertising restrictions. Generative AI is being integrated into the everyday fabric of our society. The choices we now make will determine what acceptable use looks like for years to come.
Meskipun bahaya yang terkait dengan merokok atau penyalahgunaan alkohol sudah diketahui, masyarakat masih mengandalkan batas usia, aturan pengemasan, dan pembatasan iklan. AI generatif sedang diintegrasikan ke dalam jaringan kehidupan sehari-hari kita. Pilihan yang kita buat sekarang akan menentukan seperti apa penggunaan yang dapat diterima selama bertahun-tahun mendatang.
Bernd Stahl does not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.
Bernd Stahl tidak bekerja untuk, berkonsultasi dengan, memiliki saham di, atau menerima pendanaan dari perusahaan atau organisasi mana pun yang akan mendapat manfaat dari artikel ini, dan belum mengungkapkan afiliasi relevan selain jabatan akademiknya.
Read more
-
Penduduk asli Australia adalah astronom pertama di dunia. Namun, pengetahuan mereka kini terancam
Indigenous Australians were the world’s first astronomers. But their knowledge is now at risk
-
Saya telah menyelidiki wabah hantavirus. Inilah yang bisa saya beritahu Anda tentang klaster kapal pesiar
I’ve investigated a hantavirus outbreak. Here’s what I can tell you about the cruise ship cluster