Nếu AI gây nghiện, thì trách nhiệm thuộc về bên nào – các tập đoàn công nghệ lớn hay người sử dụng?
If AI is addictive, where does the responsibility lie – with big tech or its users?
Generative AI systems show signs of being addictive, but the evidence is still at an early stage.
Các hệ thống AI tạo sinh cho thấy dấu hiệu gây nghiện, nhưng bằng chứng hiện tại vẫn còn ở giai đoạn ban đầu.
When I talk to my son, an engineering student, and we have a question or disagreement, he immediately turns to ChatGPT as his primary source of information and confirmation.
Khi tôi nói chuyện với con trai mình, một sinh viên kỹ thuật, và chúng tôi có một câu hỏi hoặc bất đồng ý kiến, nó ngay lập tức tìm đến ChatGPT như nguồn thông tin và xác nhận chính của mình.
He is not alone in this. The use of generative AI tools has exploded across different demographic groups. For many people, these tools can be entertaining, informative and beneficial. However, they also have a dark side.
Nó không phải là trường hợp duy nhất. Việc sử dụng các công cụ AI tạo sinh đã bùng nổ trên nhiều nhóm nhân khẩu học khác nhau. Đối với nhiều người, những công cụ này có thể mang tính giải trí, cung cấp thông tin và hữu ích. Tuy nhiên, chúng cũng có một mặt tối.
Generative AI is not formally recognised as addictive right now – the medical evidence is still being gathered. But there is a significant amount of data showing heavy use of chatbots and other systems that produce text, images and video leads to neural patterns and behaviour that are associated with addiction.
AI tạo sinh hiện chưa được công nhận chính thức là gây nghiện – bằng chứng y tế vẫn đang được thu thập. Nhưng có rất nhiều dữ liệu cho thấy việc sử dụng nặng các chatbot và các hệ thống khác tạo ra văn bản, hình ảnh và video dẫn đến các mô hình thần kinh và hành vi liên quan đến sự nghiện ngập.
In light of Meta’s and YouTube’s recent legal defeat in a landmark social media addiction trial, I believe it’s time to ask whether a similar logic applies to generative AI – and how it could be addressed. The starting point would be to identify who carries responsibility for overuse of generative AI.
Trước thất bại pháp lý gần đây của Meta và YouTube trong một vụ kiện lịch sử về chứng nghiện mạng xã hội, tôi tin rằng đã đến lúc phải đặt câu hỏi liệu logic tương tự có áp dụng cho AI tạo sinh hay không – và làm thế nào để giải quyết vấn đề này. Điểm khởi đầu sẽ là xác định ai chịu trách nhiệm đối với việc lạm dụng AI tạo sinh.
The science on this is not settled, and there are some who counsel caution when using the term addiction. They propose the use of other expressions such as “problematic use”. However, in a recent paper, our team of researchers suggest there is strong evidence to suggest that generative AI has addictive properties.
Khoa học về vấn đề này chưa được thống nhất, và một số người khuyên nên thận trọng khi sử dụng thuật ngữ “nghiện.” Họ đề xuất các cách diễn đạt khác như “sử dụng có vấn đề”. Tuy nhiên, trong một bài báo gần đây, nhóm nghiên cứu của chúng tôi cho rằng có bằng chứng mạnh mẽ cho thấy AI tạo sinh có những đặc tính gây nghiện.
Much-discussed examples include emotional dependency on chatbot companions, compulsive engagement with them, and the loss of real-world acquaintances and friends.
Các ví dụ được thảo luận nhiều bao gồm sự phụ thuộc cảm xúc vào các bạn đồng hành chatbot, việc tương tác cưỡng bức với chúng, và sự mất mát các mối quan hệ quen biết và bạn bè ngoài đời thực.
A key factor here is that, as in all cases of addiction, the behaviour has negative consequences for the user which may affect both their personal and professional lives.
Một yếu tố then chốt ở đây là, giống như trong tất cả các trường hợp nghiện ngập, hành vi này gây ra những hậu quả tiêu cực cho người dùng, có thể ảnh hưởng đến cả cuộc sống cá nhân và nghề nghiệp của họ.
If we follow the argument that generative AI is a candidate for addictive behaviour, then we also need to look at responsibility. Societies tend to find ways to deal with harm by holding people or groups responsible for fixing it. Those who could be accountable include legislators, regulators, industry and health systems.
Nếu chúng ta theo lập luận rằng AI tạo sinh là một ứng cử viên cho hành vi gây nghiện, thì chúng ta cũng cần xem xét trách nhiệm. Các xã hội có xu hướng tìm cách giải quyết tổn hại bằng cách quy trách nhiệm cho các cá nhân hoặc nhóm người để khắc phục nó. Những bên có thể chịu trách nhiệm bao gồm nhà lập pháp, cơ quan quản lý, ngành công nghiệp và hệ thống y tế.
Historical examples
Các ví dụ lịch sử
Historical precedents such as smoking might offer insights into how the area of generative AI addiction could evolve.
Những tiền lệ lịch sử như hút thuốc có thể cung cấp cái nhìn sâu sắc về cách lĩnh vực nghiện AI tạo sinh có thể phát triển.
Older readers may remember when the Marlboro Man would appear before any feature movie in their local cinemas. It eventually transpired that not only was smoking addictive and bad for your health, but that tobacco companies knew this. Nevertheless, it was publicly denied.
Những độc giả lớn tuổi có thể nhớ khi nhân vật Marlboro Man xuất hiện trước bất kỳ bộ phim điện ảnh nào tại các rạp chiếu phim địa phương của họ. Cuối cùng đã được tiết lộ rằng không chỉ việc hút thuốc gây nghiện và có hại cho sức khỏe, mà các công ty thuốc lá còn biết điều này. Tuy nhiên, điều đó đã bị phủ nhận công khai.
This led to lengthy and high-profile litigation, eventually resulting in large-scale financial payouts and changes to the industry. These changes included the plain packaging of tobacco products and gruesome warning labels on them.
Điều này dẫn đến các vụ kiện tụng kéo dài và nổi tiếng, cuối cùng dẫn đến việc chi trả tài chính quy mô lớn và thay đổi ngành công nghiệp. Những thay đổi này bao gồm việc đóng gói sản phẩm thuốc lá đơn giản và các nhãn cảnh báo ghê rợn trên chúng.
Gambling could be following a similar trajectory – and now social media companies may be taking their first steps into a similar process.
Cờ bạc có thể đang đi theo một quỹ đạo tương tự – và giờ đây các công ty mạng xã hội có thể đang thực hiện những bước đầu tiên vào một quy trình tương tự.
A key question is whether the makers of a product – be it tobacco, gambling or social media – are aware of its addictive properties. Another important factor being considered is whether certain companies may even use the allegedly addictive properties of their products for corporate advantage.
Một câu hỏi then chốt là liệu nhà sản xuất một sản phẩm – dù đó là thuốc lá, cờ bạc hay mạng xã hội – có nhận thức được các đặc tính gây nghiện của nó hay không. Một yếu tố quan trọng khác đang được xem xét là liệu một số công ty có thể sử dụng các đặc tính bị cáo buộc gây nghiện của sản phẩm của họ để đạt lợi thế doanh nghiệp hay không.
AI is not tobacco, of course, but there may be parallels to be studied.
Tất nhiên, AI không phải là thuốc lá, nhưng có thể có những điểm tương đồng cần được nghiên cứu.
In our research, we have identified four groups of stakeholders that are now being called upon to address the challenges linked to the possibility of addiction to generative AI.
Trong nghiên cứu của chúng tôi, chúng tôi đã xác định bốn nhóm các bên liên quan hiện đang được kêu gọi giải quyết những thách thức liên quan đến khả năng nghiện AI tạo sinh.
The first is governments and regulators. These have a key role to play in highlighting the problems, setting the rules of engagement, and creating incentives for other parties to engage with the topic.
Nhóm đầu tiên là các chính phủ và cơ quan quản lý. Họ đóng vai trò then chốt trong việc nêu bật các vấn đề, thiết lập các quy tắc tham gia và tạo động lực cho các bên khác tham gia vào chủ đề này.
They can do this by requiring labelling, restricting advertising, applying liability law and providing research funding – along with many other mechanisms.
Họ có thể làm điều này bằng cách yêu cầu dán nhãn, hạn chế quảng cáo, áp dụng luật trách nhiệm và cung cấp quỹ nghiên cứu – cùng với nhiều cơ chế khác.
But the most important role in addressing potential addictive behaviour associated with generative AI would be held by big tech companies that develop and own these technologies – and stand to benefit financially from them.
Nhưng vai trò quan trọng nhất trong việc giải quyết hành vi nghiện tiềm năng liên quan đến AI tạo sinh sẽ thuộc về các công ty công nghệ lớn phát triển và sở hữu những công nghệ này – và có khả năng hưởng lợi tài chính từ chúng.
These companies own and have access to user data, which would be needed to ascertain the features that support or alleviate addiction. They are also the parties that would benefit financially from addiction by increasing user numbers and engagement, the main currency of the digital age.
Các công ty này sở hữu và có quyền truy cập vào dữ liệu người dùng, vốn là thứ cần thiết để xác định các tính năng hỗ trợ hoặc giảm bớt sự nghiện ngập. Họ cũng là những bên hưởng lợi tài chính từ việc gây nghiện bằng cách tăng số lượng người dùng và mức độ tương tác, loại tiền tệ chính của kỷ nguyên số.
In addition to these two groups, academic researchers have an important role in collecting and interpreting data, and providing the evidence needed to recognise addiction and addictive features – in ways that allow for evidence-based political or legal debate.
Ngoài hai nhóm này, các nhà nghiên cứu học thuật có vai trò quan trọng trong việc thu thập và diễn giải dữ liệu, cũng như cung cấp bằng chứng cần thiết để nhận biết sự nghiện ngập và các đặc tính gây nghiện – theo cách cho phép tranh luận chính trị hoặc pháp lý dựa trên bằng chứng.
Finally, civil society organisations such as user or patient groups can help by providing support, advocating for members’ interests, and establishing early-warning structures.
Cuối cùng, các tổ chức xã hội dân sự như nhóm người dùng hoặc bệnh nhân có thể giúp bằng cách cung cấp hỗ trợ, vận động lợi ích của thành viên và thiết lập các cấu trúc cảnh báo sớm.
The point is that none of these interested parties can address the problem on their own. They need to collaborate.
Vấn đề là không bên quan tâm nào trong số này có thể tự mình giải quyết vấn đề. Họ cần phải hợp tác.
Someone else’s problem
Vấn đề của người khác
A key problem at the moment is the lack of structured debate about responsibilities – everybody assumes it is someone else’s problem. But there is ample precedent showing how greater engagement from those involved with the issue may be achieved.
Vấn đề cốt lõi hiện nay là sự thiếu vắng các cuộc tranh luận có cấu trúc về trách nhiệm – mọi người đều cho rằng đó là vấn đề của người khác. Nhưng đã có nhiều tiền lệ chứng minh cách thức để đạt được sự tham gia lớn hơn từ những bên liên quan đến vấn đề này.
With tobacco, the World Health Organization (WHO) formed the Framework Convention on Tobacco Control – a treaty-based mechanism that brought together governments, public health bodies, researchers and civil society to evaluate evidence and draw up common rules. The International AI Safety Report shows comparable international consensus-building activities are already happening in other aspects of AI.
Đối với thuốc lá, Tổ chức Y tế Thế giới (WHO) đã thành lập Công ước Khung về Kiểm soát Thuốc lá – một cơ chế dựa trên hiệp ước quy tụ các chính phủ, cơ quan y tế công cộng, nhà nghiên cứu và xã hội dân sự để đánh giá bằng chứng và xây dựng các quy tắc chung. Báo cáo An toàn AI Quốc tế cho thấy các hoạt động xây dựng đồng thuận quốc tế tương tự đã đang diễn ra trong các khía cạnh khác của AI.
Some responsibility also falls on the users of AI, who should try to avoid or control their own potentially harmful behaviour. But appeals to individual moderation or mindfulness have been shown with other addictions to be insufficient.
Một phần trách nhiệm cũng thuộc về người dùng AI, những người nên cố gắng tránh hoặc kiểm soát hành vi có khả năng gây hại của chính mình. Nhưng các lời kêu gọi tự điều độ hay chánh niệm ở cá nhân đã được chứng minh là không đủ đối với các cơn nghiện khác.
While the harms associated with smoking or alcohol misuse are well known, society still relies on age limits, packaging rules and advertising restrictions. Generative AI is being integrated into the everyday fabric of our society. The choices we now make will determine what acceptable use looks like for years to come.
Mặc dù những tác hại liên quan đến việc hút thuốc hoặc lạm dụng rượu bia đã được biết rõ, xã hội vẫn dựa vào giới hạn độ tuổi, quy tắc bao bì và các hạn chế quảng cáo. AI tạo sinh đang được tích hợp vào cấu trúc đời sống hàng ngày của chúng ta. Những lựa chọn mà chúng ta đưa ra ngay lúc này sẽ quyết định hình thức sử dụng chấp nhận được trong những năm tới.
Bernd Stahl does not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.
Bernd Stahl không làm việc cho, tư vấn, sở hữu cổ phần hoặc nhận tài trợ từ bất kỳ công ty hay tổ chức nào được hưởng lợi từ bài viết này, và đã không tiết lộ mối liên hệ nào ngoài vị trí học thuật của mình.
Read more
-
Kỷ nguyên hậu kháng sinh có thể mang lại điều gì cho y học hiện đại
What a ‘post-antibiotic era’ could mean for modern medicine
-
Giá vé tăng vọt có thể giúp FIFA thu về 15 tỷ USD trong chu kỳ World Cup này — số tiền này đến từ đâu, và sẽ được sử dụng vào việc gì?
Soaring ticket prices could help FIFA pull in $15B this World Cup cycle — where does the money come from, where does it go?