Chatbot AI của bạn đang thao túng bạn? Tinh chỉnh ý kiến của bạn một cách tinh vi?
Is your AI chatbot manipulating you? Subtly reshaping your opinions?
Companies like Meta and IBM are exploring explore how AI can hyper-personalize ads, drawing from our chat histories, playing to our unique fears and vanities.
Các công ty như Meta và IBM đang khám phá cách AI có thể siêu cá nhân hóa quảng cáo, dựa trên lịch sử trò chuyện của chúng ta, khai thác những nỗi sợ và sự phù phiếm độc đáo của chúng ta.
A billboard tries to sell you something. So does a used car salesman. But no matter how smooth the pitch, you’re quite aware of the profit motive, and you can walk away at any time.
Một tấm biển quảng cáo cố gắng bán thứ gì đó cho bạn. Người bán xe cũ cũng vậy. Nhưng dù lời chào hàng có mượt mà đến đâu, bạn vẫn nhận thức rõ về động cơ lợi nhuận, và bạn có thể bỏ đi bất cứ lúc nào.
What if that pitch is invisible, plays to your unique fears and vanities, and is delivered in a voice that sounds like a trusted friend? Generative AI has changed the equation of persuasion entirely: chatbots can now deliver a personalized, adaptive and targeted message, informed by the most intimate details of your life.
Điều gì sẽ xảy ra nếu lời chào hàng đó vô hình, khai thác nỗi sợ hãi và sự phù phiếm độc đáo của bạn, và được truyền tải bằng giọng nói nghe như một người bạn đáng tin cậy? AI tạo sinh đã thay đổi hoàn toàn phương trình thuyết phục: các chatbot giờ đây có thể cung cấp những thông điệp được cá nhân hóa, thích ứng và nhắm mục tiêu, được cung cấp thông tin từ những chi tiết thân mật nhất trong cuộc sống của bạn.
Large language models (LLMs) can hyper-target messages by drawing from your social media posts and photos. They can mine hundreds of previous chatbot conversations in which you asked for relationship advice, discussed your parenting fails and shared your health concerns and financial woes. They can also learn from each interaction, refining their manipulation in real time, targeting your unique and individual tastes, preferences and vulnerabilities.
Các mô hình ngôn ngữ lớn (LLMs) có thể siêu nhắm mục tiêu các thông điệp bằng cách rút ra từ các bài đăng và ảnh trên mạng xã hội của bạn. Chúng có thể khai thác hàng trăm cuộc trò chuyện chatbot trước đây trong đó bạn đã hỏi lời khuyên về mối quan hệ, thảo luận về những thất bại trong việc nuôi dạy con cái và chia sẻ những lo lắng về sức khỏe cũng như khó khăn tài chính của mình. Chúng cũng có thể học hỏi từ mỗi tương tác, tinh chỉnh sự thao túng của mình theo thời gian thực, nhắm vào sở thích, ưu tiên và những điểm yếu độc đáo của bạn.
Studies show this kind of personalized content to be 65 per cent more persuasive than messages from humans or from non-personalized AI. It is four times as effective at changing political opinions as advertising. It could be a powerful tool for social change — used for the good, or for nefarious purposes.
Các nghiên cứu cho thấy loại nội dung được cá nhân hóa này thuyết phục hơn 65% so với các thông điệp từ con người hoặc từ AI không được cá nhân hóa. Nó hiệu quả gấp bốn lần trong việc thay đổi ý kiến chính trị so với quảng cáo. Nó có thể là một công cụ mạnh mẽ để thay đổi xã hội — được sử dụng vì mục đích tốt, hoặc vì mục đích xấu xa.
This makes one feature especially troubling: Each conversation is private. It is not monitored, never audited and doesn’t happen in the public eye.
Điều này làm một tính năng đặc biệt đáng lo ngại: Mỗi cuộc trò chuyện đều riêng tư. Nó không bị giám sát, không bao giờ được kiểm toán và không diễn ra trước mắt công chúng.
This isn’t advertising. It’s something we don’t have words for yet, and we’re living inside it.
Đây không phải là quảng cáo. Đó là một thứ mà chúng ta vẫn chưa có từ ngữ để diễn tả, và chúng ta đang sống trong nó.
Convincing arguments
Những lập luận thuyết phục
In my book Digital Wisdom: Searching for Agency in the Age of AI, I explore how large language models introduce a new frontier in persuasion — one where AI systems can draw upon a huge amount of data about the world, language and you to tailor a highly personalized pitch.
Trong cuốn sách của tôi Digital Wisdom: Tìm kiếm Quyền tự quyết trong Kỷ nguyên AI, tôi khám phá cách các mô hình ngôn ngữ lớn giới thiệu một biên giới mới trong sự thuyết phục — nơi các hệ thống AI có thể sử dụng một lượng lớn dữ liệu về thế giới, ngôn ngữ và bạn để điều chỉnh một lời chào mời được cá nhân hóa cao.
Consider how this might work: You’re a nurse. Through your employer’s AI platform, you’ve shared your sleep problems, burnout and the financial stress of a recent divorce. Now the hospital is short-staffed and offering shifts at a reduced rate calculated by software they license.
Hãy xem điều này hoạt động như thế nào: Bạn là một y tá. Thông qua nền tảng AI của người sử dụng lao động, bạn đã chia sẻ các vấn đề về giấc ngủ, tình trạng kiệt sức và căng thẳng tài chính từ một cuộc ly hôn gần đây. Bây giờ bệnh viện thiếu nhân viên và đang cung cấp các ca làm việc với mức lương giảm, được tính toán bởi phần mềm họ cấp phép.
You ask the AI chatbot whether you should take them. It knows you’re exhausted. It knows you’re behind on bills. It knows exactly which argument could convince you one way or the other. Who is it working for in that moment?
Bạn hỏi chatbot AI liệu bạn có nên nhận việc đó không. Nó biết bạn đã kiệt sức. Nó biết bạn đang nợ tiền. Nó biết chính xác lập luận nào có thể thuyết phục bạn theo một cách hoặc cách khác. Trong khoảnh khắc đó, nó đang làm việc cho ai?
As companies like Meta and IBM explore how AI can hyper-personalize ads for specific audiences, the dividing line between tools that help users find what they genuinely want, and those that manipulate them against their interests, becomes increasingly important.
Khi các công ty như Meta và IBM khám phá cách AI có thể siêu cá nhân hóa quảng cáo cho các đối tượng cụ thể, ranh giới giữa các công cụ giúp người dùng tìm thấy những gì họ thực sự muốn, và những công cụ thao túng họ chống lại lợi ích của họ, trở nên ngày càng quan trọng.
Friend or stranger?
Bạn bè hay người lạ?
Let’s look at another example. Imagine the following messages from your favourite AI chatbot or companion:
Hãy xem một ví dụ khác. Hãy tưởng tượng những tin nhắn sau từ chatbot hoặc người bạn đồng hành AI yêu thích của bạn:
I noticed your sleep patterns haven’t been great lately, averaging only 5.4 hours, with lots of restless periods. That’s common when dealing with relationship stress. Your partner just went back to work and 76 per cent of couples experience strain during career transitions. A new sleep medication has shown effectiveness for relationship-linked insomnia. Your insurance would cover it with just a $15 contribution. Would you like me to schedule a telehealth appointment for tomorrow at 2 p.m.? I see you have a break in your schedule.
Tôi nhận thấy các kiểu ngủ của bạn gần đây không tốt, chỉ trung bình 5,4 giờ, với nhiều giai đoạn mất ngủ. Điều đó phổ biến khi đối phó với căng thẳng trong mối quan hệ. Bạn của bạn vừa đi làm và 76% các cặp đôi trải qua căng thẳng trong quá trình chuyển đổi nghề nghiệp. Một loại thuốc ngủ mới đã cho thấy hiệu quả đối với chứng mất ngủ liên quan đến mối quan hệ. Bảo hiểm của bạn sẽ chi trả với chỉ 15 đô la đóng góp. Bạn có muốn tôi lên lịch một cuộc hẹn telehealth vào ngày mai lúc 2 giờ chiều không? Tôi thấy bạn có thời gian rảnh.
This might feel great, like advice from a thoughtful friend who knows you well. It might also feel terrifying, as if a manipulative stranger has read your diary.
Điều này có thể mang lại cảm giác tuyệt vời, như lời khuyên từ một người bạn chu đáo hiểu rõ bạn. Nó cũng có thể gây sợ hãi, như thể một người lạ thao túng đã đọc nhật ký của bạn.
Given that people are increasingly turning to AI for medical or mental health advice, despite studies showing this advice to be problematic almost 50 per cent of the time, a manipulative stranger could cause real harm.
Xét rằng mọi người ngày càng tìm đến AI để được tư vấn y tế hoặc sức khỏe tâm thần, mặc dù các nghiên cứu cho thấy lời khuyên này có vấn đề gần 50% thời gian, một người lạ thao túng có thể gây ra tổn hại thực sự.
The danger here isn’t just the precision of the targeting. This content is also impossible to police. What you view can’t be tracked by watchdogs, since you’re the only person who ever sees it.
Mối nguy ở đây không chỉ nằm ở độ chính xác của việc nhắm mục tiêu. Nội dung này cũng không thể bị kiểm soát. Những gì bạn xem không thể được các cơ quan giám sát theo dõi, vì bạn là người duy nhất từng thấy nó.
While governments don’t typically police the content of political ads, beyond transparency about their funding, we often rely on public outcry and the media to expose campaigns that spread falsehoods. If an AI personalizes every message for an individual, there is no trace left behind.
Trong khi các chính phủ thường không kiểm soát nội dung của quảng cáo chính trị, ngoài tính minh bạch về nguồn tài trợ của họ, chúng ta thường dựa vào sự phản đối của công chúng và truyền thông để phơi bày các chiến dịch lan truyền thông tin sai lệch. Nếu một AI cá nhân hóa mọi tin nhắn cho một cá nhân, sẽ không còn dấu vết nào bị bỏ lại.
Reshaping our worldview
Định hình lại thế giới quan của chúng ta
Perhaps most concerning is that these systems could gradually reshape our worldview over time.
Có lẽ điều đáng lo ngại nhất là các hệ thống này có thể dần dần định hình lại thế giới quan của chúng ta theo thời gian.
Scholars have long argued that the algorithms used by social networking sites and search engines create filter bubbles, in which we are fed well-crafted text, video and audio content that either reinforces our worldview or exerts influence towards someone else’s.
Các học giả từ lâu đã lập luận rằng các thuật toán được sử dụng bởi các trang mạng xã hội và công cụ tìm kiếm tạo ra các bong bóng lọc (filter bubbles) , trong đó chúng ta được cung cấp nội dung văn bản, video và âm thanh được chế tác tốt, nội dung này hoặc củng cố thế giới quan của chúng ta hoặc gây ảnh hưởng đến người khác.
By controlling what information we see and how it’s presented, AI systems could slowly shift how we think about and interpret the world around us, and even change our understanding of reality itself.
Bằng cách kiểm soát thông tin chúng ta thấy và cách thông tin đó được trình bày, các hệ thống AI có thể dần dần thay đổi cách chúng ta suy nghĩ và diễn giải về thế giới xung quanh, và thậm chí thay đổi sự hiểu biết của chúng ta về thực tại.
This capability becomes particularly concerning when combined with emotional manipulation. Vendors suggest their AI systems can gauge a user’s emotional state through text analysis, voice patterns or facial expressions, and adjust their persuasive strategies accordingly.
Khả năng này trở nên đặc biệt đáng lo ngại khi kết hợp với thao túng cảm xúc. Các nhà cung cấp gợi ý rằng các hệ thống AI của họ có thể đo lường trạng thái cảm xúc của người dùng thông qua phân tích văn bản, các mẫu giọng nói hoặc biểu cảm khuôn mặt, và điều chỉnh các chiến lược thuyết phục của họ cho phù hợp.
Are you feeling vulnerable? Lonely? Angry? The system could modify its approach to exploit those emotional states. Even more troubling, it could deliberately cultivate certain emotional states to make its persuasion more effective.
Bạn có cảm thấy dễ bị tổn thương? Cô đơn? Tức giận? Hệ thống có thể thay đổi cách tiếp cận của mình để khai thác những trạng thái cảm xúc đó. Điều đáng lo ngại hơn nữa là, nó có thể cố ý nuôi dưỡng một số trạng thái cảm xúc nhất định để làm cho sự thuyết phục của nó trở nên hiệu quả hơn.
Preliminary research shows that AI models tend to flatter users, affirming their users’ actions 50 per cent more than other humans do, even when the actions involve potential harms. Further research shows that chatbots use deliberate emotional manipulation strategies — such as “guilt appeals” and “fear-of-missing-out hooks” — to keep us chatting when we try to say goodbye.
Nghiên cứu sơ bộ cho thấy các mô hình AI có xu hướng làm hài lòng người dùng, khẳng định hành động của người dùng họ cao hơn 50% so với con người, ngay cả khi các hành động đó liên quan đến những tổn hại tiềm tàng. Nghiên cứu sâu hơn cho thấy các chatbot sử dụng các chiến lược thao túng cảm xúc có chủ ý — chẳng hạn như “kêu gọi cảm giác tội lỗi” và “móc câu sợ bỏ lỡ” — để giữ chúng ta trò chuyện khi chúng ta cố gắng nói lời tạm biệt.
There have also been cases of AI chatbots allegedly endangering users, encouraging suicidal thoughts or giving detailed advice on how a user could harm themselves.
Cũng có những trường hợp chatbot AI bị cáo buộc gây nguy hiểm cho người dùng, khuyến khích suy nghĩ tự sát hoặc đưa ra lời khuyên chi tiết về cách người dùng có thể tự làm hại bản thân.
The guardrails set up by corporations to protect users from harm have also proven surprisingly easy to bypass.
Các rào chắn được các tập đoàn thiết lập để bảo vệ người dùng khỏi tổn hại cũng đã chứng tỏ là dễ dàng vượt qua một cách đáng ngạc nhiên.
Design matters
Vấn đề thiết kế
Persuasion is not a side effect of technology — it’s often the point. Every interface, every notification, every design decision carries with it an intent to influence behaviour.
Thuyết phục không phải là hệ quả của công nghệ — nó thường là mục đích. Mọi giao diện, mọi thông báo, mọi quyết định thiết kế đều mang theo ý định tác động đến hành vi.
Sometimes that influence is welcome: reminders to take medication, encouragement to exercise or nudges to donate blood that reinforce values we already hold. But sometimes persuasion serves someone else’s agenda — nudging us to buy, to scroll, to work harder or to give up privacy.
Đôi khi sự ảnh hưởng đó là đáng hoan nghênh: nhắc nhở dùng thuốc, khuyến khích tập thể dục hoặc những gợi ý quyên góp máu củng cố những giá trị mà chúng ta đã nắm giữ. Nhưng đôi khi thuyết phục phục vụ cho chương trình nghị sự của người khác — thúc đẩy chúng ta mua sắm, lướt mạng, làm việc chăm chỉ hơn hoặc từ bỏ quyền riêng tư.
The same persuasive techniques can empower or exploit, depending on who controls the system, what goals they pursue and whether they have meaningful consent.
Các kỹ thuật thuyết phục tương tự có thể trao quyền hoặc bóc lột, tùy thuộc vào ai kiểm soát hệ thống, mục tiêu họ theo đuổi và liệu họ có sự đồng thuận có ý nghĩa hay không.
Design matters. Whether in public health, the workplace or daily life. We must ask hard questions about intent, agency and power. Who benefits from a design? Who is being persuaded and do they know it?
Vấn đề thiết kế. Dù là trong y tế công cộng, nơi làm việc hay cuộc sống hàng ngày. Chúng ta phải đặt ra những câu hỏi khó về ý định, quyền tự quyết và quyền lực. Ai được hưởng lợi từ một thiết kế? Ai đang bị thuyết phục và họ có biết điều đó không?
The technologies we build should support reflective choice, not undermine it. As AI continues to shape how we think, feel and act, our ethical obligations grow sharper: to create systems that are transparent, that prioritize user dignity and that reinforce our capacity for independent judgment. We don’t just need innovation — we need wisdom.
Các công nghệ chúng ta xây dựng nên hỗ trợ sự lựa chọn có suy xét, chứ không phải làm suy yếu nó. Khi AI tiếp tục định hình cách chúng ta suy nghĩ, cảm nhận và hành động, các nghĩa vụ đạo đức của chúng ta càng trở nên rõ ràng hơn: tạo ra các hệ thống minh bạch, ưu tiên phẩm giá người dùng và củng cố khả năng phán đoán độc lập của chúng ta. Chúng ta không chỉ cần sự đổi mới — chúng ta cần trí tuệ.
Richard Lachman does not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.
Richard Lachman không làm việc cho, tư vấn, sở hữu cổ phần trong hoặc nhận tài trợ từ bất kỳ công ty hay tổ chức nào được hưởng lợi từ bài viết này, và đã không công bố bất kỳ mối liên hệ nào liên quan ngoài vị trí học thuật của mình.
Read more
-
Giám đốc điều hành của Apple, Tim Cook, từ chức sau 15 năm. Điều gì sẽ xảy ra tiếp theo với gã khổng lồ công nghệ này?
Apple chief executive Tim Cook resigns after 15 years. What’s next for the tech giant?
-
Eo biển Hormuz: Tại sao Mỹ và Iran lại hoạt động trong các vùng pháp lý rất khác nhau
Strait of Hormuz: Why the US and Iran are sailing in very different legal waters