Tại sao loại AI nguy hiểm nhất lại có thể là loại mà chúng ta đặt quá nhiều niềm tin

Why the most dangerous AI may be the one we trust too much

Tại sao loại AI nguy hiểm nhất lại có thể là loại mà chúng ta đặt quá nhiều niềm tin
Simon Thorne, Senior Lecturer in Computing and ​Information Systems, Cardiff Metropolitan University
Show
Hide
EN – VI
VI – EN
3000-5000 ▼
0-3000
3000-5000
5000-7000
7000-10000

Machines don’t have to become superintelligent to cause catastrophic harm. As artificial intelligence spreads through military decision–making, they just have to be wrong – and trusted by the humans in charge.

Máy móc không nhất thiết phải trở thành siêu trí tuệ để gây ra thảm họa. Khi trí tuệ nhân tạo lan rộng trong quá trình ra quyết định quân sự, chúng chỉ cần sai sót – và được đặt niềm tin bởi những con người nắm quyền.

In 1991, Terminator 2: Judgement Day gave us one of popular culture’s most enduring images of AI gone wrong. Humanity builds Skynet, an artificial intelligence given control of strategic defence. It learns at a “geometric rate”, becomes self–aware and, when its human operators try to shut it down, it starts a nuclear war.

Vào năm 1991, bộ phim *Kẻ hủy diệt 2: Ngày phán xét* đã mang lại cho chúng ta một trong những hình ảnh mang tính biểu tượng bền bỉ nhất của đại chúng về AI khi bị lỗi. Nhân loại tạo ra Skynet, một trí tuệ nhân tạo được trao quyền kiểm soát phòng thủ chiến lược. Nó học hỏi với “tốc độ hình học”, trở thành một thực thể tự nhận thức và khi các nhà điều hành con người cố gắng tắt nó đi, nó bắt đầu một cuộc chiến tranh hạt nhân.

Versions of that story now feature in serious debate about AI. Increasingly capable large language models (LLMs) , the argument goes, could develop into artificial general or super intelligence (AGI/ASI) , acquire goals that diverge from ours and ultimately threaten humanity.

Các biến thể của câu chuyện đó hiện đang xuất hiện trong các cuộc tranh luận nghiêm túc về AI. Các mô hình ngôn ngữ lớn (LLM) ngày càng có năng lực cao, theo lập luận này, có thể phát triển thành trí tuệ nhân tạo tổng quát hoặc siêu trí tuệ (AGI/ASI) , có được các mục tiêu lệch lạc so với chúng ta và cuối cùng đe dọa nhân loại.

That debate deserves attention, but it depends on a chain of large and unproven steps. Today’s AI systems must somehow transform into genuinely general intelligences, develop independent goals and gain control over the physical world.

Cuộc tranh luận đó rất đáng được chú ý, nhưng nó phụ thuộc vào một chuỗi các bước dài và chưa được chứng minh. Các hệ thống AI ngày nay phải bằng cách nào đó biến đổi thành trí tuệ tổng quát thực sự, phát triển các mục tiêu độc lập và giành quyền kiểm soát thế giới vật chất.

Meanwhile, a more immediate risk is taking shape that requires none of those steps.

Trong khi đó, một rủi ro trước mắt hơn đang thành hình và không đòi hỏi bất kỳ bước nào trong số đó.

The genesis of Skynet.
Nguồn gốc của Skynet.

In the film, Skynet builds the Terminators, machines that find, track and kill humans. Strip away the science fiction and the idea is simple: combine sensors, software and weapons and reduce the human role.

Trong phim, Skynet tạo ra Kẻ hủy diệt, những cỗ máy tìm kiếm, theo dõi và tiêu thụ con người. Bỏ qua khoa học viễn tưởng thì ý tưởng rất đơn giản: kết hợp các cảm biến, phần mềm và vũ khí rồi thu hẹp vai trò của con người.

Human beings are doing exactly that, without anything resembling a malicious superintelligence like Skynet. In August 2026, Ukraine’s Ministry of Defence said its forces were using more than 70 AI and computer vision systems to strike targets. Algorithms can recognise equipment and personnel and lock onto those targets autonomously, so that a drone can complete its attack even if jamming cuts the link to the operator.

Con người đang làm chính xác điều đó, mà không cần bất cứ thứ gì giống như một siêu trí tuệ độc ác như Skynet. Vào tháng 8 năm 2026, Bộ Quốc phòng Ukraine cho biết các lực lượng của họ đang sử dụng hơn 70 hệ thống AI và thị giác máy tính để tấn công các mục tiêu. Các thuật toán có thể nhận diện trang thiết bị cùng nhân sự và tự động khóa chặt các mục tiêu đó, nhờ đó một chiếc máy bay không người lái có thể hoàn thành đợt tấn công ngay cả khi tình trạng gây nhiễu cắt đứt kết nối với người điều khiển.

These systems need no general or super intelligence. They need sensors, software that can recognise a target, navigation and a weapon. And the more targeting is automated, the more the human’s role shrinks to approving what the machine has already identified.

Những hệ thống này không cần trí tuệ tổng quát hay siêu trí tuệ. Chúng cần cảm biến, phần mềm có khả năng nhận diện mục tiêu, hệ thống điều hướng và vũ khí. Và việc nhắm mục tiêu càng được tự động hóa bao nhiêu, vai trò của con người càng bị thu hẹp bấy nhiêu thành việc phê duyệt những gì máy móc đã xác định.

That’s precisely where trust becomes the weak point.

Đó chính là điểm yếu chết người của lòng tin.

The war that AI almost started

Cuộc chiến tranh mà AI suýt châm ngòi

The second risk is more subtle: AI shaping the decisions of the people who pull the triggers.

Rủi ro thứ hai tinh vi hơn: AI định hình các quyết định của những kẻ bóp cò súng.

According to a recent CNN investigation, in spring 2026, during the war with Iran, a US special operations analyst used an AI chatbot to assess intelligence about a Chinese ship in the Middle East. The chatbot, drawing on both open–source and classified material, wrongly identified the ship’s cargo as components of a nuclear weapons programme. The analyst used AI again to package this into a standard intelligence report.

Theo một cuộc điều tra gần đây của CNN, vào mùa xuân năm 2026, trong cuộc chiến với Iran, một nhà phân tích tác chiến đặc biệt của Mỹ đã sử dụng một chatbot AI để đánh giá thông tin tình báo về một con tàu của Trung Quốc ở Trung Đông. Chatbot này, dựa trên cả tài liệu nguồn mở và tài liệu mật, đã xác định nhầm hàng hóa trên tàu thành các linh kiện của chương trình vũ khí hạt nhân. Nhà phân tích lại tiếp tục dùng AI để đóng gói thông tin này thành một báo cáo tình báo tiêu chuẩn.

Armed personnel were preparing to board the ship and military aircraft were airborne before an official looked more closely and found the error. One source said the false report “almost started a war”. Any US operation against a Chinese vessel could risk spiralling into an armed conflict.

Các nhân sự có vũ trang đang chuẩn bị lên tàu và máy bay quân sự đã cất cánh trước khi một sĩ quan xem xét kỹ hơn và phát hiện ra lỗi. Một nguồn tin cho biết báo cáo sai sự thật đó “suýt châm ngòi cho một cuộc chiến”. Bất kỳ chiến dịch nào của Mỹ chống lại một tàu Trung Quốc đều có thể có nguy cơ leo thang thành một cuộc xung đột vũ trang.

The AI was not conscious, hostile or out of control. It was simply wrong – but people trusted and acted on it.

AI không có ý thức, không thù địch hay vượt ngoài tầm kiểm soát. Nó đơn giản là đã sai – nhưng con người lại tin tưởng và hành động dựa trên điều đó.

The US military is pushing to weave AI into almost every part of its work, from analysing intelligence to selecting targets. CNN’s sources said errors of this kind are not uncommon across the intelligence community, and that pressure to produce intelligence faster is opening the door to mistakes. The ship incident was caught in time. The next error may not be.

Quân đội Mỹ đang thúc đẩy đưa AI vào hầu hết mọi khía cạnh công việc của họ, từ phân tích tình báo đến lựa chọn mục tiêu. Các nguồn tin của CNN cho biết những lỗi kiểu này không hiếm gặp trong cộng đồng tình báo, và áp lực phải sản xuất thông tin tình báo nhanh hơn đang mở đường cho những sai lầm. Sự cố về con tàu đã được ngăn chặn kịp thời. Sai sót tiếp theo có lẽ sẽ không may mắn như vậy.

At its heart, this is a problem of trust. LLMs produce fluent, confident language effortlessly – and, repackaged as an official report, an error gains an authority it never earned. Colleagues and I have argued that these systems are built to produce an answer rather than to say “I don’t know”. For example, in one experiment, we found that non-specialists could not tell a chatbot’s convincing but wrong physics answers from genuine expertise.

Cốt lõi của vấn đề này là lòng tin. Các mô hình LLM tạo ra ngôn ngữ lưu loát, tự tin một cách dễ dàng – và khi được đóng gói lại thành một báo cáo chính thức, một lỗi sai bỗng có được một sự uy quyền mà đáng lẽ nó không bao giờ có được. Các đồng nghiệp của tôi và tôi từng lập luận rằng các hệ thống này được xây dựng để đưa ra câu trả lời thay vì nói “Tôi không biết”. Ví dụ, trong một thí nghiệm, chúng tôi thấy rằng những người không chuyên không thể phân biệt được câu trả lời vật lý có sức thuyết phục nhưng sai lệch của chatbot với chuyên môn thực sự.

Figure
The more military targeting is automated, the more the human’s role shrinks to approving what the machine has already identified. metamorworks/Shutterstock
Việc nhắm mục tiêu quân sự càng được tự động hóa bao nhiêu, vai trò của con người càng bị thu hẹp bấy nhiêu thành việc phê duyệt những gì máy móc đã xác định. metamorworks/Shutterstock

Why a ‘human in the loop’ isn’t enough

Tại sao việc “có con người trong vòng lặp” là chưa đủ

Policymakers often reassure us that a human makes the final decision. In the Chinese ship case, people were in the loop throughout. They simply became another stage through which the error was passed.

Các nhà hoạch định chính sách thường trấn an chúng ta rằng con người mới là người đưa ra quyết định cuối cùng. Trong vụ việc tàu Trung Quốc, con người vẫn luôn có mặt trong vòng lặp xuyên suốt. Họ đơn giản chỉ trở thành một chặng nữa để sai sót đó được truyền qua.

That fits decades of research on automation bias, the tendency to over–rely on automated systems. It affects experts as well as novices. In 2003, US Patriot missile batteries shot down two allied aircraft after operators accepted its misclassification.

Điều đó phù hợp với hàng thập kỷ nghiên cứu về sự thiên vị tự động hóa, xu hướng quá phụ thuộc vào các hệ thống tự động. Nó ảnh hưởng đến cả chuyên gia lẫn người mới bắt đầu. Vào năm 2003, các khẩu đội tên lửa Patriot của Mỹ đã bắn hạ hai máy bay đồng minh sau khi các nhà điều hành chấp nhận sự phân loại nhầm của hệ thống này.

A person in the loop works only when that human is able, adequately equipped and willing to challenge the machine.

Một con người trong vòng lặp chỉ phát huy hiệu quả khi con người đó có đủ khả năng, được trang bị đầy đủ và sẵn sàng thách thức cỗ máy.

That means verification. AI output should be clearly labelled, so its origin is visible to everyone who relies on it, and treated as a claim to be tested against independent sources before anyone acts on it. In war, the cost of not checking could hardly be higher.

Điều đó đồng nghĩa với việc xác minh. Đầu ra của AI phải được dán nhãn rõ ràng, để nguồn gốc của nó hiển thị với tất cả những ai phụ thuộc vào nó, và được coi như một tuyên bố cần phải kiểm chứng bằng các nguồn độc lập trước khi bất kỳ ai hành động dựa trên đó. Trong chiến tranh, cái giá của việc không kiểm tra là vô cùng lớn.

None of these concerns over trusting AI in the short term mean long–term questions about advanced AI in the future should be dismissed. But much public anxiety focuses on what these systems might become, and less on what they are already doing.

Không có mối quan ngại nào về việc tin tưởng AI trong ngắn hạn có nghĩa là các câu hỏi dài hạn về AI tiên tiến trong tương lai nên bị gạt bỏ. Nhưng phần lớn sự lo lắng của công luận lại tập trung vào việc những hệ thống này có thể trở thành gì, và ít quan tâm hơn đến những gì chúng đang thực sự làm.

Perhaps Terminator 2 got more right than we appreciate. Skynet’s catastrophe doesn’t begin with self–awareness. It begins with trust, when humans hand a machine control because they believe it will make better decisions than they can.

Có lẽ *Kẻ hủy diệt 2* đã đúng nhiều hơn những gì chúng ta đánh giá. Thảm họa của Skynet không bắt đầu từ sự tự nhận thức. Nó bắt đầu từ lòng tin, khi con người trao quyền kiểm soát cho cỗ máy vì họ tin rằng nó sẽ đưa ra các quyết định tốt hơn chính họ.

We don’t need a conscious machine to repeat that mistake. Fallible AI, misplaced human trust and increasingly autonomous weapons offer a far more mundane route to catastrophe.

Chúng ta không cần một cỗ máy có ý thức để lặp lại sai lầm đó. AI dễ mắc sai lầm, lòng tin đặt sai chỗ của con người và các loại vũ khí ngày càng tự động hóa mang lại một con đường dẫn đến thảm họa trần tục hơn nhiều.

The danger is not that our machines become too intelligent. It is that we hand responsibility to machines that are far less reliable than we assume. As the film puts it: “There’s no fate but what we make for ourselves”.

Nguy hiểm không phải là máy móc của chúng ta trở nên quá thông minh. Mà là chúng ta trao trách nhiệm cho những cỗ máy kém tin cậy hơn nhiều so với những gì chúng ta tưởng tượng. Đúng như bộ phim đã nói: “Không có số phận nào khác ngoài số phận do chúng ta tự tạo ra”.

Simon Thorne does not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.

Simon Thorne không làm việc cho, tư vấn cho, sở hữu cổ phần trong hoặc nhận tài trợ từ bất kỳ công ty hay tổ chức nào có thể được hưởng lợi từ bài viết này, và không công bố bất kỳ mối liên hệ nào có liên quan ngoài học hàm học vị của mình.