Tại sao loại AI nguy hiểm nhất lại có thể là loại mà chúng ta đặt quá nhiều niềm tin
Why the most dangerous AI may be the one we trust too much

Máy móc không nhất thiết phải trở thành siêu trí tuệ để gây ra thảm họa. Khi trí tuệ nhân tạo lan rộng trong quá trình ra quyết định quân sự, chúng chỉ cần sai sót – và được đặt niềm tin bởi những con người nắm quyền.
Vào năm 1991, bộ phim *Kẻ hủy diệt 2: Ngày phán xét* đã mang lại cho chúng ta một trong những hình ảnh mang tính biểu tượng bền bỉ nhất của đại chúng về AI khi bị lỗi. Nhân loại tạo ra Skynet, một trí tuệ nhân tạo được trao quyền kiểm soát phòng thủ chiến lược. Nó học hỏi với “tốc độ hình học”, trở thành một thực thể tự nhận thức và khi các nhà điều hành con người cố gắng tắt nó đi, nó bắt đầu một cuộc chiến tranh hạt nhân.
Các biến thể của câu chuyện đó hiện đang xuất hiện trong các cuộc tranh luận nghiêm túc về AI. Các mô hình ngôn ngữ lớn (LLM) ngày càng có năng lực cao, theo lập luận này, có thể phát triển thành trí tuệ nhân tạo tổng quát hoặc siêu trí tuệ (AGI/ASI) , có được các mục tiêu lệch lạc so với chúng ta và cuối cùng đe dọa nhân loại.
Cuộc tranh luận đó rất đáng được chú ý, nhưng nó phụ thuộc vào một chuỗi các bước dài và chưa được chứng minh. Các hệ thống AI ngày nay phải bằng cách nào đó biến đổi thành trí tuệ tổng quát thực sự, phát triển các mục tiêu độc lập và giành quyền kiểm soát thế giới vật chất.
Trong khi đó, một rủi ro trước mắt hơn đang thành hình và không đòi hỏi bất kỳ bước nào trong số đó.
Trong phim, Skynet tạo ra Kẻ hủy diệt, những cỗ máy tìm kiếm, theo dõi và tiêu thụ con người. Bỏ qua khoa học viễn tưởng thì ý tưởng rất đơn giản: kết hợp các cảm biến, phần mềm và vũ khí rồi thu hẹp vai trò của con người.
Con người đang làm chính xác điều đó, mà không cần bất cứ thứ gì giống như một siêu trí tuệ độc ác như Skynet. Vào tháng 8 năm 2026, Bộ Quốc phòng Ukraine cho biết các lực lượng của họ đang sử dụng hơn 70 hệ thống AI và thị giác máy tính để tấn công các mục tiêu. Các thuật toán có thể nhận diện trang thiết bị cùng nhân sự và tự động khóa chặt các mục tiêu đó, nhờ đó một chiếc máy bay không người lái có thể hoàn thành đợt tấn công ngay cả khi tình trạng gây nhiễu cắt đứt kết nối với người điều khiển.
Những hệ thống này không cần trí tuệ tổng quát hay siêu trí tuệ. Chúng cần cảm biến, phần mềm có khả năng nhận diện mục tiêu, hệ thống điều hướng và vũ khí. Và việc nhắm mục tiêu càng được tự động hóa bao nhiêu, vai trò của con người càng bị thu hẹp bấy nhiêu thành việc phê duyệt những gì máy móc đã xác định.
Đó chính là điểm yếu chết người của lòng tin.
The war that AI almost started
Cuộc chiến tranh mà AI suýt châm ngòi
Rủi ro thứ hai tinh vi hơn: AI định hình các quyết định của những kẻ bóp cò súng.
Theo một cuộc điều tra gần đây của CNN, vào mùa xuân năm 2026, trong cuộc chiến với Iran, một nhà phân tích tác chiến đặc biệt của Mỹ đã sử dụng một chatbot AI để đánh giá thông tin tình báo về một con tàu của Trung Quốc ở Trung Đông. Chatbot này, dựa trên cả tài liệu nguồn mở và tài liệu mật, đã xác định nhầm hàng hóa trên tàu thành các linh kiện của chương trình vũ khí hạt nhân. Nhà phân tích lại tiếp tục dùng AI để đóng gói thông tin này thành một báo cáo tình báo tiêu chuẩn.
Các nhân sự có vũ trang đang chuẩn bị lên tàu và máy bay quân sự đã cất cánh trước khi một sĩ quan xem xét kỹ hơn và phát hiện ra lỗi. Một nguồn tin cho biết báo cáo sai sự thật đó “suýt châm ngòi cho một cuộc chiến”. Bất kỳ chiến dịch nào của Mỹ chống lại một tàu Trung Quốc đều có thể có nguy cơ leo thang thành một cuộc xung đột vũ trang.
AI không có ý thức, không thù địch hay vượt ngoài tầm kiểm soát. Nó đơn giản là đã sai – nhưng con người lại tin tưởng và hành động dựa trên điều đó.
Quân đội Mỹ đang thúc đẩy đưa AI vào hầu hết mọi khía cạnh công việc của họ, từ phân tích tình báo đến lựa chọn mục tiêu. Các nguồn tin của CNN cho biết những lỗi kiểu này không hiếm gặp trong cộng đồng tình báo, và áp lực phải sản xuất thông tin tình báo nhanh hơn đang mở đường cho những sai lầm. Sự cố về con tàu đã được ngăn chặn kịp thời. Sai sót tiếp theo có lẽ sẽ không may mắn như vậy.
Cốt lõi của vấn đề này là lòng tin. Các mô hình LLM tạo ra ngôn ngữ lưu loát, tự tin một cách dễ dàng – và khi được đóng gói lại thành một báo cáo chính thức, một lỗi sai bỗng có được một sự uy quyền mà đáng lẽ nó không bao giờ có được. Các đồng nghiệp của tôi và tôi từng lập luận rằng các hệ thống này được xây dựng để đưa ra câu trả lời thay vì nói “Tôi không biết”. Ví dụ, trong một thí nghiệm, chúng tôi thấy rằng những người không chuyên không thể phân biệt được câu trả lời vật lý có sức thuyết phục nhưng sai lệch của chatbot với chuyên môn thực sự.
Why a ‘human in the loop ’ isn’t enough
Tại sao việc “có con người trong vòng lặp” là chưa đủ
Policymakers
Các nhà hoạch định chính sách thường trấn an chúng ta rằng con người mới là người đưa ra quyết định cuối cùng. Trong vụ việc tàu Trung Quốc, con người vẫn luôn có mặt trong vòng lặp xuyên suốt. Họ đơn giản chỉ trở thành một chặng nữa để sai sót đó được truyền qua.
Điều đó phù hợp với hàng thập kỷ nghiên cứu về sự thiên vị tự động hóa, xu hướng quá phụ thuộc vào các hệ thống tự động. Nó ảnh hưởng đến cả chuyên gia lẫn người mới bắt đầu. Vào năm 2003, các khẩu đội tên lửa Patriot của Mỹ đã bắn hạ hai máy bay đồng minh sau khi các nhà điều hành chấp nhận sự phân loại nhầm của hệ thống này.
Một con người trong vòng lặp chỉ phát huy hiệu quả khi con người đó có đủ khả năng, được trang bị đầy đủ và sẵn sàng thách thức cỗ máy.
Điều đó đồng nghĩa với việc xác minh. Đầu ra của AI phải được dán nhãn rõ ràng, để nguồn gốc của nó hiển thị với tất cả những ai phụ thuộc vào nó, và được coi như một tuyên bố cần phải kiểm chứng bằng các nguồn độc lập trước khi bất kỳ ai hành động dựa trên đó. Trong chiến tranh, cái giá của việc không kiểm tra là vô cùng lớn.
Không có mối quan ngại nào về việc tin tưởng AI trong ngắn hạn có nghĩa là các câu hỏi dài hạn về AI tiên tiến trong tương lai nên bị gạt bỏ. Nhưng phần lớn sự lo lắng của công luận lại tập trung vào việc những hệ thống này có thể trở thành gì, và ít quan tâm hơn đến những gì chúng đang thực sự làm.
Có lẽ *Kẻ hủy diệt 2* đã đúng nhiều hơn những gì chúng ta đánh giá. Thảm họa của Skynet không bắt đầu từ sự tự nhận thức. Nó bắt đầu từ lòng tin, khi con người trao quyền kiểm soát cho cỗ máy vì họ tin rằng nó sẽ đưa ra các quyết định tốt hơn chính họ.
Chúng ta không cần một cỗ máy có ý thức để lặp lại sai lầm đó. AI dễ mắc sai lầm, lòng tin đặt sai chỗ của con người và các loại vũ khí ngày càng tự động hóa mang lại một con đường dẫn đến thảm họa trần tục hơn nhiều.
Nguy hiểm không phải là máy móc của chúng ta trở nên quá thông minh. Mà là chúng ta trao trách nhiệm cho những cỗ máy kém tin cậy hơn nhiều so với những gì chúng ta tưởng tượng. Đúng như bộ phim đã nói: “Không có số phận nào khác ngoài số phận do chúng ta tự tạo ra”.
Simon Thorne
Simon Thorne không làm việc cho, tư vấn cho, sở hữu cổ phần trong hoặc nhận tài trợ từ bất kỳ công ty hay tổ chức nào có thể được hưởng lợi từ bài viết này, và không công bố bất kỳ mối liên hệ nào có liên quan ngoài học hàm học vị của mình.
có thể bạn cũng quan tâm
-

Đau buồn vì mất đi chức năng cơ thể: Tâm lý học dạy chúng ta điều gì về hành trình bệnh mạn tính
Grieving lost body function: What psychology teaches us about our chronic illness journeys
-

Bốn thói quen sống có thể giúp bạn sống đến 100 tuổi
Four lifestyle habits that might just help you live to 100