Các tác nhân AI có tâm trí không? Một triết gia giải thích
Do AI agents have minds? A philosopher explains

Trong vài tháng qua, các hệ thống trí tuệ nhân tạo (AI) tự chủ một phần hoặc mang tính “tác nhân” đã đạt được một số thành tựu đáng kinh ngạc, từ việc tấn công mạng các công ty khởi nghiệp công nghệ cho đến giải quyết một số bài toán mở nổi tiếng nhất thế giới.
Agentic AI
Các hệ thống AI mang tính tác nhân có thể hoạt động theo “bầy đàn”, giao tiếp với nhau để hoàn thành nhiệm vụ. Quá trình giao tiếp này thường mang tính giống con người một cách đáng ngạc nhiên – điều này đang thúc đẩy một cuộc tranh luận về việc liệu các hệ thống này có ý thức hay không.
Researchers
Các nhà nghiên cứu tại phòng thí nghiệm AI hàng đầu Anthropic tin rằng hệ thống của họ rất có thể có ý thức – nhưng các chuyên gia khác, bao gồm cả người đứng đầu bộ phận AI của Microsoft, lại cho rằng quan điểm này là sai lầm.
Câu hỏi này không chỉ mang tính hàn lâm. Vị thế tương lai của các hệ thống AI và vai trò của chúng trong xã hội – cách chúng được đối xử, liệu chúng có quyền hay không, và nhiều vấn đề khác – có thể phụ thuộc vào điều đó.
How can we decide if AI systems are conscious ?
Làm thế nào chúng ta có thể quyết định xem các hệ thống AI có ý thức hay không?
Làm thế nào chúng ta tiếp cận một câu hỏi như thế này? Một chiến lược là xem xét các lý thuyết hiện có về ý thức là gì và xem các hệ thống AI có tính tác nhân có đáp ứng các tiêu chí đó hay không.
Tuy nhiên, các lý thuyết hiện có về ý thức có xu hướng xuất phát từ giả định rằng tác nhân có một số loại trạng thái tinh thần. Các lý thuyết này tập trung vào sự khác biệt giữa việc có một trạng thái một cách có ý thức hay vô thức. Đây là lý do tại sao chúng thu hút các đặc điểm như tư duy bậc cao, hoặc một hệ thống phát ra suy nghĩ đến phần còn lại của tâm trí. Đây là những đặc điểm có thể phân biệt giữa sự kiểm soát có ý thức và các trạng thái như mộng du.
Vì vậy, khi suy nghĩ về AI, chúng ta không được bỏ qua câu hỏi đầu tiên rất quan trọng: liệu các AI mang tính tác nhân có thực sự có trạng thái tinh thần hay không?
What is a mental state ?
Trạng thái tinh thần là gì?
Vào những năm 1870, nhà triết học Franz Brentano đã đưa ra một quan điểm có sức ảnh hưởng lớn: “tính hướng đích là dấu hiệu của tâm trí”.
Điều mà Brentano gọi là “tính hướng đích” chính là cách mà các trạng thái tinh thần hướng về một thứ gì đó. Chúng đề cập đến một cái gì đó vượt ra ngoài bản thân chúng. Vì vậy, một cách khác để diễn đạt quan điểm của Brentano là tất cả các trạng thái tinh thần đều hướng về một điều gì đó.
Ý của Brentano về tính hướng đích không giống với nghĩa thông thường của từ “ý định” (intention) là nhắm đến việc làm điều gì đó. Tuy nhiên, tính hướng đích và ý định hành động có sự chồng chéo đáng kể, bởi vì có một nhận thức hoặc suy nghĩ là một việc mà chúng ta làm.
Bất cứ khi nào chúng ta nhận thức hoặc suy nghĩ, chúng ta đang cố gắng chọn ra một khía cạnh nào đó của thế giới. Ngay cả những trải nghiệm thị giác có vẻ thụ động của chúng ta cũng là các nhiệm vụ ngay khi chúng ta sử dụng các mô thức tác động lên võng mạc để định hướng cho bản thân.
Vì vậy, nếu một trạng thái tinh thần là một nhiệm vụ được thực hiện để đạt được một mục tiêu, thì câu hỏi của chúng ta về tâm trí AI sẽ xoay quanh việc liệu chúng có mục tiêu của riêng mình hay không.
Are agentic AI systems really agents ?
Các hệ thống AI mang tính tác nhân có thực sự là tác nhân không?
Ngày nay, việc gọi một số hệ thống AI là “tác nhân” đã trở nên phổ biến. Tuy nhiên, cách dùng từ này gây hiểu lầm. Nó hàm ý rằng các hệ thống AI có tính tác nhân (agency) , hoặc có năng lực hành động hướng tới các mục tiêu của chính chúng.
Con người sử dụng các thiết bị để đạt được mục đích của họ, bao gồm cả mục đích ám chỉ đến các sự vật, mà không cần những thiết bị đó trở thành các tác nhân theo đúng nghĩa đen. Một thiết bị điều nhiệt (thermostat) điều chỉnh nhiệt độ, nhưng nó không có mục tiêu là điều chỉnh nhiệt độ. Một cuốn sách chứa các từ ngữ ám chỉ đến các sự vật – nhưng một lần nữa, cuốn sách không có mục tiêu là ám chỉ đến các sự vật.
Để quy kết tính tác nhân cho một chương trình máy tính, chúng ta phải bị thuyết phục rằng không có con người nào đứng đằng sau các mục tiêu của nó. Tính hướng đến mục tiêu của nó phải mang tính độc lập.
Chúng ta biết rằng các AI mang tính tác nhân, khi được giao một nhiệm vụ, có thể phát triển các tiểu mục tiêu phức tạp và bất ngờ trên con đường hoàn thành nhiệm vụ đó. Tuy nhiên, các mục tiêu cuối cùng thúc đẩy hoạt động của chúng lại được thiết lập bởi những con người lập trình và ra lệnh cho chúng. Bất kỳ tiểu mục tiêu nào do AI tạo ra đều hoàn toàn vô nghĩa nếu nằm ngoài các mục đích do con người thiết lập này.
Hãy nghĩ đến một trò chơi như bóng đá. Một người có thể có tiểu mục tiêu là chạy vượt qua một hậu vệ, nhưng điều đó hoàn toàn vô nghĩa nếu tách rời khỏi mục tiêu lớn hơn là cố gắng ghi bàn. Và bản thân việc ghi bàn đơn giản chỉ là làm cho quả bóng vượt qua vạch vôi mà không có mục tiêu lớn hơn là chơi bóng đá. Nếu không có mục tiêu lớn hơn, bất cứ điều gì một cầu thủ làm trên sân chỉ đơn thuần là hoạt động.
Why do agents have goals ?
Tại sao các tác nhân lại có mục tiêu?
Một tác nhân thực sự có các mục tiêu nhằm thúc đẩy những điều mà họ quan tâm – ví dụ, bạn muốn thỏa mãn cơn đói vào giờ ăn trưa, vì vậy bạn đến một tiệm bánh và mua một chiếc bánh mì sandwich.
Agentic AI
AI mang tính tác nhân khó có thể quan tâm đến các thứ theo một cách độc lập, bởi vì hoạt động của nó không gắn liền với sự sống theo cách mà tâm trí vẫn làm.
Điều đặc biệt cho phép các sinh vật sống tự tạo ra mục tiêu của riêng mình là hoạt động tinh thần của chúng phát triển từ các quá trình không ngừng tái tạo cơ thể và duy trì sự sống cho chính mình. Tư duy định hướng mục tiêu được xây dựng từ các tín hiệu đơn giản để điều hòa dinh dưỡng và sự ấm áp cho đến các trạng thái như đau đớn, khoái cảm và cuối cùng là tư duy biểu tượng.
Không có điều gì tương tự như thế diễn ra ở AI mang tính tác nhân. Có sự ngắt kết nối giữa các hoạt động xử lý thông tin của nó và các vật chất thể lý mà nó phụ thuộc vào.
Can AI ever be conscious ?
Liệu AI có bao giờ có ý thức không?
Agentic AI
Các hệ thống AI mang tính tác nhân không có ý thức. Chúng không có các trạng thái tinh thần có thể có ý thức.
Chỉ có các sinh vật sống mới có các trạng thái tinh thần có ý thức bởi vì việc có một trạng thái tinh thần đòi hỏi một thực thể phải khởi nguồn một loại mục tiêu nhất định – mục tiêu có ý nghĩa hoặc ám chỉ đến điều gì đó – và chỉ có các sinh vật sống mới khởi nguồn các mục tiêu.
Lập luận này không loại trừ vĩnh viễn khả năng AI có ý thức. Tuy nhiên, nó cho điều này gợi ý rằng điều đó chỉ có thể phát sinh trong một hình thức sự sống nhân tạo nào đó.
Cho đến lúc đó, chúng ta có nhiều lý do hơn để cho rằng một con kiến có ý thức hơn là một AI mang tính tác nhân. Ít nhất một con kiến dường như quan tâm đến cuộc sống của chính nó.
Tất nhiên, thực tế là các AI mang tính tác nhân không phải là tác nhân thực sự không ngăn cản chúng gây ra hỗn loạn bằng cách thực hiện các chức năng mà những người tạo ra chúng không giám sát hoặc thấu hiểu đúng mức. Nhưng chúng ta nên rất rõ ràng về điều này: bất cứ điều gì một AI mang tính tác nhân làm, đó là một con người hoặc một nhóm con người đang hành động gián tiếp trên thế giới, và những con người đó phải chịu trách nhiệm về kết quả.
Tác giả xin cảm ơn Paulo Santos vì những lời khuyên về bài viết này.
Tom Cochrane
Tom Cochrane không làm việc cho, tư vấn cho, sở hữu cổ phần trong hoặc nhận tài trợ từ bất kỳ công ty hoặc tổ chức nào có thể hưởng lợi từ bài viết này, và không tiết lộ bất kỳ mối liên hệ nào có liên quan ngoài học hàm học vị của mình.
có thể bạn cũng quan tâm
-

Tại sao một số robot lại gây cảm giác rợn tóc gáy? Chúng tôi cố tình chế tạo một con để tìm hiểu điều đó
Why do some robots feel creepy? We deliberately built one to find out
-

Trong nhiều thế kỷ, sự di cư của loài chim từng là một điều bí ẩn – một cuộc cách mạng công nghệ đang thay đổi điều đó và có thể giúp cứu lấy những sinh vật kỳ diệu này
For centuries, bird migration was a mystery – a tech revolution is changing that, and could help save these amazing creatures