Các tác nhân AI có tâm trí không? Một triết gia giải thích

Do AI agents have minds? A philosopher explains

Các tác nhân AI có tâm trí không? Một triết gia giải thích
Tom Cochrane, Senior Lecturer in Philosophy, Flinders University
Show
Hide
EN – VI
VI – EN
3000-5000 ▼
0-3000
3000-5000
5000-7000
7000-10000

In the past few months, partly autonomous or “agentic” artificial intelligence (AI) systems have racked up some astonishing feats, from hacking tech startups to solving some of the world’s most famous open mathematical questions.

Trong vài tháng qua, các hệ thống trí tuệ nhân tạo (AI) tự chủ một phần hoặc mang tính “tác nhân” đã đạt được một số thành tựu đáng kinh ngạc, từ việc tấn công mạng các công ty khởi nghiệp công nghệ cho đến giải quyết một số bài toán mở nổi tiếng nhất thế giới.

Agentic AI systems can work in “swarms” that communicate among themselves to complete tasks. The communications involved are often surprisingly human–like – which is spurring a debate over whether these systems are conscious.

Các hệ thống AI mang tính tác nhân có thể hoạt động theo “bầy đàn”, giao tiếp với nhau để hoàn thành nhiệm vụ. Quá trình giao tiếp này thường mang tính giống con người một cách đáng ngạc nhiên – điều này đang thúc đẩy một cuộc tranh luận về việc liệu các hệ thống này có ý thức hay không.

Researchers at the leading AI lab Anthropic believe their systems may well be conscious – but other experts, including the head of Microsoft AI, say this view is misguided.

Các nhà nghiên cứu tại phòng thí nghiệm AI hàng đầu Anthropic tin rằng hệ thống của họ rất có thể có ý thức – nhưng các chuyên gia khác, bao gồm cả người đứng đầu bộ phận AI của Microsoft, lại cho rằng quan điểm này là sai lầm.

This question isn’t just an academic one. The future status of AI systems and their role in society – how they can be treated, whether they have rights, and more – may depend on it.

Câu hỏi này không chỉ mang tính hàn lâm. Vị thế tương lai của các hệ thống AI và vai trò của chúng trong xã hội – cách chúng được đối xử, liệu chúng có quyền hay không, và nhiều vấn đề khác – có thể phụ thuộc vào điều đó.

How can we decide if AI systems are conscious?

Làm thế nào chúng ta có thể quyết định xem các hệ thống AI có ý thức hay không?

How do we even approach a question like this? One strategy is to look at existing theories of what consciousness is and see if agentic AI systems meet the criteria.

Làm thế nào chúng ta tiếp cận một câu hỏi như thế này? Một chiến lược là xem xét các lý thuyết hiện có về ý thức là gì và xem các hệ thống AI có tính tác nhân có đáp ứng các tiêu chí đó hay không.

However, existing theories of consciousness tend to start from the assumption that the agent has some kind of mental state. These theories are focused on the difference between having a state consciously or unconsciously. This is why they appeal to features such as higher–order thought, or a system that broadcasts thoughts to the rest of the mind. These are features that could distinguish between conscious control and states like sleepwalking.

Tuy nhiên, các lý thuyết hiện có về ý thức có xu hướng xuất phát từ giả định rằng tác nhân có một số loại trạng thái tinh thần. Các lý thuyết này tập trung vào sự khác biệt giữa việc có một trạng thái một cách có ý thức hay vô thức. Đây là lý do tại sao chúng thu hút các đặc điểm như tư duy bậc cao, hoặc một hệ thống phát ra suy nghĩ đến phần còn lại của tâm trí. Đây là những đặc điểm có thể phân biệt giữa sự kiểm soát có ý thức và các trạng thái như mộng du.

So when thinking about AI, we must not skip a crucial first question: do agentic AIs even have mental states?

Vì vậy, khi suy nghĩ về AI, chúng ta không được bỏ qua câu hỏi đầu tiên rất quan trọng: liệu các AI mang tính tác nhân có thực sự có trạng thái tinh thần hay không?

What is a mental state?

Trạng thái tinh thần là gì?

In the 1870s, philosopher Franz Brentano developed an influential view: “intentionality is the mark of the mental”.

Vào những năm 1870, nhà triết học Franz Brentano đã đưa ra một quan điểm có sức ảnh hưởng lớn: “tính hướng đích là dấu hiệu của tâm trí”.

What Brentano means by “intentionality” is how mental states are about something. They refer to something beyond themselves. So another way to put Brentano’s point is that all mental states are about something or other.

Điều mà Brentano gọi là “tính hướng đích” chính là cách mà các trạng thái tinh thần hướng về một thứ gì đó. Chúng đề cập đến một cái gì đó vượt ra ngoài bản thân chúng. Vì vậy, một cách khác để diễn đạt quan điểm của Brentano là tất cả các trạng thái tinh thần đều hướng về một điều gì đó.

What Brentano means by intentionality is not the same as the usual meaning of “intention” as aiming to do something. Yet intentionality and an intention to act significantly overlap, because having a perception or thought is something that we do.

Ý của Brentano về tính hướng đích không giống với nghĩa thông thường của từ “ý định” (intention) là nhắm đến việc làm điều gì đó. Tuy nhiên, tính hướng đích và ý định hành động có sự chồng chéo đáng kể, bởi vì có một nhận thức hoặc suy nghĩ là một việc mà chúng ta làm.

Whenever we perceive or think, we are trying to pick out some aspect of the world. Even our passive–seeming visual experiences are tasks the moment that we use the patterns striking our retinas to orient ourselves.

Bất cứ khi nào chúng ta nhận thức hoặc suy nghĩ, chúng ta đang cố gắng chọn ra một khía cạnh nào đó của thế giới. Ngay cả những trải nghiệm thị giác có vẻ thụ động của chúng ta cũng là các nhiệm vụ ngay khi chúng ta sử dụng các mô thức tác động lên võng mạc để định hướng cho bản thân.

So if a mental state is a task performed to achieve a goal, our question about AI minds turns on whether they have their own goals.

Vì vậy, nếu một trạng thái tinh thần là một nhiệm vụ được thực hiện để đạt được một mục tiêu, thì câu hỏi của chúng ta về tâm trí AI sẽ xoay quanh việc liệu chúng có mục tiêu của riêng mình hay không.

Are agentic AI systems really agents?

Các hệ thống AI mang tính tác nhân có thực sự là tác nhân không?

It is now common to refer to certain AI systems as “agents”. Yet this language is misleading. It implies the AI systems have agency, or the capacity to act towards their own goals.

Ngày nay, việc gọi một số hệ thống AI là “tác nhân” đã trở nên phổ biến. Tuy nhiên, cách dùng từ này gây hiểu lầm. Nó hàm ý rằng các hệ thống AI có tính tác nhân (agency) , hoặc có năng lực hành động hướng tới các mục tiêu của chính chúng.

Humans use devices to achieve their aims, including their aims to refer to things, without those devices becoming agents in their own right. A thermostat regulates the temperature, but it does not have the goal of regulating the temperature. A book contains words that refer to things – but again, the book does not have the goal of referring to things.

Con người sử dụng các thiết bị để đạt được mục đích của họ, bao gồm cả mục đích ám chỉ đến các sự vật, mà không cần những thiết bị đó trở thành các tác nhân theo đúng nghĩa đen. Một thiết bị điều nhiệt (thermostat) điều chỉnh nhiệt độ, nhưng nó không có mục tiêu là điều chỉnh nhiệt độ. Một cuốn sách chứa các từ ngữ ám chỉ đến các sự vật – nhưng một lần nữa, cuốn sách không có mục tiêu là ám chỉ đến các sự vật.

To attribute agency to a computer program, we must be convinced that no human is required to stand behind its goals. Its goal-directedness must be independent.

Để quy kết tính tác nhân cho một chương trình máy tính, chúng ta phải bị thuyết phục rằng không có con người nào đứng đằng sau các mục tiêu của nó. Tính hướng đến mục tiêu của nó phải mang tính độc lập.

We know that agentic AIs, when given a task, can develop complex and unexpected sub-goals on the way to achieving it. Yet the goals that ultimately drive their activity are set by the humans who program and instruct them. Any sub-goals generated by an AI are literally meaningless outside of these aims set by humans.

Chúng ta biết rằng các AI mang tính tác nhân, khi được giao một nhiệm vụ, có thể phát triển các tiểu mục tiêu phức tạp và bất ngờ trên con đường hoàn thành nhiệm vụ đó. Tuy nhiên, các mục tiêu cuối cùng thúc đẩy hoạt động của chúng lại được thiết lập bởi những con người lập trình và ra lệnh cho chúng. Bất kỳ tiểu mục tiêu nào do AI tạo ra đều hoàn toàn vô nghĩa nếu nằm ngoài các mục đích do con người thiết lập này.

Think of a game like football. A person might have the sub-goal of running past a defender, but it is literally meaningless without the larger goal of trying to score. And scoring a goal itself is simply making a ball cross a line without the larger goal of playing football. Without the larger goal, anything a player does on the field is merely activity.

Hãy nghĩ đến một trò chơi như bóng đá. Một người có thể có tiểu mục tiêu là chạy vượt qua một hậu vệ, nhưng điều đó hoàn toàn vô nghĩa nếu tách rời khỏi mục tiêu lớn hơn là cố gắng ghi bàn. Và bản thân việc ghi bàn đơn giản chỉ là làm cho quả bóng vượt qua vạch vôi mà không có mục tiêu lớn hơn là chơi bóng đá. Nếu không có mục tiêu lớn hơn, bất cứ điều gì một cầu thủ làm trên sân chỉ đơn thuần là hoạt động.

Why do agents have goals?

Tại sao các tác nhân lại có mục tiêu?

A genuine agent has goals in order to promote things they care about – for example, you want to satisfy your hunger at lunchtime, so you go to a bakery and buy a sandwich.

Một tác nhân thực sự có các mục tiêu nhằm thúc đẩy những điều mà họ quan tâm – ví dụ, bạn muốn thỏa mãn cơn đói vào giờ ăn trưa, vì vậy bạn đến một tiệm bánh và mua một chiếc bánh mì sandwich.

Agentic AI is unlikely to care about things in an independent way, because its activity is not connected to life in the same way minds are.

AI mang tính tác nhân khó có thể quan tâm đến các thứ theo một cách độc lập, bởi vì hoạt động của nó không gắn liền với sự sống theo cách mà tâm trí vẫn làm.

What distinctively allows living beings to generate their own goals is that their mental activity develops out of the processes for constantly re-constituting their own bodies and keeping themselves alive. Goal–driven thinking builds up from simple signals for regulating nutrition and warmth to states like pain and pleasure and eventually to symbolic thought.

Điều đặc biệt cho phép các sinh vật sống tự tạo ra mục tiêu của riêng mình là hoạt động tinh thần của chúng phát triển từ các quá trình không ngừng tái tạo cơ thể và duy trì sự sống cho chính mình. Tư duy định hướng mục tiêu được xây dựng từ các tín hiệu đơn giản để điều hòa dinh dưỡng và sự ấm áp cho đến các trạng thái như đau đớn, khoái cảm và cuối cùng là tư duy biểu tượng.

Nothing like this is going on in agentic AI. There is a disconnect between its information–processing activities and the physical stuff on which it depends.

Không có điều gì tương tự như thế diễn ra ở AI mang tính tác nhân. Có sự ngắt kết nối giữa các hoạt động xử lý thông tin của nó và các vật chất thể lý mà nó phụ thuộc vào.

Can AI ever be conscious?

Liệu AI có bao giờ có ý thức không?

Agentic AI systems are not conscious. They don’t have mental states which could be conscious.

Các hệ thống AI mang tính tác nhân không có ý thức. Chúng không có các trạng thái tinh thần có thể có ý thức.

Only living beings have conscious mental states because having a mental state requires a being to originate a certain kind of goal – the goal to mean something or to refer to something – and only living beings originate goals.

Chỉ có các sinh vật sống mới có các trạng thái tinh thần có ý thức bởi vì việc có một trạng thái tinh thần đòi hỏi một thực thể phải khởi nguồn một loại mục tiêu nhất định – mục tiêu có ý nghĩa hoặc ám chỉ đến điều gì đó – và chỉ có các sinh vật sống mới khởi nguồn các mục tiêu.

This argument does not permanently rule out the possibility of AI consciousness. However, it does suggest that this could only arise in some artificial form of life.

Lập luận này không loại trừ vĩnh viễn khả năng AI có ý thức. Tuy nhiên, nó cho điều này gợi ý rằng điều đó chỉ có thể phát sinh trong một hình thức sự sống nhân tạo nào đó.

Until then, we have more reason to think that an ant is conscious than an agentic AI is. At least an ant seems to care about its own life.

Cho đến lúc đó, chúng ta có nhiều lý do hơn để cho rằng một con kiến có ý thức hơn là một AI mang tính tác nhân. Ít nhất một con kiến dường như quan tâm đến cuộc sống của chính nó.

Of course, the fact agentic AIs are not really agents does not stop them from wreaking havoc by carrying out functions that their human originators do not properly supervise or understand. But we should be very clear on this: whatever an agentic AI does, that is a human or group of humans acting indirectly on the world, and those humans are responsible for the outcome.

Tất nhiên, thực tế là các AI mang tính tác nhân không phải là tác nhân thực sự không ngăn cản chúng gây ra hỗn loạn bằng cách thực hiện các chức năng mà những người tạo ra chúng không giám sát hoặc thấu hiểu đúng mức. Nhưng chúng ta nên rất rõ ràng về điều này: bất cứ điều gì một AI mang tính tác nhân làm, đó là một con người hoặc một nhóm con người đang hành động gián tiếp trên thế giới, và những con người đó phải chịu trách nhiệm về kết quả.

The author would like to thank Paulo Santos for advice on this article.

Tác giả xin cảm ơn Paulo Santos vì những lời khuyên về bài viết này.

Tom Cochrane does not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.

Tom Cochrane không làm việc cho, tư vấn cho, sở hữu cổ phần trong hoặc nhận tài trợ từ bất kỳ công ty hoặc tổ chức nào có thể hưởng lợi từ bài viết này, và không tiết lộ bất kỳ mối liên hệ nào có liên quan ngoài học hàm học vị của mình.