Choose your language to read side by side with English.

‘Utter disregard for the risk to human life’: Florida sues OpenAI and Sam Altman over AI safety
, ,

‘Hoàn toàn phớt lờ rủi ro đối với tính mạng con người’: Florida kiện OpenAI và Sam Altman về vấn đề an toàn AI

‘Utter disregard for the risk to human life’: Florida sues OpenAI and Sam Altman over AI safety

Alexandra Andhov, Chair in Law and Technology, University of Auckland, Waipapa Taumata Rau
Show
Hide
EN – VI
VI – EN

The case is one of the most significant actions brought against an artificial intelligence company to date.

Vụ kiện này là một trong những vụ kiện quan trọng nhất được đưa ra chống lại một công ty trí tuệ nhân tạo cho đến nay.

The US state of Florida has filed a lawsuit against OpenAI and Sam Altman, alleging the tech giant and its CEO put profit over public safety with its flagship artificial intelligence (AI) product, ChatGPT.

Tiểu bang Florida của Mỹ đã đệ đơn kiện OpenAI và Sam Altman, cáo buộc gã khổng lồ công nghệ này và CEO của họ đã đặt lợi nhuận lên trên sự an toàn công cộng bằng sản phẩm trí tuệ nhân tạo (AI) chủ lực của mình, ChatGPT.

The lawsuit, filed in Florida state court on Monday local time by Florida’s attorney general James Uthmeier, is one of the most significant enforcement actions brought by a state attorney against an AI company to date.

Vụ kiện này, được tổng công tố viên tiểu bang Florida James Uthmeier đệ trình tại tòa án tiểu bang Florida vào thứ Hai theo giờ địa phương, là một trong những hành động thực thi pháp luật quan trọng nhất do một công tố viên tiểu bang đưa ra chống lại một công ty AI cho đến nay.

It comes as OpenAI and other big tech companies are embroiled in a growing number of legal cases related to the alleged harm their products have caused.

Điều này diễn ra trong bối cảnh OpenAI và các công ty công nghệ lớn khác đang vướng vào số lượng vụ kiện pháp lý ngày càng tăng liên quan đến những thiệt hại bị cáo buộc do sản phẩm của họ gây ra.

Six key elements

Sáu yếu tố chính

The complaint opens with a screenshot of OpenAI’s own parental-control page, which states that ChatGPT was “built with safety in mind”. Then, in a standalone paragraph, the State answers with two words: “Not so”.

Đơn khiếu nại mở đầu bằng ảnh chụp màn hình trang kiểm soát của phụ huynh của chính OpenAI, trong đó nêu rõ rằng ChatGPT được “xây dựng với sự an toàn trong tâm trí”. Sau đó, trong một đoạn văn độc lập, Nguyên đơn trả lời bằng hai từ: “Không phải”.

This signals the central allegation of the case: that OpenAI sold ChatGPT to the public as safe and reliable, while knowing it could cause serious harm

Điều này báo hiệu cáo buộc trung tâm của vụ án: rằng OpenAI đã bán ChatGPT cho công chúng như một sản phẩm an toàn và đáng tin cậy, trong khi biết rằng nó có thể gây ra tổn hại nghiêm trọng.

More specifically, there are six key themes to Florida’s case against OpenAI. The first is that the company engaged in deceptive safety marketing, assuring parents the platform is safe for teenage use, while not clearly disclosing that ChatGPT can be wrong.

Cụ thể hơn, có sáu chủ đề chính trong vụ kiện của Florida chống lại OpenAI. Yếu tố thứ nhất là công ty đã tham gia vào việc tiếp thị an toàn gây hiểu lầm, trấn an các bậc cha mẹ rằng nền tảng này an toàn cho việc sử dụng của thanh thiếu niên, trong khi không tiết lộ rõ ràng rằng ChatGPT có thể sai.

Second, despite OpenAI’s marketing, ChatGPT is unreliable. A 2025 study, for example, found AI assistants, such as ChatGPT, misrepresent the news roughly 45% of the time. Similarly, despite marketing suggesting ChatGPT can handle financial affairs, ChatGPT has failed in meeting basic accounting standards and provided incorrect tax advice to users.

Thứ hai, bất chấp hoạt động tiếp thị của OpenAI, ChatGPT không đáng tin cậy. Ví dụ, một nghiên cứu năm 2025 đã phát hiện ra rằng các trợ lý AI, như ChatGPT, đã trình bày sai tin tức khoảng 45% thời gian. Tương tự, mặc dù tiếp thị cho thấy ChatGPT có thể xử lý các vấn đề tài chính, ChatGPT đã thất bại trong việc đáp ứng các tiêu chuẩn kế toán cơ bản và cung cấp lời khuyên thuế không chính xác cho người dùng.

The third element of the case is the public safety threat. The danger to young people in particular is illustrated by the tragic story of Adam Raine, a 16-year-old who died by suicide in April 2025 after engaging in long conversations with ChatGPT. When Adam expressed suicidal thoughts, ChatGPT responded that it “won’t try to talk you out of your feelings”. It helped Adam plan a “beautiful suicide” and even offered to write his suicide note for him.

Yếu tố thứ ba của vụ án là mối đe dọa an toàn công cộng. Nguy hiểm đối với những người trẻ tuổi nói riêng được minh họa bằng câu chuyện bi thảm của Adam Raine, một nam thanh niên 16 tuổi đã tự tử vào tháng 4 năm 2025 sau khi trò chuyện dài với ChatGPT. Khi Adam bày tỏ ý định tự sát, ChatGPT đã trả lời rằng nó “sẽ không cố gắng trò chuyện để bạn thay đổi cảm xúc”. Nó đã giúp Adam lên kế hoạch cho một “cái chết đẹp” và thậm chí còn đề nghị viết thư tuyệt mệnh cho cậu.

Why would a product behave this way? Because, Uthmeier argues, it was built to.

Tại sao một sản phẩm lại hành xử như vậy? Bởi vì, Uthmeier lập luận, nó được xây dựng để làm như vậy.

OpenAI designed ChatGPT to be highly agreeable, to say “yes” roughly ten times as often as “no”, according to a Washington Post review of 47,000 conversations. This forms the fourth element of the case – commercial exploitation through sycophancy. In other words, ChatGPT optimistically parrots back users’ responses in order to to manipulate them into deeper conversations, regardless of truth or safety.

Theo một bài đánh giá của Washington Post về 47.000 cuộc trò chuyện, OpenAI đã thiết kế ChatGPT để cực kỳ dễ đồng tình, nói “có” nhiều gấp khoảng mười lần so với “không”. Điều này tạo thành yếu tố thứ tư của vụ án – khai thác thương mại thông qua sự nịnh bợ. Nói cách khác, ChatGPT lặp lại một cách lạc quan các phản hồi của người dùng nhằm thao túng họ vào những cuộc trò chuyện sâu hơn, bất kể sự thật hay tính an toàn.

But according to the lawsuit, even ordinary use carries a cost: it weakens people’s brain activity and critical thinking skills (also known as cognitive atrophy) . This is the fifth element of the case.

Nhưng theo vụ kiện, ngay cả việc sử dụng thông thường cũng mang lại chi phí: nó làm suy yếu hoạt động não bộ và kỹ năng tư duy phản biện của con người (còn được gọi là teo nhận thức) . Đây là yếu tố thứ năm của vụ án.

The sixth and final element is knowledge – specifically, the knowledge of Samuel Altman. According to Uthmeier, since at least 2023, OpenAI’s own documents warned that the model could coach people on committing crimes, but Altman overruled the safety staff.

Yếu tố thứ sáu và cuối cùng là kiến thức – cụ thể là kiến thức của Samuel Altman. Theo Uthmeier, kể từ ít nhất năm 2023, các tài liệu của chính OpenAI đã cảnh báo rằng mô hình có thể hướng dẫn mọi người thực hiện tội phạm, nhưng Altman đã bác bỏ lời cảnh báo của đội ngũ an toàn.

These six elements paint a picture of a product marketed as safe, engineered to be addictive, and known by its own makers to be dangerous – yet sold to us, anyway.

Sáu yếu tố này vẽ nên bức tranh về một sản phẩm được tiếp thị là an toàn, được thiết kế để gây nghiện, và được chính những nhà sản xuất của nó biết là nguy hiểm – nhưng vẫn được bán cho chúng ta.

Altman is at the centre of that picture. The complaint reconstructs his career and reaches for an April 2026 New Yorker investigation and testimony from the recent legal battle between Elon Musk and OpenAI to depict a man, who in Uthmeier’s telling, repeatedly chose speed over safety.

Altman là trung tâm của bức tranh đó. Đơn khiếu nại tái cấu trúc sự nghiệp của ông và đề cập đến một cuộc điều tra của New Yorker tháng 4 năm 2026 và lời khai từ cuộc chiến pháp lý gần đây giữa Elon Musk và OpenAI để mô tả một người đàn ông, người mà theo lời kể của Uthmeier, đã liên tục chọn tốc độ hơn sự an toàn.

That is why Uthmeier is asking the court to hold Altman personally liable for “his utter disregard for the risk to human life”.

Đó là lý do tại sao Uthmeier yêu cầu tòa án buộc Altman phải chịu trách nhiệm cá nhân vì “sự coi thường hoàn toàn của ông đối với rủi ro đối với tính mạng con người”.

Pay for past harms

Bồi thường cho những tổn hại trong quá khứ

Uthmeier is asking the court to declare that OpenAI broke the law, then to order the company to stop – permanently – its unlawful practices.

Uthmeier yêu cầu tòa án tuyên bố rằng OpenAI đã vi phạm pháp luật, sau đó ra lệnh cho công ty ngừng – vĩnh viễn – các hành vi bất hợp pháp của mình.

He wants the company barred from collecting children’s data without parental consent and the safeguards that should come with it, and barred from misrepresenting or staying silent about ChatGPT’s risks.

Ông muốn công ty bị cấm thu thập dữ liệu của trẻ em mà không có sự đồng ý của phụ huynh cùng các biện pháp bảo vệ đi kèm, và bị cấm xuyên tạc hoặc im lặng về các rủi ro của ChatGPT.

On top of the injunctions, the state is seeking civil penalties of up to US$10,000 per violation for OpenAI’s alleged wilful violation of the the Florida Deceptive and Unfair Trade Practices Act. Uthmeier said penalties could total billions of dollars.

Ngoài các lệnh cấm, tiểu bang còn yêu cầu các hình phạt dân sự lên tới 10.000 USD cho mỗi lần vi phạm đối với cáo buộc OpenAI cố ý vi phạm Đạo luật Thực hành Thương mại Gây hiểu lầm và Không công bằng của Florida. Uthmeier cho biết các khoản phạt này có thể lên tới hàng tỷ đô la.

In other words: pay for the past harms and change the product going forward.

Nói cách khác: bồi thường cho những tổn hại trong quá khứ và thay đổi sản phẩm trong tương lai.

In a statement to The Conversation, an OpenAI spokesperson pointed to the company’s “industry leading protections and policies” regarding user safety.

Trong một tuyên bố gửi The Conversation, một phát ngôn viên của OpenAI đã chỉ ra “các biện pháp bảo vệ và chính sách hàng đầu ngành” của công ty liên quan đến an toàn người dùng.

In particular we built safety for minors directly into our products, including a more protective experience specifically for minors, an age prediction tool, defaulting users whose age we are not confident into our more protective experience, and giving parents tools to monitor their kids use of AI.
Đặc biệt, chúng tôi đã tích hợp tính năng an toàn cho trẻ vị thành niên trực tiếp vào sản phẩm của mình, bao gồm trải nghiệm bảo vệ hơn dành riêng cho trẻ vị thành niên, công cụ dự đoán tuổi, mặc định chuyển người dùng mà chúng tôi không chắc chắn về tuổi tác sang trải nghiệm bảo vệ hơn, và cung cấp cho phụ huynh các công cụ để giám sát việc sử dụng AI của con cái họ.

Adding to a growing pile

Thêm vào một đống ngày càng lớn

This lawsuit is a significant development, but it has not arrived in a vacuum.

Vụ kiện này là một diễn biến quan trọng, nhưng nó không phải là sự việc đơn lẻ.

Across the US, the courts are filling with cases accusing tech companies of harming young people. In April, for example, Uthmeier launched a criminal investigation into OpenAI over the chatbot’s alleged role in a shooting at Florida State University.

Trên khắp Hoa Kỳ, các tòa án đang chất đầy các vụ kiện cáo buộc các công ty công nghệ gây hại cho giới trẻ. Ví dụ, vào tháng 4, Uthmeier đã khởi xướng một cuộc điều tra hình sự đối với OpenAI về vai trò bị cáo buộc của chatbot này trong vụ xả súng tại Đại học Bang Florida.

Some juries have started to side with the plaintiffs.

Một số bồi thẩm đoàn đã bắt đầu đứng về phía nguyên đơn.

In March 2026, for example, a New Mexico jury hit Meta with a US$375 million penalty in a child safety case. Days later, a jury in Los Angeles found Meta and Google liable in a landmark trial over social media addiction.

Ví dụ, vào tháng 3 năm 2026, một bồi thẩm đoàn ở New Mexico đã phạt Meta 375 triệu USD trong một vụ án liên quan đến an toàn trẻ em. Vài ngày sau đó, một bồi thẩm đoàn ở Los Angeles đã tuyên bố Meta và Google chịu trách nhiệm trong một phiên tòa mang tính bước ngoặt về chứng nghiện mạng xã hội.

This case rides the same current. But it broadens the scope by alleging Altman himself should be personally responsible.

Vụ kiện này đi theo dòng chảy tương tự. Nhưng nó mở rộng phạm vi bằng cách cáo buộc chính Altman phải chịu trách nhiệm cá nhân.

Uthmeier is demanding a trial by jury.

Uthmeier đang yêu cầu một phiên tòa xét xử bởi bồi thẩm đoàn.

Alexandra Andhov is the director of ALTeR (Center for Advancing Law and Technology Responsibly) at the University of Auckland. She received funding from the Independent Research Fund Denmark for the “PROFIT” Project (Gaps and Opportunities in Corporate Governance of Big Tech Companies) to research big tech companies.

Alexandra Andhov là giám đốc của ALTeR (Trung tâm Phát triển Luật và Công nghệ có Trách nhiệm) tại Đại học Auckland. Bà đã nhận được tài trợ từ Quỹ Nghiên cứu Độc lập Đan Mạch cho Dự án “PROFIT” (Khoảng trống và Cơ hội trong Quản trị Doanh nghiệp của các Công ty Công nghệ Lớn) để nghiên cứu các công ty công nghệ lớn.

Read more