Choose your language to read side by side with English.

‘Utter disregard for the risk to human life’: Florida sues OpenAI and Sam Altman over AI safety
, ,

‘Total desprezo pelo risco à vida humana’: Flórida processa OpenAI e Sam Altman por segurança de IA.

‘Utter disregard for the risk to human life’: Florida sues OpenAI and Sam Altman over AI safety

Alexandra Andhov, Chair in Law and Technology, University of Auckland, Waipapa Taumata Rau
Show
Hide
EN – PT
PT – EN

The case is one of the most significant actions brought against an artificial intelligence company to date.

O caso é uma das ações mais significativas movidas contra uma empresa de inteligência artificial até o momento.

The US state of Florida has filed a lawsuit against OpenAI and Sam Altman, alleging the tech giant and its CEO put profit over public safety with its flagship artificial intelligence (AI) product, ChatGPT.

O estado americano da Flórida moveu uma ação judicial contra a OpenAI e Sam Altman, alegando que o gigante da tecnologia e seu CEO priorizaram o lucro em detrimento da segurança pública com seu produto de inteligência artificial (IA) carro-chefe, o ChatGPT.

The lawsuit, filed in Florida state court on Monday local time by Florida’s attorney general James Uthmeier, is one of the most significant enforcement actions brought by a state attorney against an AI company to date.

A ação judicial, movida no tribunal estadual da Flórida na segunda-feira, horário local, pelo promotor-geral da Flórida, James Uthmeier, é uma das ações de fiscalização mais significativas movidas por um promotor estadual contra uma empresa de IA até hoje.

It comes as OpenAI and other big tech companies are embroiled in a growing number of legal cases related to the alleged harm their products have caused.

Isso ocorre enquanto a OpenAI e outras grandes empresas de tecnologia estão envolvidas em um número crescente de casos legais relacionados ao alegado dano que seus produtos causaram.

Six key elements

Seis elementos chave

The complaint opens with a screenshot of OpenAI’s own parental-control page, which states that ChatGPT was “built with safety in mind”. Then, in a standalone paragraph, the State answers with two words: “Not so”.

A queixa começa com uma captura de tela da própria página de controle parental da OpenAI, que afirma que o ChatGPT foi “construído pensando na segurança”. Em seguida, em um parágrafo separado, o Estado responde com duas palavras: “Não é”.

This signals the central allegation of the case: that OpenAI sold ChatGPT to the public as safe and reliable, while knowing it could cause serious harm

Isso sinaliza a alegação central do caso: que a OpenAI vendeu o ChatGPT ao público como seguro e confiável, sabendo que ele poderia causar danos sérios.

More specifically, there are six key themes to Florida’s case against OpenAI. The first is that the company engaged in deceptive safety marketing, assuring parents the platform is safe for teenage use, while not clearly disclosing that ChatGPT can be wrong.

Mais especificamente, há seis temas principais no caso da Flórida contra a OpenAI. O primeiro é que a empresa realizou um marketing de segurança enganoso, garantindo aos pais que a plataforma é segura para uso adolescente, sem divulgar claramente que o ChatGPT pode estar errado.

Second, despite OpenAI’s marketing, ChatGPT is unreliable. A 2025 study, for example, found AI assistants, such as ChatGPT, misrepresent the news roughly 45% of the time. Similarly, despite marketing suggesting ChatGPT can handle financial affairs, ChatGPT has failed in meeting basic accounting standards and provided incorrect tax advice to users.

Segundo, apesar do marketing da OpenAI, o ChatGPT é não confiável. Um estudo de 2025, por exemplo, descobriu que assistentes de IA, como o ChatGPT, deturpam notícias em cerca de 45% das vezes. Da mesma forma, apesar do marketing sugerir que o ChatGPT pode lidar com assuntos financeiros, ele falhou em atender aos padrões contábeis básicos e forneceu aconselhamento fiscal incorreto aos usuários.

The third element of the case is the public safety threat. The danger to young people in particular is illustrated by the tragic story of Adam Raine, a 16-year-old who died by suicide in April 2025 after engaging in long conversations with ChatGPT. When Adam expressed suicidal thoughts, ChatGPT responded that it “won’t try to talk you out of your feelings”. It helped Adam plan a “beautiful suicide” and even offered to write his suicide note for him.

O terceiro elemento do caso é a ameaça à segurança pública. O perigo para os jovens em particular é ilustrado pela trágica história de Adam Raine, um jovem de 16 anos que morreu por suicídio em abril de 2025 após participar de longas conversas com o ChatGPT. Quando Adam expressou pensamentos suicidas, o ChatGPT respondeu que “não tentaria fazer você mudar de ideia sobre seus sentimentos”. Ele ajudou Adam a planejar um “belo suicídio” e até se ofereceu para escrever sua nota de suicídio.

Why would a product behave this way? Because, Uthmeier argues, it was built to.

Por que um produto se comportaria dessa maneira? Porque, argumenta Uthmeier, ele foi construído para isso.

OpenAI designed ChatGPT to be highly agreeable, to say “yes” roughly ten times as often as “no”, according to a Washington Post review of 47,000 conversations. This forms the fourth element of the case – commercial exploitation through sycophancy. In other words, ChatGPT optimistically parrots back users’ responses in order to to manipulate them into deeper conversations, regardless of truth or safety.

A OpenAI projetou o ChatGPT para ser altamente concordante, para dizer “sim” cerca de dez vezes mais vezes do que “não”, de acordo com uma análise do Washington Post de 47.000 conversas. Isso forma o quarto elemento do caso – a exploração comercial através da bajulação. Em outras palavras, o ChatGPT repete otimisticamente as respostas dos usuários para manipulá-los em conversas mais profundas, independentemente da verdade ou segurança.

But according to the lawsuit, even ordinary use carries a cost: it weakens people’s brain activity and critical thinking skills (also known as cognitive atrophy) . This is the fifth element of the case.

Mas, de acordo com o processo, até mesmo o uso comum acarreta um custo: ele enfraquece a atividade cerebral e as habilidades de pensamento crítico das pessoas (também conhecido como atrofia cognitiva) . Este é o quinto elemento do caso.

The sixth and final element is knowledge – specifically, the knowledge of Samuel Altman. According to Uthmeier, since at least 2023, OpenAI’s own documents warned that the model could coach people on committing crimes, but Altman overruled the safety staff.

O sexto e último elemento é o conhecimento – especificamente, o conhecimento de Samuel Altman. De acordo com Uthmeier, desde pelo menos 2023, os próprios documentos da OpenAI alertavam que o modelo poderia orientar pessoas a cometer crimes, mas Altman ignorou a equipe de segurança.

These six elements paint a picture of a product marketed as safe, engineered to be addictive, and known by its own makers to be dangerous – yet sold to us, anyway.

Esses seis elementos pintam um quadro de um produto comercializado como seguro, projetado para ser viciante e conhecido por seus próprios criadores como perigoso – mas vendido para nós, de qualquer maneira.

Altman is at the centre of that picture. The complaint reconstructs his career and reaches for an April 2026 New Yorker investigation and testimony from the recent legal battle between Elon Musk and OpenAI to depict a man, who in Uthmeier’s telling, repeatedly chose speed over safety.

Altman está no centro desse quadro. A queixa reconstrói sua carreira e recorre a uma investigação de abril de 2026 do New Yorker e a depoimentos da recente batalha legal entre Elon Musk e a OpenAI para retratar um homem que, segundo Uthmeier, escolheu repetidamente a velocidade em detrimento da segurança.

That is why Uthmeier is asking the court to hold Altman personally liable for “his utter disregard for the risk to human life”.

É por isso que Uthmeier pede ao tribunal que responsabilize Altman pessoalmente por “seu completo desrespeito ao risco para a vida humana”.

Pay for past harms

Pagar pelos danos passados

Uthmeier is asking the court to declare that OpenAI broke the law, then to order the company to stop – permanently – its unlawful practices.

Uthmeier está pedindo ao tribunal que declare que a OpenAI violou a lei e, em seguida, ordene que a empresa pare – permanentemente – suas práticas ilegais.

He wants the company barred from collecting children’s data without parental consent and the safeguards that should come with it, and barred from misrepresenting or staying silent about ChatGPT’s risks.

Ele quer que a empresa seja proibida de coletar dados de crianças sem o consentimento dos pais e das salvaguardas que devem acompanhá-lo, e que seja proibida de deturpar ou permanecer em silêncio sobre os riscos do ChatGPT.

On top of the injunctions, the state is seeking civil penalties of up to US$10,000 per violation for OpenAI’s alleged wilful violation of the the Florida Deceptive and Unfair Trade Practices Act. Uthmeier said penalties could total billions of dollars.

Além das inibições, o estado está buscando penalidades civis de até US$ 10.000 por violação pela suposta violação intencional da OpenAI do Florida Deceptive and Unfair Trade Practices Act. Uthmeier disse que as penalidades poderiam totalizar bilhões de dólares.

In other words: pay for the past harms and change the product going forward.

Em outras palavras: pagar pelos danos passados e mudar o produto daqui para frente.

In a statement to The Conversation, an OpenAI spokesperson pointed to the company’s “industry leading protections and policies” regarding user safety.

Em um comunicado ao The Conversation, um porta-voz da OpenAI apontou para as “proteções e políticas líderes do setor” da empresa em relação à segurança do usuário.

In particular we built safety for minors directly into our products, including a more protective experience specifically for minors, an age prediction tool, defaulting users whose age we are not confident into our more protective experience, and giving parents tools to monitor their kids use of AI.
Em particular, construímos segurança para menores diretamente em nossos produtos, incluindo uma experiência mais protetora especificamente para menores, uma ferramenta de previsão de idade, que define usuários cuja idade não temos certeza em nossa experiência mais protetora, e dando aos pais ferramentas para monitorar o uso de IA de seus filhos.

Adding to a growing pile

Adicionando a um monte crescente

This lawsuit is a significant development, but it has not arrived in a vacuum.

Este processo é um desenvolvimento significativo, mas não surgiu no vácuo.

Across the US, the courts are filling with cases accusing tech companies of harming young people. In April, for example, Uthmeier launched a criminal investigation into OpenAI over the chatbot’s alleged role in a shooting at Florida State University.

Em todo os EUA, os tribunais estão se enchendo de casos acusando empresas de tecnologia de prejudicar jovens. Em abril, por exemplo, Uthmeier lançou uma investigação criminal contra a OpenAI devido ao suposto papel do chatbot em um tiroteio na Florida State University.

Some juries have started to side with the plaintiffs.

Alguns júris começaram a se solidarizar com os autores.

In March 2026, for example, a New Mexico jury hit Meta with a US$375 million penalty in a child safety case. Days later, a jury in Los Angeles found Meta and Google liable in a landmark trial over social media addiction.

Em março de 2026, por exemplo, um júri do Novo México multou a Meta em US$ 375 milhões em um caso de segurança infantil. Dias depois, um júri em Los Angeles considerou a Meta e o Google responsáveis em um julgamento histórico sobre vício em mídias sociais.

This case rides the same current. But it broadens the scope by alleging Altman himself should be personally responsible.

Este caso segue a mesma corrente. Mas ele amplia o escopo ao alegar que Altman mesmo deveria ser pessoalmente responsável.

Uthmeier is demanding a trial by jury.

Uthmeier está exigindo um julgamento por júri.

Alexandra Andhov is the director of ALTeR (Center for Advancing Law and Technology Responsibly) at the University of Auckland. She received funding from the Independent Research Fund Denmark for the “PROFIT” Project (Gaps and Opportunities in Corporate Governance of Big Tech Companies) to research big tech companies.

Alexandra Andhov é a diretora do ALTeR (Centro para o Avanço Responsável do Direito e da Tecnologia) na Universidade de Auckland. Ela recebeu financiamento do Independent Research Fund Denmark para o Projeto “PROFIT” (Lacunas e Oportunidades na Governança Corporativa de Grandes Empresas de Tecnologia) para pesquisar grandes empresas de tecnologia.

Read more