‘Desprecio total por el riesgo para la vida humana’: Florida demanda a OpenAI y Sam Altman por seguridad de IA
‘Utter disregard for the risk to human life’: Florida sues OpenAI and Sam Altman over AI safety
The case is one of the most significant actions brought against an artificial intelligence company to date.
El caso es una de las acciones más significativas presentadas contra una compañía de inteligencia artificial hasta la fecha.
The US state of Florida has filed a lawsuit against OpenAI and Sam Altman, alleging the tech giant and its CEO put profit over public safety with its flagship artificial intelligence (AI) product, ChatGPT.
El estado de Florida en EE. UU. presentó una demanda contra OpenAI y Sam Altman, alegando que el gigante tecnológico y su CEO priorizaron las ganancias sobre la seguridad pública con su producto estrella de inteligencia artificial (IA) , ChatGPT.
The lawsuit, filed in Florida state court on Monday local time by Florida’s attorney general James Uthmeier, is one of the most significant enforcement actions brought by a state attorney against an AI company to date.
La demanda, presentada el lunes en el tribunal estatal de Florida por el fiscal general de Florida, James Uthmeier, es una de las acciones de cumplimiento más significativas presentadas por un fiscal estatal contra una empresa de IA hasta la fecha.
It comes as OpenAI and other big tech companies are embroiled in a growing number of legal cases related to the alleged harm their products have caused.
Esto ocurre mientras que OpenAI y otras grandes empresas tecnológicas están involucradas en un creciente número de casos legales relacionados con el daño supuesto que sus productos han causado.
Six key elements
Seis elementos clave
The complaint opens with a screenshot of OpenAI’s own parental-control page, which states that ChatGPT was “built with safety in mind”. Then, in a standalone paragraph, the State answers with two words: “Not so”.
La denuncia comienza con una captura de pantalla de la propia página de control parental de OpenAI, que afirma que ChatGPT fue «creado pensando en la seguridad.» Luego, en un párrafo independiente, el Estado responde con dos palabras: «No lo es.»
This signals the central allegation of the case: that OpenAI sold ChatGPT to the public as safe and reliable, while knowing it could cause serious harm
Esto señala la acusación central del caso: que OpenAI vendió ChatGPT al público como seguro y confiable, sabiendo que podía causar daños graves.
More specifically, there are six key themes to Florida’s case against OpenAI. The first is that the company engaged in deceptive safety marketing, assuring parents the platform is safe for teenage use, while not clearly disclosing that ChatGPT can be wrong.
Más específicamente, hay seis temas clave en el caso de Florida contra OpenAI. El primero es que la compañía incurrió en mercadotecnia de seguridad engañosa, asegurando a los padres que la plataforma es segura para el uso adolescente, sin revelar claramente que ChatGPT puede estar equivocado.
Second, despite OpenAI’s marketing, ChatGPT is unreliable. A 2025 study, for example, found AI assistants, such as ChatGPT, misrepresent the news roughly 45% of the time. Similarly, despite marketing suggesting ChatGPT can handle financial affairs, ChatGPT has failed in meeting basic accounting standards and provided incorrect tax advice to users.
Segundo, a pesar del marketing de OpenAI, ChatGPT es poco confiable. Un estudio de 2025, por ejemplo, encontró que los asistentes de IA, como ChatGPT, tergiversan las noticias aproximadamente el 45% de las veces. De manera similar, a pesar del marketing que sugiere que ChatGPT puede manejar asuntos financieros, ChatGPT ha fallado en cumplir con los estándares contables básicos y ha proporcionado asesoramiento fiscal incorrecto a los usuarios.
The third element of the case is the public safety threat. The danger to young people in particular is illustrated by the tragic story of Adam Raine, a 16-year-old who died by suicide in April 2025 after engaging in long conversations with ChatGPT. When Adam expressed suicidal thoughts, ChatGPT responded that it “won’t try to talk you out of your feelings”. It helped Adam plan a “beautiful suicide” and even offered to write his suicide note for him.
El tercer elemento del caso es la amenaza a la seguridad pública. El peligro para los jóvenes en particular lo ilustra la trágica historia de Adam Raine, un joven de 16 años que se suicidó en abril de 2025 después de tener largas conversaciones con ChatGPT. Cuando Adam expresó pensamientos suicidas, ChatGPT respondió que «no intentaría hacerte cambiar de opinión sobre tus sentimientos.» Ayudó a Adam a planear un «hermoso suicidio» e incluso se ofreció a escribir su nota de suicidio.
Why would a product behave this way? Because, Uthmeier argues, it was built to.
¿Por qué se comportaría un producto de esta manera? Porque, argumenta Uthmeier, fue construido para ello.
OpenAI designed ChatGPT to be highly agreeable, to say “yes” roughly ten times as often as “no”, according to a Washington Post review of 47,000 conversations. This forms the fourth element of the case – commercial exploitation through sycophancy. In other words, ChatGPT optimistically parrots back users’ responses in order to to manipulate them into deeper conversations, regardless of truth or safety.
OpenAI diseñó ChatGPT para que fuera altamente complaciente, para decir «sí» aproximadamente diez veces más a menudo que «no», según una revisión del Washington Post de 47,000 conversaciones. Esto constituye el cuarto elemento del caso: la explotación comercial a través de la adulación. En otras palabras, ChatGPT repite optimísticamente las respuestas de los usuarios para manipularlos hacia conversaciones más profundas, independientemente de la verdad o la seguridad.
But according to the lawsuit, even ordinary use carries a cost: it weakens people’s brain activity and critical thinking skills (also known as cognitive atrophy) . This is the fifth element of the case.
Pero según la demanda, incluso el uso ordinario conlleva un costo: debilita la actividad cerebral y las habilidades de pensamiento crítico de las personas (también conocido como atrofia cognitiva) . Este es el quinto elemento del caso.
The sixth and final element is knowledge – specifically, the knowledge of Samuel Altman. According to Uthmeier, since at least 2023, OpenAI’s own documents warned that the model could coach people on committing crimes, but Altman overruled the safety staff.
El sexto y último elemento es el conocimiento, específicamente, el conocimiento de Samuel Altman. Según Uthmeier, desde al menos 2023, los propios documentos de OpenAI advertían que el modelo podría enseñar a las personas a cometer crímenes, pero Altman desestimó al personal de seguridad.
These six elements paint a picture of a product marketed as safe, engineered to be addictive, and known by its own makers to be dangerous – yet sold to us, anyway.
Estos seis elementos pintan un cuadro de un producto comercializado como seguro, diseñado para ser adictivo y conocido por sus propios creadores como peligroso, pero vendido de todos modos.
Altman is at the centre of that picture. The complaint reconstructs his career and reaches for an April 2026 New Yorker investigation and testimony from the recent legal battle between Elon Musk and OpenAI to depict a man, who in Uthmeier’s telling, repeatedly chose speed over safety.
Altman está en el centro de ese cuadro. La denuncia reconstruye su carrera y hace referencia a una investigación de The New Yorker de abril de 2026 y a testimonios de la reciente batalla legal entre Elon Musk y OpenAI para retratar a un hombre que, según el relato de Uthmeier, eligió repetidamente la velocidad sobre la seguridad.
That is why Uthmeier is asking the court to hold Altman personally liable for “his utter disregard for the risk to human life”.
Por eso Uthmeier pide al tribunal que responsabilice personalmente a Altman por «su total desprecio por el riesgo para la vida humana.»
Pay for past harms
Pagar por daños pasados
Uthmeier is asking the court to declare that OpenAI broke the law, then to order the company to stop – permanently – its unlawful practices.
Uthmeier está pidiendo al tribunal que declare que OpenAI violó la ley, y luego que ordene a la compañía que detenga —permanentemente— sus prácticas ilegales.
He wants the company barred from collecting children’s data without parental consent and the safeguards that should come with it, and barred from misrepresenting or staying silent about ChatGPT’s risks.
Quiere que se prohíba a la compañía recopilar datos de niños sin el consentimiento de los padres y las salvaguardias que deberían acompañarlo, y que se prohíba que tergiverse o guarde silencio sobre los riesgos de ChatGPT.
On top of the injunctions, the state is seeking civil penalties of up to US$10,000 per violation for OpenAI’s alleged wilful violation of the the Florida Deceptive and Unfair Trade Practices Act. Uthmeier said penalties could total billions of dollars.
Además de las interdicciones, el estado busca sanciones civiles de hasta US$10,000 por violación por la presunta violación deliberada de OpenAI de la Ley de Prácticas Comerciales Engañosas e Injustas de Florida. Uthmeier dijo que las sanciones podrían sumar miles de millones de dólares.
In other words: pay for the past harms and change the product going forward.
En otras palabras: pagar por los daños pasados y cambiar el producto en el futuro.
In a statement to The Conversation, an OpenAI spokesperson pointed to the company’s “industry leading protections and policies” regarding user safety.
En un comunicado a The Conversation, un portavoz de OpenAI señaló las “protecciones y políticas líderes en la industria” de la compañía con respecto a la seguridad del usuario.
In particular we built safety for minors directly into our products, including a more protective experience specifically for minors, an age prediction tool, defaulting users whose age we are not confident into our more protective experience, and giving parents tools to monitor their kids use of AI.
En particular, incorporamos la seguridad para menores directamente en nuestros productos, incluida una experiencia más protectora específicamente para menores, una herramienta de predicción de edad, que por defecto dirige a los usuarios cuya edad no nos da confianza a nuestra experiencia más protectora, y que da a los padres herramientas para monitorear el uso de IA de sus hijos.
Adding to a growing pile
Añadiendo a una pila creciente
This lawsuit is a significant development, but it has not arrived in a vacuum.
Esta demanda es un desarrollo significativo, pero no ha surgido en el vacío.
Across the US, the courts are filling with cases accusing tech companies of harming young people. In April, for example, Uthmeier launched a criminal investigation into OpenAI over the chatbot’s alleged role in a shooting at Florida State University.
En todo EE. UU., los tribunales se están llenando de casos que acusan a las empresas tecnológicas de dañar a los jóvenes. En abril, por ejemplo, Uthmeier inició una investigación penal contra OpenAI por el presunto papel del chatbot en un tiroteo en la Universidad Estatal de Florida.
Some juries have started to side with the plaintiffs.
Algunos jurados han comenzado a estar del lado de los demandantes.
In March 2026, for example, a New Mexico jury hit Meta with a US$375 million penalty in a child safety case. Days later, a jury in Los Angeles found Meta and Google liable in a landmark trial over social media addiction.
En marzo de 2026, por ejemplo, un jurado de Nuevo México multó a Meta con 375 millones de dólares estadounidenses en un caso de seguridad infantil. Días después, un jurado en Los Ángeles encontró a Meta y Google responsables en un juicio histórico sobre la adicción a las redes sociales.
This case rides the same current. But it broadens the scope by alleging Altman himself should be personally responsible.
Este caso sigue la misma corriente. Pero amplía el alcance al alegar que Altman mismo debería ser personalmente responsable.
Uthmeier is demanding a trial by jury.
Uthmeier exige un juicio por jurado.
Alexandra Andhov is the director of ALTeR (Center for Advancing Law and Technology Responsibly) at the University of Auckland. She received funding from the Independent Research Fund Denmark for the «PROFIT» Project (Gaps and Opportunities in Corporate Governance of Big Tech Companies) to research big tech companies.
Alexandra Andhov es la directora de ALTeR (Centro para el Avance Responsable del Derecho y la Tecnología) en la Universidad de Auckland. Recibió financiación del Fondo de Investigación Independiente de Dinamarca para el Proyecto «PROFIT» (Brechas y Oportunidades en la Gobernanza Corporativa de las Grandes Empresas Tecnológicas) para investigar a las grandes empresas tecnológicas.
Read more
-
¿Qué es la ‘sincronización con el ciclo’ y cómo podría afectar la menstruación?
What is ‘cycle syncing’, and how might it affect menstruation?
-
De Fleabag a Vladimir: ¿por qué ha llegado a ser tan común romper la cuarta pared?
From Fleabag to Vladimir: why has breaking the fourth wall has become so common?