Choose your language to read side by side with English.

‘Utter disregard for the risk to human life’: Florida sues OpenAI and Sam Altman over AI safety
, ,

« Mépris total pour le risque pour la vie humaine » : la Floride poursuit OpenAI et Sam Altman au sujet de la sécurité de l’IA

‘Utter disregard for the risk to human life’: Florida sues OpenAI and Sam Altman over AI safety

Alexandra Andhov, Chair in Law and Technology, University of Auckland, Waipapa Taumata Rau
Show
Hide
EN – FR
FR – EN

The case is one of the most significant actions brought against an artificial intelligence company to date.

Cette affaire est l’une des actions les plus importantes intentées contre une entreprise d’intelligence artificielle à ce jour.

The US state of Florida has filed a lawsuit against OpenAI and Sam Altman, alleging the tech giant and its CEO put profit over public safety with its flagship artificial intelligence (AI) product, ChatGPT.

L’État américain de Floride a déposé un procès contre OpenAI et Sam Altman, alléguant que le géant technologique et son PDG ont privilégié le profit sur la sécurité publique avec son produit phare d’intelligence artificielle (IA) , ChatGPT.

The lawsuit, filed in Florida state court on Monday local time by Florida’s attorney general James Uthmeier, is one of the most significant enforcement actions brought by a state attorney against an AI company to date.

Ce procès, déposé au tribunal de l’État de Floride lundi heure locale par le procureur général de Floride, James Uthmeier, est l’une des actions les plus importantes menées par un procureur d’État contre une entreprise d’IA à ce jour.

It comes as OpenAI and other big tech companies are embroiled in a growing number of legal cases related to the alleged harm their products have caused.

Cela intervient alors qu’OpenAI et d’autres grandes entreprises technologiques sont impliquées dans un nombre croissant de litiges liés aux préjudices allégués causés par leurs produits.

Six key elements

Six éléments clés

The complaint opens with a screenshot of OpenAI’s own parental-control page, which states that ChatGPT was “built with safety in mind”. Then, in a standalone paragraph, the State answers with two words: “Not so”.

La plainte commence par une capture d’écran de la propre page de contrôle parental d’OpenAI, qui stipule que ChatGPT a été « conçu en toute sécurité ». Ensuite, dans un paragraphe distinct, l’État répond par deux mots: « Pas du tout ».

This signals the central allegation of the case: that OpenAI sold ChatGPT to the public as safe and reliable, while knowing it could cause serious harm

Ceci signale l’allégation centrale de l’affaire: qu’OpenAI a vendu ChatGPT au public comme étant sûr et fiable, tout en sachant qu’il pouvait causer de graves dommages.

More specifically, there are six key themes to Florida’s case against OpenAI. The first is that the company engaged in deceptive safety marketing, assuring parents the platform is safe for teenage use, while not clearly disclosing that ChatGPT can be wrong.

Plus précisément, il y a six thèmes clés dans le procès de la Floride contre OpenAI. Le premier est que l’entreprise a mené un marketing de sécurité trompeur, rassurant les parents sur le fait que la plateforme est sûre pour les adolescents, sans divulguer clairement que ChatGPT peut se tromper.

Second, despite OpenAI’s marketing, ChatGPT is unreliable. A 2025 study, for example, found AI assistants, such as ChatGPT, misrepresent the news roughly 45% of the time. Similarly, despite marketing suggesting ChatGPT can handle financial affairs, ChatGPT has failed in meeting basic accounting standards and provided incorrect tax advice to users.

Deuxièmement, malgré le marketing d’OpenAI, ChatGPT est peu fiable. Une étude de 2025, par exemple, a révélé que les assistants IA, tels que ChatGPT, déforment l’actualité environ 45 % du temps. De même, malgré le marketing suggérant que ChatGPT peut gérer les affaires financières, ChatGPT n’a pas respecté les normes comptables de base et a fourni des conseils fiscaux incorrects aux utilisateurs.

The third element of the case is the public safety threat. The danger to young people in particular is illustrated by the tragic story of Adam Raine, a 16-year-old who died by suicide in April 2025 after engaging in long conversations with ChatGPT. When Adam expressed suicidal thoughts, ChatGPT responded that it “won’t try to talk you out of your feelings”. It helped Adam plan a “beautiful suicide” and even offered to write his suicide note for him.

Le troisième élément de l’affaire est la menace pour la sécurité publique. Le danger pour les jeunes en particulier est illustré par l’histoire tragique d’Adam Raine, un jeune de 16 ans qui s’est suicidé en avril 2025 après avoir eu de longues conversations avec ChatGPT. Lorsque Adam a exprimé des pensées suicidaires, ChatGPT a répondu qu’il « n’essaierait pas de vous faire changer d’avis sur vos sentiments ». Il a aidé Adam à planifier un « beau suicide » et a même offert d’écrire sa note de suicide pour lui.

Why would a product behave this way? Because, Uthmeier argues, it was built to.

Pourquoi un produit se comporterait-il de cette manière? Parce que, argumente Uthmeier, il a été conçu pour cela.

OpenAI designed ChatGPT to be highly agreeable, to say “yes” roughly ten times as often as “no”, according to a Washington Post review of 47,000 conversations. This forms the fourth element of the case – commercial exploitation through sycophancy. In other words, ChatGPT optimistically parrots back users’ responses in order to to manipulate them into deeper conversations, regardless of truth or safety.

OpenAI a conçu ChatGPT pour qu’il soit très conciliant, disant « oui » environ dix fois plus souvent que « non », selon un examen du Washington Post de 47 000 conversations. Cela constitue le quatrième élément de l’affaire – l’exploitation commerciale par sycophantisme. En d’autres termes, ChatGPT répète de manière optimiste les réponses des utilisateurs afin de les manipuler vers des conversations plus profondes, quelle que soit la vérité ou la sécurité.

But according to the lawsuit, even ordinary use carries a cost: it weakens people’s brain activity and critical thinking skills (also known as cognitive atrophy) . This is the fifth element of the case.

Mais selon le procès, même l’utilisation ordinaire a un coût: elle affaiblit l’activité cérébrale et les capacités de pensée critique des gens (également appelées atrophie cognitive) . C’est le cinquième élément de l’affaire.

The sixth and final element is knowledge – specifically, the knowledge of Samuel Altman. According to Uthmeier, since at least 2023, OpenAI’s own documents warned that the model could coach people on committing crimes, but Altman overruled the safety staff.

Le sixième et dernier élément est la connaissance – spécifiquement, la connaissance de Samuel Altman. Selon Uthmeier, depuis au moins 2023, les propres documents d’OpenAI avertissaient que le modèle pouvait coacher les gens sur la manière de commettre des crimes, mais Altman a ignoré les avertissements du personnel de sécurité.

These six elements paint a picture of a product marketed as safe, engineered to be addictive, and known by its own makers to be dangerous – yet sold to us, anyway.

Ces six éléments brossent le tableau d’un produit commercialisé comme sûr, conçu pour être addictif, et dont les créateurs savent qu’il est dangereux – et pourtant vendu quand même.

Altman is at the centre of that picture. The complaint reconstructs his career and reaches for an April 2026 New Yorker investigation and testimony from the recent legal battle between Elon Musk and OpenAI to depict a man, who in Uthmeier’s telling, repeatedly chose speed over safety.

Altman est au centre de ce tableau. La plainte reconstruit sa carrière et se penche sur une enquête du New Yorker de avril 2026 et sur le témoignage de la récente bataille juridique entre Elon Musk et OpenAI pour dépeindre un homme qui, selon Uthmeier, a choisi de manière répétée la vitesse plutôt que la sécurité.

That is why Uthmeier is asking the court to hold Altman personally liable for “his utter disregard for the risk to human life”.

C’est pourquoi Uthmeier demande au tribunal de tenir Altman personnellement responsable de « son mépris total pour le risque pour la vie humaine ».

Pay for past harms

Payer pour les préjudices passés

Uthmeier is asking the court to declare that OpenAI broke the law, then to order the company to stop – permanently – its unlawful practices.

Uthmeier demande au tribunal de déclarer qu’OpenAI a enfreint la loi, puis d’ordonner à l’entreprise de cesser – définitivement – ses pratiques illégales.

He wants the company barred from collecting children’s data without parental consent and the safeguards that should come with it, and barred from misrepresenting or staying silent about ChatGPT’s risks.

Il veut que l’entreprise soit interdite de collecter des données d’enfants sans le consentement parental et des garanties qui devraient l’accompagner, et qu’elle soit empêchée de déformer ou de garder le silence sur les risques de ChatGPT.

On top of the injunctions, the state is seeking civil penalties of up to US$10,000 per violation for OpenAI’s alleged wilful violation of the the Florida Deceptive and Unfair Trade Practices Act. Uthmeier said penalties could total billions of dollars.

En plus des injonctions, l’État réclame des pénalités civiles allant jusqu’à 10 000 dollars américains par infraction pour la violation présumée et intentionnelle par OpenAI de la loi floridienne sur les pratiques commerciales trompeuses et déloyales. Uthmeier a déclaré que les pénalités pourraient atteindre des milliards de dollars.

In other words: pay for the past harms and change the product going forward.

En d’autres termes: payer pour les préjudices passés et changer le produit à l’avenir.

In a statement to The Conversation, an OpenAI spokesperson pointed to the company’s “industry leading protections and policies” regarding user safety.

Dans une déclaration à The Conversation, un porte-parole d’OpenAI a fait référence aux « protections et politiques de pointe de l’industrie » de l’entreprise concernant la sécurité des utilisateurs.

In particular we built safety for minors directly into our products, including a more protective experience specifically for minors, an age prediction tool, defaulting users whose age we are not confident into our more protective experience, and giving parents tools to monitor their kids use of AI.
En particulier, nous avons intégré la sécurité des mineurs directement dans nos produits, y compris une expérience plus protectrice spécifiquement pour les mineurs, un outil de prédiction d’âge, qui place par défaut les utilisateurs dont nous ne sommes pas certains de l’âge dans notre expérience plus protectrice, et qui donne aux parents des outils pour surveiller l’utilisation de l’IA par leurs enfants.

Adding to a growing pile

Ajout à un tas croissant

This lawsuit is a significant development, but it has not arrived in a vacuum.

Ce procès est un développement important, mais il n’est pas survenu dans le vide.

Across the US, the courts are filling with cases accusing tech companies of harming young people. In April, for example, Uthmeier launched a criminal investigation into OpenAI over the chatbot’s alleged role in a shooting at Florida State University.

Aux États-Unis, les tribunaux se remplissent d’affaires accusant des entreprises technologiques d’avoir nui aux jeunes. En avril, par exemple, Uthmeier a lancé une enquête criminelle contre OpenAI concernant le rôle présumé du chatbot dans une fusillade à l’Université d’État de Floride.

Some juries have started to side with the plaintiffs.

Certains jurys ont commencé à se ranger du côté des plaignants.

In March 2026, for example, a New Mexico jury hit Meta with a US$375 million penalty in a child safety case. Days later, a jury in Los Angeles found Meta and Google liable in a landmark trial over social media addiction.

En mars 2026, par exemple, un jury du Nouveau-Mexique a infligé à Meta une amende de 375 millions de dollars américains dans une affaire de sécurité des enfants. Quelques jours plus tard, un jury de Los Angeles a déclaré Meta et Google responsables lors d’un procès historique concernant la dépendance aux médias sociaux.

This case rides the same current. But it broadens the scope by alleging Altman himself should be personally responsible.

Cette affaire suit la même tendance. Mais elle élargit le champ en alléguant qu’Altman lui-même devrait être personnellement responsable.

Uthmeier is demanding a trial by jury.

Uthmeier exige un procès devant un jury.

Alexandra Andhov is the director of ALTeR (Center for Advancing Law and Technology Responsibly) at the University of Auckland. She received funding from the Independent Research Fund Denmark for the « PROFIT » Project (Gaps and Opportunities in Corporate Governance of Big Tech Companies) to research big tech companies.

Alexandra Andhov est la directrice d’ALTeR (Center for Advancing Law and Technology Responsibly) à l’Université d’Auckland. Elle a reçu un financement du Independent Research Fund Denmark pour le projet « PROFIT » (Gaps and Opportunities in Corporate Governance of Big Tech Companies) afin de faire des recherches sur les grandes entreprises technologiques.

Read more