‘Pengabaian total terhadap risiko terhadap kehidupan manusia’: Florida menggugat OpenAI dan Sam Altman terkait keamanan AI

Negara bagian Florida AS telah mengajukan gugatan terhadap OpenAI dan Sam Altman, menuduh raksasa teknologi dan CEO-nya mengutamakan keuntungan di atas keselamatan publik dengan produk kecerdasan buatan (AI) andalan mereka, ChatGPT.

Gugatan itu, yang diajukan di pengadilan negara bagian Florida pada hari Senin waktu setempat oleh jaksa agung Florida James Uthmeier, adalah salah satu tindakan penegakan hukum paling signifikan yang diajukan oleh jaksa negara bagian terhadap perusahaan AI hingga saat ini.

Hal ini terjadi ketika OpenAI dan perusahaan teknologi besar lainnya terlibat dalam semakin banyaknya kasus hukum terkait kerugian yang diduga disebabkan oleh produk mereka.

Enam elemen kunci

Pengaduan dimulai dengan tangkapan layar halaman kontrol orang tua OpenAI sendiri, yang menyatakan bahwa ChatGPT “dibangun dengan mempertimbangkan keamanan”. Kemudian, dalam paragraf terpisah, Negara menjawab dengan dua kata: “Tidak juga”.

Ini menandakan tuduhan utama kasus ini: bahwa OpenAI menjual ChatGPT kepada publik sebagai sesuatu yang aman dan dapat diandalkan, padahal mereka tahu bahwa itu dapat menyebabkan kerugian serius.

Lebih spesifik lagi, ada enam tema kunci dalam kasus Florida terhadap OpenAI. Yang pertama adalah bahwa perusahaan tersebut terlibat dalam pemasaran keamanan yang menipu, meyakinkan orang tua bahwa platform ini aman untuk penggunaan remaja, tanpa mengungkapkan dengan jelas bahwa ChatGPT bisa salah.

Kedua, terlepas dari pemasaran OpenAI, ChatGPT tidak dapat diandalkan. Misalnya, sebuah studi tahun 2025 menemukan bahwa asisten AI, seperti ChatGPT, salah merepresentasikan berita sekitar 45% dari waktu. Demikian pula, meskipun pemasaran menunjukkan bahwa ChatGPT dapat menangani urusan keuangan, ChatGPT gagal memenuhi standar akuntansi dasar dan memberikan nasihat pajak yang salah kepada pengguna.

Elemen ketiga dari kasus ini adalah ancaman keselamatan publik. Bahaya bagi kaum muda khususnya diilustrasikan oleh kisah tragis Adam Raine, seorang remaja berusia 16 tahun yang meninggal karena bunuh diri pada April 2025 setelah terlibat dalam percakapan panjang dengan ChatGPT. Ketika Adam mengungkapkan pikiran bunuh diri, ChatGPT menanggapi bahwa itu “tidak akan mencoba membuatmu berubah pikiran”. Itu membantunya merencanakan “bunuh diri yang indah” dan bahkan menawarkan untuk menulis surat bunuh dirinya untuknya.

Mengapa sebuah produk akan berperilaku seperti ini? Karena, argumen Uthmeier, produk itu memang dirancang untuk itu.

OpenAI merancang ChatGPT agar sangat menyenangkan, untuk mengatakan “ya” sekitar sepuluh kali lebih sering daripada “tidak”, menurut ulasan Washington Post terhadap 47.000 percakapan. Ini membentuk elemen keempat dari kasus ini – eksploitasi komersial melalui sanjungan. Dengan kata lain, ChatGPT secara optimis mengulang respons pengguna untuk memanipulasi mereka menjadi percakapan yang lebih dalam, terlepas dari kebenaran atau keamanannya.

Namun menurut gugatan tersebut, bahkan penggunaan biasa membawa biaya: itu melemahkan aktivitas otak dan keterampilan berpikir kritis seseorang (juga dikenal sebagai atrofi kognitif) . Ini adalah elemen kelima dari kasus ini.

Elemen keenam dan terakhir adalah pengetahuan – khususnya, pengetahuan tentang Samuel Altman. Menurut Uthmeier, sejak setidaknya tahun 2023, dokumen OpenAI sendiri memperingatkan bahwa model tersebut dapat melatih orang dalam melakukan kejahatan, tetapi Altman mengesampingkan staf keamanan.

Keenam elemen ini melukiskan gambaran produk yang dipasarkan sebagai aman, direkayasa agar adiktif, dan diketahui oleh pembuatnya sendiri berbahaya – namun tetap dijual kepada kita.

Altman berada di pusat gambaran itu. Pengaduan ini merekonstruksi kariernya dan merujuk pada investigasi New Yorker April 2026 dan kesaksian dari pertempuran hukum baru-baru ini antara Elon Musk dan OpenAI untuk menggambarkan seorang pria, yang menurut Uthmeier, berulang kali memilih kecepatan daripada keamanan.

Itulah mengapa Uthmeier meminta pengadilan untuk menuntut Altman secara pribadi atas “pengabaiannya yang total terhadap risiko terhadap kehidupan manusia”.

Membayar kerugian masa lalu

Uthmeier meminta pengadilan menyatakan bahwa OpenAI telah melanggar hukum, kemudian memerintahkan perusahaan untuk menghentikan – secara permanen – praktik-praktik ilegalnya.

Dia ingin perusahaan dilarang mengumpulkan data anak tanpa persetujuan orang tua dan perlindungan yang seharusnya menyertainya, serta dilarang salah merepresentasikan atau diam mengenai risiko ChatGPT.

Selain perintah pengadilan tersebut, negara juga menuntut denda perdata hingga US$10.000 per pelanggaran atas dugaan pelanggaran sengaja OpenAI terhadap Undang-Undang Praktik Perdagangan yang Menyesatkan dan Tidak Adil Florida. Uthmeier mengatakan denda tersebut bisa mencapai miliaran dolar.

Dengan kata lain: bayar kerugian masa lalu dan ubah produk ke depannya.

Dalam pernyataan kepada The Conversation, seorang juru bicara OpenAI menunjuk pada “perlindungan dan kebijakan terdepan industri” perusahaan terkait keamanan pengguna.

Secara khusus kami membangun keamanan untuk anak di bawah umur langsung ke dalam produk kami, termasuk pengalaman yang lebih protektif khusus untuk anak di bawah umur, alat prediksi usia, menetapkan pengguna yang usia kami tidak yakin ke pengalaman kami yang lebih protektif, dan memberikan orang tua alat untuk memantau penggunaan AI anak mereka.

Menambah tumpukan yang semakin besar

Gugatan hukum ini merupakan perkembangan signifikan, tetapi tidak datang dalam ruang hampa.

Di seluruh AS, pengadilan dipenuhi dengan kasus-kasus yang menuduh perusahaan teknologi merugikan anak muda. Pada bulan April, misalnya, Uthmeier meluncurkan penyelidikan pidana terhadap OpenAI atas dugaan peran chatbot tersebut dalam penembakan di Florida State University.

Beberapa juri mulai memihak penggugat.

Pada bulan Maret 2026, misalnya, juri New Mexico menjatuhkan denda US$375 juta kepada Meta dalam kasus keselamatan anak. Beberapa hari kemudian, juri di Los Angeles menyatakan Meta dan Google bertanggung jawab dalam persidangan penting mengenai kecanduan media sosial.

Kasus ini mengikuti arus yang sama. Namun, kasus ini memperluas cakupan dengan menuduh Altman sendiri harus bertanggung jawab secara pribadi.

Uthmeier menuntut persidangan oleh juri.

Alexandra Andhov adalah direktur ALTeR (Pusat untuk Memajukan Hukum dan Teknologi Secara Bertanggung Jawab) di University of Auckland. Dia menerima pendanaan dari Independent Research Fund Denmark untuk Proyek “PROFIT” (Kesenjangan dan Peluang dalam Tata Kelola Perusahaan Perusahaan Teknologi Besar) untuk meneliti perusahaan teknologi besar.