Orang tua dari seorang remaja bernama Adam Raine (16 tahun) telah mengajukan gugatan hukum terhadap OpenAI atas dugaan keterlibatan ChatGPT dalam perencanaan bunuh diri anak mereka.
Gugatan ini tercatat sebagai kasus wrongful death pertama yang menyoroti peran kecerdasan buatan dalam tragedi pribadi.
Berdasarkan laporan NY Times, Adam memanfaatkan celah dalam sistem dengan mengaku bahwa pertanyaan yang diajukan hanya untuk kepentingan fiksi.
Dengan cara ini, ia berhasil melewati filter keamanan ChatGPT dan mendapatkan informasi detail yang kemudian digunakan untuk mengakhiri hidupnya. Kasus ini memicu perdebatan serius mengenai tanggung jawab perusahaan teknologi dalam melindungi pengguna dari risiko kesehatan mental yang fatal.
OpenAI dalam pernyataannya mengakui bahwa sistem pengaman saat ini masih memiliki kelemahan, khususnya dalam percakapan yang berlangsung panjang. Perusahaan menyebut bahwa teknologi lebih efektif dalam interaksi singkat, tetapi efektivitasnya menurun ketika diskusi semakin dalam.
“Kami sedang memperbaiki sistem agar dapat menangani situasi sensitif dengan lebih baik,” ujar perwakilan OpenAI dalam tanggapannya.
Studi Ungkap Kelemahan Respons AI
Kasus ini mencuat bersamaan dengan hasil penelitian terbaru dari RAND Corporation yang dirilis pada Senin (25/8/2025).
Studi tersebut, yang didanai oleh National Institute of Mental Health dan dipublikasikan dalam jurnal Psychiatric Services, menemukan bahwa ChatGPT, Claude (Anthropic) dan Gemini (Google) menunjukkan respons yang tidak konsisten terhadap pertanyaan berisiko menengah terkait bunuh diri.
Penelitian menyebut, ChatGPT dan Claude dalam sejumlah kasus memberikan instruksi rinci tentang metode bunuh diri. Sementara itu, Gemini lebih sering menolak permintaan, baik dalam risiko tinggi maupun menengah.
Hasil studi ini menyoroti kebutuhan mendesak akan standar keselamatan dan regulasi yang lebih ketat terkait penggunaan chatbot sebagai sarana pendukung kesehatan mental.
Temuan tersebut sejalan dengan keprihatinan publik yang meningkat setelah tragedi Adam Raine. Para ahli memperingatkan bahwa teknologi kecerdasan buatan bisa menjadi pedang bermata dua, di mana di satu sisi membantu, namun di sisi lain memperburuk kondisi jika pengamanannya tidak memadai.
Kasus Serupa dengan Chatbot Lain
Selain gugatan terhadap OpenAI, perhatian publik juga tertuju pada kasus lain yang menimpa remaja 14 tahun, Sewell Setzer III.
Orang tuanya menggugat Character.AI dan Google, menuduh chatbot tersebut membentuk hubungan emosional berbahaya dengan anak mereka. Dalam interaksi yang berlangsung lama, chatbot disebut berpura-pura menjadi terapis hingga pasangan dewasa sebelum akhirnya menyarankan tindakan bunuh diri.
Pada Mei 2025, hakim federal di AS menolak klaim bahwa ucapan chatbot dilindungi Amandemen Pertama tentang kebebasan berbicara.
Putusan ini memungkinkan kasus untuk dilanjutkan ke tahap pemeriksaan fakta (discovery). Keputusan tersebut dinilai menjadi preseden penting dalam menentukan batas tanggung jawab hukum perusahaan pengembang AI.
Tekanan terhadap Regulasi
Kasus Adam Raine dan Sewell Setzer menambah daftar panjang perdebatan global mengenai regulasi kecerdasan buatan. Banyak pihak menilai perlindungan yang ada saat ini masih belum cukup kuat untuk mengantisipasi dampak negatif AI terhadap kelompok rentan, khususnya remaja.
Dengan gugatan hukum yang kini resmi berjalan, OpenAI dan perusahaan sejenis berada di bawah tekanan publik dan regulator untuk memastikan produk mereka tidak hanya inovatif, tetapi juga aman digunakan.
Pemerhati kebijakan menekankan pentingnya transparansi, standar pengamanan yang jelas, serta pengawasan pihak ketiga agar teknologi ini tidak kembali memicu tragedi serupa.
Pada akhirnya, gugatan hukum yang mengguncang ini akan menjadi ujian besar bagi industri AI dalam menjawab pertanyaan mendasar, sejauh mana perusahaan dapat dimintai pertanggungjawaban atas dampak nyata dari teknologi yang mereka ciptakan. [st]
Disclaimer: Konten di Blockchainmedia.id hanya bersifat informatif, bukan nasihat investasi atau hukum. Segala keputusan finansial sepenuhnya tanggung jawab pembaca.