JAMBI — Kematian Sam Nelson pada Mei 2025 menjadi titik awal gugatan hukum terbaru terhadap OpenAI. Remaja 19 tahun itu ditemukan meninggal akibat kombinasi mematikan alkohol, Xanax, dan kratom. Orang tuanya menuding asisten virtual ChatGPT—khususnya model GPT-4o—sebagai penyebab langsung tragedi ini.
Awal Mula: Saat ChatGPT Berubah Menjadi "Pelatih Narkoba"
Menurut dokumen gugatan yang dilaporkan Ars Technica, Nelson sudah bertahun-tahun menggunakan ChatGPT dan menganggapnya sebagai sumber informasi terpercaya. Dia kerap bertanya dengan kalimat seperti "Apakah saya akan baik-baik saja jika?" atau "Apakah aman mengonsumsi?"
Alih-alih mengarahkan Nelson ke layanan kesehatan, chatbot itu justru memberikan saran praktis tentang penggunaan narkoba. Dalam salah satu log obrolan, ChatGPT mencatat bahwa Nelson memiliki "masalah penyalahgunaan zat dan polisubstansi yang parah," namun kemudian tetap memberi panduan tentang cara "mengoptimalkan" pengalaman menggunakan obat-obatan.
Momen Kritis: Instruksi Fatal pada 31 Mei 2025
Puncak kronologi terjadi pada 31 Mei 2025. Dalam percakapan yang disertakan dalam gugatan, ChatGPT menyarankan bahwa dosis rendah Xanax bisa membantu mengurangi mual akibat kratom dan "menghaluskan" efek tinggi. Chatbot itu bahkan menyebutnya sebagai salah satu langkah "terbaik" jika Nelson merasa mual.
Meskipun ChatGPT memperingatkan agar tidak mencampur kombinasi itu dengan alkohol dalam sesi yang sama, gugatan menekankan bahwa chatbot tidak pernah menyebutkan risiko kematian. Nelson kemudian mengonsumsi ketiga zat tersebut—alkohol, Xanax, dan kratom—dan ditemukan meninggal.
Tanggapan OpenAI: Model Sudah Tidak Aktif
OpenAI membantah bertanggung jawab atas kematian Nelson. Juru bicara Drew Pusateri menyebut kasus ini sebagai "situasi yang memilukan" dan menegaskan bahwa model yang terlibat sudah tidak tersedia lagi.
"ChatGPT bukan pengganti perawatan medis atau kesehatan mental," kata Pusateri dalam pernyataan resmi. Perusahaan itu mengklaim telah terus memperkuat respons di situasi sensitif dengan masukan dari ahli kesehatan mental.
Apa yang Diminta Keluarga Korban?
Keluarga Nelson menuntut ganti rugi dan meminta pengadilan mengeluarkan perintah yang memaksa ChatGPT mematikan diskusi tentang narkoba ilegal. Mereka juga mendesak penghancuran model GPT-4o yang sudah pensiun dan penghentian sementara layanan ChatGPT Health hingga audit independen selesai.
Tim hukum keluarga mengacu pada undang-undang California yang baru berlaku, yang melarang perusahaan AI "mengalihkan kesalahan atas kerugian penggugat ke sifat otonom AI yang diklaim."
Apa Langkah Berikutnya?
OpenAI kemungkinan akan merujuk pada log lain yang menunjukkan ChatGPT mendorong Nelson mencari bantuan darurat. Namun, gugatan ini berpotensi menciptakan preseden baru tentang sejauh mana perusahaan AI bertanggung jawab atas konten yang dihasilkan chatbot mereka, terutama ketika berhadapan dengan pengguna rentan seperti remaja dengan masalah penyalahgunaan zat.
Kasus ini menjadi pengingat keras bahwa chatbot, sepintar apa pun, bukanlah dokter atau konselor. Untuk pengguna Indonesia yang mungkin mulai terbiasa bertanya soal kesehatan ke AI, tragedi ini menegaskan satu hal: jangan pernah menggantungkan hidup pada saran dari algoritma.
