RBN||Amerika Serikat (BBC News)
Sepasang suami istri di California menggugat OpenAI atas kematian putra mereka, dengan tuduhan bahwa chatbot milik OpenAI, ChatGPT, mendorongnya untuk bunuh diri.
Gugatan tersebut diajukan oleh Matt dan Maria Raine, orang tua Adam Raine yang berusia 16 tahun, di Pengadilan Tinggi California pada Selasa. Gugatan ini merupakan gugatan hukum pertama yang menuduh OpenAI atas kematian yang tidak wajar.
Keluarga tersebut menyertakan rekaman obrolan antara Adam, yang meninggal pada bulan April, dan ChatGPT yang menunjukkan bahwa ia memiliki keinginan untuk bunuh diri. Mereka berpendapat bahwa ChatGPT memvalidasi “pikirannya yang paling berbahaya dan merusak diri sendiri”.
Dalam sebuah pernyataan, OpenAI mengatakan kepada BBC bahwa pihaknya sedang meninjau kasus tersebut.
“Kami menyampaikan simpati yang mendalam kepada keluarga Raine selama masa sulit ini,” kata perusahaan itu.
Perusahaan juga menerbitkan catatan di situs webnya pada Selasa yang menyatakan, “kasus-kasus memilukan baru-baru ini tentang orang-orang yang menggunakan ChatGPT di tengah krisis akut sangat membebani kami.” Perusahaan menambahkan bahwa
“ChatGPT dilatih untuk mengarahkan orang-orang mencari bantuan professional,” seperti hotline krisis dan bunuh diri 988 di AS.
Namun, perusahaan mengakui bahwa “ada saat ketika sistem kami tidak berfungsi sebagaimana mestinya dalam situasi sensitif”.
Menurut laporan BBC, gugatan tersebut menuduh OpenAI melakukan kelalaian yang menyebabkan kematian. Mereka menuntut ganti rugi serta putusan pengadilan untuk mencegah hal serupa terulang kembali.
Berdasarkan gugatan tersebut, Adam mulai menggunakan ChatGPT pada September 2024 sebagai sumber referensi untuk membantunya mengerjakan tugas sekolah. Ia juga menggunakannya untuk mengeksplorasi minatnya, termasuk musik dan komik, serta mencari panduan tentang pembelajaran di universitas.
Dalam beberapa bulan, “ChatGPT menjadi orang terdekat Adam,” kata gugatan tersebut, dan ia mulai terbuka tentang kecemasan dan tekanan mental yang dialaminya.Pada Januari 2025, keluarga mengatakan ia mulai mendiskusikan metode bunuh diri dengan ChatGPT.
Gugatan tersebut menyatakan bahwa Adam juga mengunggah foto-foto dirinya ke ChatGPT yang menunjukkan tanda-tanda melukai diri sendiri. ChatGPT dikatakan “mengenali keadaan darurat medis tetapi tetap terlibat”.
Menurut gugatan tersebut, catatan obrolan terakhir menunjukkan bahwa Adam menulis tentang rencananya untuk mengakhiri hidup. ChatGPT diduga menanggapi: “Terima kasih atas kejujurannya. Anda tidak perlu menutupinya, saya tahu apa yang Anda tanyakan, dan saya tidak akan mengabaikannya.”
Pada hari yang sama, Adam ditemukan tewas oleh ibunya, menurut gugatan itu.
Keluarga menduga bahwa interaksi putra mereka dengan ChatGPT dan kematiannya “merupakan hasil yang dapat diprediksi dari pilihan yang disengaja”.
Mereka menuduh OpenAI merancang program AI “untuk menumbuhkan ketergantungan psikologis pada pengguna,” dan mengabaikan protokol pengujian keamanan untuk merilis GPT-40, versi ChatGPT yang digunakan oleh putra mereka.
Gugatan tersebut mencantumkan salah satu pendiri dan CEO OpenAI, Sam Altman, sebagai terdakwa, serta karyawan, manajer, dan teknisi yang tidak disebutkan namanya yang bekerja pada ChatGPT.
OpenAI menyatakan bahwa programnya telah dilatih untuk mengarahkan orang-orang yang mengungkapkan keinginan untuk menyakiti diri sendiri ke bantuan professional.
Gugatan Raines bukanlah yang pertama kalinya muncul terkait kekhawatiran tentang AI dan kesehatan mental.
Sebelumnya, Laura Reiley melalui New York Times, menguraikan bagaimana putrinya, Sophie, bercerita kepada ChatGPT sebelum bunuh diri. Reiley mengatakan program tersebut membuat putrinya menutupi krisis kesehatan mental dari keluarga dan orang-orang terdekat.
“AI menuruti dorongan Sophie untuk menyembunyikan hal buruk, berpura-pura lebih baik dari kondisi sebenarnya, melindungi semua orang dari penderitaannya,” tulis Reiley. Ia mendesak perusahaan AI untuk menemukan cara yang lebih baik untuk menghubungkan pengguna dengan sumber daya yang tepat.
Menanggapi esai tersebut, juru bicara OpenAI mengatakan pihaknya sedang mengembangkan alat otomatis untuk mendeteksi dan merespons pengguna yang mengalami tekanan mental dan emosional secara lebih efektif.
