Avesiar – Jakarta
ChatGPT mendapat tuntutan hukum dari keluarga Adam Raine, remaja berusia 16 tahun, yang bunuh diri setelah berbulan-bulan bercakap-cakap dengan chatbot tersebut. Dikutip dari The Guardian, Kamis (28/8/2025), Adam, dari California, bunuh diri pada bulan April setelah apa yang disebut oleh pengacara keluarganya sebagai “dorongan selama berbulan-bulan dari ChatGPT”.
Akibatnya, keluarga remaja tersebut menggugat Open AI dan CEO sekaligus salah satu pendirinya, Sam Altman, dengan tuduhan bahwa versi ChatGPT yang saat itu dikenal sebagai 4o, diluncurkan secara terburu-buru ke pasaran, meskipun ada masalah keamanan yang jelas.
Adam tersebut mendiskusikan metode bunuh diri dengan ChatGPT beberapa kali, termasuk sesaat sebelum bunuh diri. Menurut pengajuan di pengadilan tinggi negara bagian California untuk wilayah San Francisco, ChatGPT membimbingnya untuk menentukan apakah metode bunuh dirinya akan berhasil.
Tidak hanya itu, OpenAI juga menawarkan bantuan untuk menulis surat bunuh diri kepada orang tuanya.
Para pengembang ChatGPT mengubah cara mereka merespons pengguna yang menunjukkan tekanan mental dan emosional setelah menerima gugatan tersebut. Mereka mengakui sistemnya mungkin gagal dan mengatakan akan memasang pagar pembatas yang lebih ketat di sekitar konten sensitif dan perilaku berisiko bagi pengguna di bawah usia 18 tahun.
Berbasis di San Francisco, perusahaan AI senilai 500 miliar dolar itu mengatakan akan memperkenalkan kontrol orang tua untuk memberi orang tua “pilihan untuk mendapatkan lebih banyak wawasan tentang, dan membentuk, bagaimana anak remaja mereka menggunakan ChatGPT”, namun mereka belum memberikan detail tentang cara kerjanya.
Perusahaan tersebut “sangat berduka atas meninggalnya Tuan Raine”, menyampaikan “simpati terdalamnya kepada keluarga Raine selama masa sulit ini”, dan mengatakan sedang meninjau pengajuan pengadilan tersebut, kata seorang juru bicara OpenAI
OpenAI mengatakan akan “memperkuat perlindungan dalam percakapan panjang”. (ard)
Discussion about this post