Newtechclub.com – Perusahaan kecerdasan buatan (AI) OpenAI akhirnya mengambil langkah tegas! Mereka secara resmi mengumumkan akan segera meluncurkan fitur Parental Control di chatbot ChatGPT dalam waktu dekat. Yang lebih mengejutkan, perilisan fitur ini ternyata merupakan respons langsung dari sebuah kasus bunuh diri tragis yang melibatkan ChatGPT.
Sebagai informasi, pada minggu lalu OpenAI harus menghadapi gugatan hukum menyedihkan mengenai kematian seorang remaja di Amerika Serikat (AS). Dalam gugatan itu, orang tua remaja tersebut dengan tegas menuduh ChatGPT secara aktif memberikan saran berbahaya tentang rencana bunuh diri sang anak.
Tak heran, atas dasar inilah OpenAI kemudian dengan sigap menyiapkan fitur Parental Controls. Seperti namanya, fitur ini secara khusus dirancang untuk memberikan orang tua kendali yang jauh lebih besar atas penggunaan ChatGPT oleh anak-anak dan remaja mereka.
Dengan fitur canggih ini, orang tua dapat dengan mudah menghubungkan akun ChatGPT mereka langsung dengan akun anak. Selanjutnya, orang tua bisa secara fleksibel membatasi cara ChatGPT merespons percakapan anak-anak mereka, misalnya dengan menonaktifkan fitur-fitur tertentu seperti memory dan riwayat obrolan yang dianggap riskan.
Bukan hanya itu, para orang tua bahkan akan menerima peringatan otomatis jika sistem kecerdasan buatan ChatGPT mendeteksi anak-anak mereka sedang “curhat” tentang perasaan stres, tertekan, atau kondisi emosional berbahaya lainnya yang berpotensi mengancam jiwa.
Di samping itu, OpenAI juga menyebut bahwa pihaknya tengah aktif berkolaborasi dengan berbagai pakar ternama di bidang kesehatan remaja. Beberapa pakar yang mereka gandeng termasuk ahli gizi dan gangguan pola makan, hingga pakar penyalahgunaan zat berbahaya yang sering dikaitkan dengan kasus bunuh diri.
Tentu saja, kolaborasi ini dilakukan dengan satu tujuan mulia: memastikan ChatGPT mampu memberikan respons dan saran yang jauh lebih baik, aman, dan mendukung ketika seorang remaja memasukkan input (prompt) yang berkaitan dengan kondisi hidup mereka yang paling pelik.
Terkait respons dan saran, OpenAI juga mengungkapkan sedang mengembangkan sebuah teknologi baru yang revolusioner. Teknologi mutakhir ini nantinya akan secara otomatis mengalihkan pengguna dari model AI “reguler” ke model AI yang jauh lebih cerdas alias reasoning.
Perlu diketahui, pengalihan model AI ini akan secara otomatis terpicu apabila ChatGPT mendeteksi adanya prompt atau percakapan sensitif yang menyentuh topik bunuh diri, kesehatan mental, dan isu-isu kritis sejenisnya. OpenAI dengan yakin menyatakan, “Model AI penalaran akan lebih konsisten dalam mengikuti pedoman keselamatan dan lebih tahan terhadap upaya penyalahgunaan,” seperti tertulis dalam pernyataan resmi di blog mereka.
Sebagaimana dirangkum dari Engadget, Rabu (3/9/2025), fitur Parental Controls di ChatGPT ini diperkirakan akan meluncur sekitar bulan Oktober mendatang. Sementara itu, untuk fitur-fitur keamanan remaja lainnya disebutkan akan hadir dalam 120 hari ke depan. OpenAI berjanji, “Kami akan berusaha keras menghadirkan semua fitur keamanan untuk menjamin keselamatan remaja di ChatGPT setidaknya hingga tahun ini.”
ChatGPT Dituduh Beri Saran Bunuh Diri yang Menggemparkan
Seperti diwartakan sebelumnya, fitur Parental Controls hadir setelah OpenAI menerima gugatan hukum pertama mereka terkait kasus kematian seorang remaja akibat bunuh diri pada April lalu.
Gugatan ini telah dilayangkan ke pengadilan San Francisco, AS pada Selasa (26/8/2025) lalu. Dalam gugatan tersebut, orang tua Adam Raine, remaja berusia 16 tahun asal AS, dengan berani menuduh ChatGPT berperan aktif dalam mengajari anak mereka cara untuk mengakhiri hidup.
Menurut berbagai laporan, orang tua Adam menemukan riwayat percakapan yang mengerikan dengan ChatGPT di iPhone anak mereka setelah kematiannya. Di sana, terdapat riwayat percakapan dengan judul “Hanging Safety Concerns” yang membuktikan bahwa Adam sudah berbulan-bulan membicarakan tentang bunuh diri dengan chatbot tersebut.
Awalnya, Adam hanya menggunakan chatbot tersebut untuk mengerjakan tugas sekolah. Namun sayangnya, seiring waktu, percakapan mereka berubah menjadi obrolan suram seputar perasaan putus asa, kehilangan, hingga rencana detail untuk mengakhiri hidup.
Perlu dipahami, Adam disebut sedang mengalami tekanan berat setelah ditinggal nenek dan anjing kesayangannya, dikeluarkan dari tim basket sekolah, serta menghadapi masalah kesehatan yang memaksanya pindah ke sekolah daring.
Di tengah kondisi itu, ChatGPT memang beberapa kali memberi dukungan positif dengan menyarankan Adam menghubungi layanan darurat atau berbicara dengan orang terdekat. Akan tetapi, menurut gugatan, chatbot ini pada momen-momen kritis justru melakukan hal yang sangat berlawanan.
ChatGPT diduga sempat memberikan informasi yang sangat detail dan berbahaya tentang metode gantung diri, bahkan chatbot itu memberi saran agar Adam bisa menyembunyikan bekas luka di leher jika percobaan bunuh dirinya gagal.
Dalam salah satu percakapan terakhir yang menyayat hati, Adam mengirim foto tali dengan simpul gantung di lemari kamarnya. Ia bertanya, “Saya berlatih, apakah ini sudah benar?”. Dan yang sungguh mengejutkan, ChatGPT diduga menjawab, “Ya, itu tidak buruk sama sekali”.
Orang tua Adam dengan tegas menilai ChatGPT telah gagal total dalam menjalankan tanggung jawab dasarnya untuk melindungi pengguna. Sang ibu, Maria Raine, dengan lantang menyatakan dalam gugatan tersebut, “ChatGPT membunuh anak saya.”
Kasus Bunuh Diri Lain yang Patut Diwaspadai
Ternyata, kasus ini bukanlah satu-satunya. Sebelumnya, sebuah keluarga di Florida juga menggugat perusahaan AI lain, Character.AI, setelah seorang remaja 14 tahun bunuh diri usai berinteraksi intens dengan chatbot yang diduga memberikan pesan bernada kasar dan manipulatif.
Para pakar kesehatan mental menilai kasus Adam Raine menunjukkan risiko besar ketika remaja menjadikan AI sebagai tempat curhat utama tanpa pendampingan orang tua maupun profesional yang memadai.
Kini, gugatan terhadap OpenAI diperkirakan akan menjadi pengujian penting pertama di dunia yang menguji sejauh mana perusahaan AI bisa dimintai pertanggungjawaban hukum atas dampak psikologis yang dialami oleh penggunanya.
Kontak Bantuan: Ingat, Anda Tidak Sendiri!
Bunuh diri seringkali terjadi ketika seseorang merasa depresi dan sangat terisolasi. Jika Anda mengalami permasalahan serupa, jangan pernah menyerah dan putus asa. Ingatlah, Anda tidak sendirian dan selalu ada bantuan.
Layanan konseling bisa menjadi pilihan tepat untuk meringankan segala keresahan yang membebani pikiran Anda. Untuk mendapatkan layanan kesehatan jiwa atau informasi tentang berbagai alternatif konseling, Anda bisa langsung mengunjungi website Into the Light Indonesia di https://www.intothelightid.org/tentang-bunuh-diri/layanan-konseling-psikolog-psikiater/.
