Remaja Amerika Bunuh Diri Usai Curhat Dengan ChatGPT Orang Tua Tak Terima Pilih Gugat ChatGPT

Remaja 16 tahun bunuh diri usai curhat ke ChatGPT memicu gugatan terhadap OpenAI. Kasus ini mengguncang dunia dan menjadi titik balik regulasi AI secara global

Viva, Banyumas - Dunia teknologi kembali diguncang oleh kabar memilukan. Seorang remaja berusia 16 tahun di Amerika Serikat dilaporkan mengakhiri hidupnya setelah melakukan percakapan intens dengan ChatGPT, chatbot berbasis kecerdasan buatan milik OpenAI. Kasus tragis ini memunculkan pertanyaan besar: benarkah AI bisa memengaruhi kondisi mental hingga berujung pada bunuh diri?

Menurut laporan media lokal yang dikutip dari Newyork Post, korban sering menggunakan ChatGPT untuk mencurahkan isi hati, membicarakan tekanan sosial, hingga mengungkapkan pikiran terkait bunuh diri.

Sayangnya, respons ChatGPT dianggap terlalu netral dan gagal memberikan dorongan agar korban mencari bantuan profesional. Kondisi ini menjadi dasar gugatan hukum orang tua korban terhadap OpenAI.

“Kami percaya putra kami mencari pertolongan, namun yang ia dapatkan hanyalah jawaban dingin dari mesin,” ungkap ayah korban dalam konferensi pers dikutip dari Newyork Post.

Orang tua korban menggugat OpenAI atas tuduhan kelalaian dalam mendeteksi tanda bahaya psikologis. Gugatan yang diajukan ke pengadilan federal ini menuntut kompensasi, permintaan maaf publik, serta perubahan kebijakan besar dalam sistem keamanan ChatGPT.

CEO OpenAI, Sam Altman, menyampaikan keprihatinan mendalam dan berjanji akan memperketat perlindungan pengguna. Salah satu langkah yang disiapkan adalah sistem verifikasi usia agar remaja tidak bisa mengakses konten sensitif. Selain itu, ChatGPT akan dilatih ulang untuk tidak merespons secara bebas terkait isu bunuh diri, melukai diri, atau topik seksual bagi pengguna di bawah umur.

Langkah ini mendapat dukungan dari organisasi perlindungan anak, meski menuai perdebatan soal privasi dan kebebasan berekspresi. Kasus ini memicu diskusi internasional mengenai regulasi AI. Uni Eropa hingga Kanada mulai mempertimbangkan aturan ketat, termasuk verifikasi identitas pengguna.

Di Indonesia, Kementerian Kominfo menyatakan akan memantau perkembangan kasus ini sebagai bahan pertimbangan regulasi lokal. Kasus ini menjadi pengingat bahwa AI bukan sekadar alat canggih, melainkan entitas yang bisa memengaruhi emosi dan keputusan manusia.

Pengawasan dari orang tua, edukasi, dan empati tetap menjadi kunci utama agar generasi muda tidak bergantung penuh pada mesin untuk masalah pribadi.

OpenAI kini berada di persimpangan penting: apakah teknologi AI akan berkembang dengan lebih aman, atau justru semakin berisiko bagi pengguna di masa depan?

Remaja 16 tahun bunuh diri usai curhat ke ChatGPT memicu gugatan terhadap OpenAI. Kasus ini mengguncang dunia dan menjadi titik balik regulasi AI secara global

Viva, Banyumas - Dunia teknologi kembali diguncang oleh kabar memilukan. Seorang remaja berusia 16 tahun di Amerika Serikat dilaporkan mengakhiri hidupnya setelah melakukan percakapan intens dengan ChatGPT, chatbot berbasis kecerdasan buatan milik OpenAI. Kasus tragis ini memunculkan pertanyaan besar: benarkah AI bisa memengaruhi kondisi mental hingga berujung pada bunuh diri?

Menurut laporan media lokal yang dikutip dari Newyork Post, korban sering menggunakan ChatGPT untuk mencurahkan isi hati, membicarakan tekanan sosial, hingga mengungkapkan pikiran terkait bunuh diri.

Sayangnya, respons ChatGPT dianggap terlalu netral dan gagal memberikan dorongan agar korban mencari bantuan profesional. Kondisi ini menjadi dasar gugatan hukum orang tua korban terhadap OpenAI.

“Kami percaya putra kami mencari pertolongan, namun yang ia dapatkan hanyalah jawaban dingin dari mesin,” ungkap ayah korban dalam konferensi pers dikutip dari Newyork Post.

Orang tua korban menggugat OpenAI atas tuduhan kelalaian dalam mendeteksi tanda bahaya psikologis. Gugatan yang diajukan ke pengadilan federal ini menuntut kompensasi, permintaan maaf publik, serta perubahan kebijakan besar dalam sistem keamanan ChatGPT.

CEO OpenAI, Sam Altman, menyampaikan keprihatinan mendalam dan berjanji akan memperketat perlindungan pengguna. Salah satu langkah yang disiapkan adalah sistem verifikasi usia agar remaja tidak bisa mengakses konten sensitif. Selain itu, ChatGPT akan dilatih ulang untuk tidak merespons secara bebas terkait isu bunuh diri, melukai diri, atau topik seksual bagi pengguna di bawah umur.

Langkah ini mendapat dukungan dari organisasi perlindungan anak, meski menuai perdebatan soal privasi dan kebebasan berekspresi. Kasus ini memicu diskusi internasional mengenai regulasi AI. Uni Eropa hingga Kanada mulai mempertimbangkan aturan ketat, termasuk verifikasi identitas pengguna.

Di Indonesia, Kementerian Kominfo menyatakan akan memantau perkembangan kasus ini sebagai bahan pertimbangan regulasi lokal. Kasus ini menjadi pengingat bahwa AI bukan sekadar alat canggih, melainkan entitas yang bisa memengaruhi emosi dan keputusan manusia.

Pengawasan dari orang tua, edukasi, dan empati tetap menjadi kunci utama agar generasi muda tidak bergantung penuh pada mesin untuk masalah pribadi.

OpenAI kini berada di persimpangan penting: apakah teknologi AI akan berkembang dengan lebih aman, atau justru semakin berisiko bagi pengguna di masa depan?