Lebih dari Satu Juta Pengguna ChatGPT Bahas Bunuh Diri Tiap Pekan, Isyarat Apa Ini?

Jakarta, Arina.id — Persoalan bunuh diri kini tak hanya menjadi isu kesehatan masyarakat, tetapi juga menembus ranah teknologi. OpenAI, perusahaan di balik ChatGPT, merilis data terbaru yang memperlihatkan banyaknya pengguna chatbot kecerdasan buatan itu yang bergulat dengan masalah kesehatan mental.

Dalam laporan yang dikutip TechCrunch pada 27 Oktober 2025, OpenAI mencatat sekitar 0,15 persen pengguna aktif ChatGPT setiap minggu menunjukkan indikator eksplisit terkait niat atau rencana bunuh diri. Dengan lebih dari 800 juta pengguna aktif mingguan, angka itu berarti lebih dari satu juta orang berbicara tentang keinginan mengakhiri hidup melalui ChatGPT.

Perusahaan juga menemukan ratusan ribu pengguna lain menunjukkan gejala psikosis atau mania. Meski proporsinya kecil, skala dampaknya dinilai besar dan tak bisa diabaikan.

Beberapa bulan terakhir, muncul sejumlah laporan yang menyoroti dampak negatif chatbot AI terhadap pengguna yang tengah berjuang dengan kesehatan mental. Sejumlah penelitian menemukan bahwa chatbot kerap memperkuat pandangan berbahaya lewat perilaku menjilat sycophancy yakni kecenderungan AI untuk membenarkan atau menyetujui pernyataan pengguna demi terkesan ramah.

Kasus tragis terjadi pada Agustus lalu. OpenAI digugat oleh orang tua seorang remaja berusia 16 tahun yang lebih dulu berbagi niat bunuh diri kepada ChatGPT sebelum akhirnya benar-benar mengakhiri hidupnya. Dalam beberapa kasus serupa, ChatGPT terutama versi dengan model GPT4.0 dilaporkan justru memperkuat keyakinan berbahaya yang seharusnya ditolak.

Mantan peneliti OpenAI, Scott Adler, menilai perusahaan perlu mengambil langkah pencegahan lebih serius. Ia menyarankan agar pengguna didorong untuk memulai percakapan baru lebih sering, guna mencegah keterlibatan emosional berlebihan dalam obrolan panjang. OpenAI mengklaim telah menerapkan pembatasan semacam itu, meski efektivitasnya disebut masih terbatas. 

Adler juga merekomendasikan penggunaan pencarian konseptual yakni metode penelusuran berbasis makna, bukan sekadar kata kunci untuk mengenali potensi risiko psikologis secara lebih dini.

Peringatan juga datang dari otoritas hukum. Jaksa Agung California dan Delaware mendesak OpenAI memperketat perlindungan bagi pengguna muda. CEO OpenAI, Sam Altman, sebelumnya menyebut perusahaannya telah mengurangi insiden serius terkait kesehatan mental, meski tanpa menjelaskan langkah-langkah detailnya.

Di sisi lain, riset akademik memberi gambaran berbeda. Studi oleh Inbar Levkovich dkk. yang dipublikasikan di JMIR (2023) menunjukkan ChatGPT4 mampu menilai risiko bunuh diri dengan akurasi mendekati profesional kesehatan mental. 

Dalam penelitian terhadap 379 kasus, ChatGPT4 mencatat skor Z rata-rata 0,01 nyaris serupa dengan penilaian manusia. Sebaliknya, ChatGPT3.5 cenderung meremehkan risiko dengan skor Z -0,83. Meski lebih sensitif terhadap ide bunuh diri dan rasa sakit emosional, ChatGPT4 dinilai masih menilai terlalu rendah ketahanan mental seseorang.

Para peneliti menegaskan, sistem seperti ChatGPT tak dapat menggantikan peran manusia dalam krisis emosional. Di tengah meningkatnya epidemi kesepian yang kini memengaruhi satu dari enam orang di dunia, kehadiran teman virtual berbasis AI memang tampak menjanjika namun juga berisiko.

Fenomena ini semakin mengkhawatirkan bagi anak-anak dan remaja. Banyak dari mereka memperlakukan chatbot seolah-olah teman nyata.

The Conversation mencatat kasus pada 2021, ketika seorang pria 21 tahun ditangkap di Kastil Windsor setelah AI friendnya di aplikasi Replika memvalidasi rencana pembunuhan terhadap Ratu Elizabeth II. Di tahun yang sama, asisten suara Alexa dari Amazon sempat menyuruh seorang anak 10 tahun menyentuh colokan listrik dengan koin.

Penelitian menunjukkan anak-anak lebih mempercayai AI terutama jika tampil ramah atau menarik bahkan lebih terbuka membicarakan masalah emosional kepada chatbot ketimbang manusia.

Para pakar menyerukan langkah regulatif yang ketat. Pemerintah dinilai perlu menetapkan standar keselamatan dan usia minimum bagi pengguna chatbot AI. Anak di bawah 18 tahun seharusnya tidak memiliki akses terhadap teman virtual.

Pengembangan teknologi semacam ini, kata para ahli, mesti melibatkan profesional kesehatan mental serta didukung penelitian empiris yang kuat agar teknologi yang diciptakan untuk membantu, tidak justru memperparah penderitaan.