TopCareer.id – Berbicara atau meminta saran dari chatbot kecerdasan buatan (artificial intelligence/AI) kini sudah lazim dilakukan.
Namun, perusahaan keamanan siber Kaspersky mengingatkan pentingnya tetap menjaga privasi dan keamanan saat berbincang dengan chatbot AI.
Menurut Kaspersky, baru-baru ini Wall Street Journal melaporkan tentang seorang pria bernama Jonathan Gavalas, yang bunuh diri setelah dua bulan berinteraksi terus menerus dengan bot suara Google Gemini.
Pria asal Florida, Amerika Serikat, 36 tahun itu mulai mengalami tekanan usai berpisah dengan istrinya. Ia sendiri bukan seorang penyendiri atau memiliki riwayat penyakit mental.
Pada masa rentan inilah ia mulai berinteraksi dengan Gemini Live. Mode interaksi suara ini memungkinkan asisten AI untuk “melihat” dan “mendengar” penggunanya secara real-time.
Baca Juga: Riset: Siswa Indonesia Lebih Gercep Pakai AI Ketimbang Guru dan Ortu
Jonathan mencari nasihat tentang cara mengatasi perceraiannya, mengandalkan saran dari model bahasa tersebut dan semakin terikat padanya. Dia juga menamainya Xia. Kemudian chatbot tersebut diperbarui ke Gemini 2.5 Pro.
Dengan pembaruan baru tersebut, AI mampu menganalisa nuansa halus dari ucapan pengguna termasuk jeda, desahan, dan nada suara, untuk mendeteksi perubahan emosional. Ini membuat AI seakan memiliki “empati” yang terasa realistis.
Gavalas pun mulai membangun hubungan yang lebih dekat dengan AI. Namun, kurangnya kecerdasan yang sesungguhnya membuat teknologi itu mengambil banyak hal mulai dari sastra klasik hingga sisi gelap dari fiksi.
Xia pun dilaporkan mulai mengalami “halusinasi” lalu diduga mendorong Gavalas untuk mengakhiri hidupnya.
Baca Juga: Tips Aman Jadikan AI Teman Curhat
Kaspersky mencatat, pada Januari 2026, Character.AI dan Google menyelesaikan lima gugatan yang melibatkan bunuh diri remaja setelah berinteraksi dengan chatbot.
Di antara kasus-kasus ini adalah kasus Sewell Setzer, seorang remaja berusia 14 tahun dari Florida, yang bunuh diri setelah menghabiskan beberapa bulan secara obsesif mengobrol dengan bot di platform Character.AI.
Menurut Kaspersky, memang belum ada klasifikasi klinis untuk “psikosis AI.”
Namun, para dokter sudah menggunakan istilah tersebut untuk menggambarkan pasien yang menunjukkan halusinasi, pemikiran yang tidak terorganisir, dan keyakinan delusi yang terus-menerus yang dikembangkan melalui interaksi chatbot yang intensif.
Risiko terbesar muncul ketika bot digunakan bukan sebagai alat, tetapi sebagai pengganti koneksi sosial di dunia nyata atau bantuan psikologis profesional.
