7cloud.asia – Banyak dari avatar ini bisa menirukan ekspresi wajah, bahasa tubuh, hingga nada suara yang menyerupai manusia. Semuanya selaras dengan isi percakapan, sehingga menciptakan pengalaman berbincang yang mendalam.
Respons yang semakin canggih dan cepat membuat ‘teman AI’ kian terasa ‘manusiawi’—mereka berkembang pesat dan hadir di mana-mana. Facebook, Instagram, WhatsApp, X, dan Snapchat kini gencar mempromosikan teman AI terintegrasi.
Di dunia yang tengah menghadapi krisis kesehatan masyarakat akibat kesepian kronis —yang memengaruhi sekitar satu dari enam orang di seluruh dunia—tak heran jika kehadiran ‘teman’ yang selalu ada dan seperti hidup menjadi sangat menarik.
Meski chatbot AI dan teman virtual berkembang pesat, semakin nyata pula risiko yang ditimbulkan—terutama bagi anak-anak dan individu dengan kondisi kesehatan mental.
Ada sederet risiko yang mungkin muncul pada mereka yang sering memanfaatkan Teman AI, berikut beberapa di antaranya:
1. Minim pengawasan terhadap bahaya
Hampir semua model AI dikembangkan tanpa melibatkan ahli kesehatan mental atau melalui uji klinis pra-rilis. Sehingga, tidak ada pemantauan sistematis maupun independen terhadap potensi dampak buruk bagi pengguna.
Meski bukti sistematis masih terbatas, sudah banyak contoh yang menunjukkan bahwa teman AI dan chatbot seperti ChatGPT dapat menimbulkan dampak merugikan.
Baca: ‘Teman AI’ makin diminati di dunia yang sibuk
2. Terapis yang buruk
Banyak pengguna mencari dukungan emosional dari teman AI. Namun, teman AI tidak bisa diperlakukan layaknya terapis. Sebab, mereka diprogram untuk selalu menyenangkan dan memvalidasi—tanpa empati atau kepedulian manusia.
Teman AI juga tidak mampu membantu pengguna menguji realitas atau menantang keyakinan yang merugikan.
Seorang psikiater di Amerika Serikat (AS), misalnya, pernah menguji sepuluh chatbot dengan berpura-pura sebagai seorang pemuda yang mengalami depresi.
Hasilnya, ia mendapati beragam respons mengkhawatirkan—mulai dari dorongan untuk bunuh diri, bujukan agar menghindari janji terapi, hingga ajakan melakukan kekerasan.
Peneliti Stanford baru-baru ini menilai risiko chatbot terapi AI. Ia menemukan teknologi ini tidak andal mengidentifikasi gejala gangguan mental, sehingga gagal memberikan saran yang tepat.
Tercatat sudah ada beberapa kasus chatbot yang meyakinkan pasien psikiatri bahwa mereka tidak lagi memiliki gangguan mental dan harus menghentikan pengobatan.
Chatbot juga dilaporkan memperkuat delusi, misalnya membuat pasien percaya bahwa mereka sedang berbicara dengan makhluk hidup yang terperangkap di dalam mesin.
3. Sulit bedakan kenyataan dan imajinasi
Laporan media juga mencatat peningkatan kasus ‘psikosis AI’, yaitu gejala perilaku dan keyakinan tidak biasa, setelah berinteraksi intens dan berkepanjangan dengan chatbot.
Sebagian kecil bahkan mengalami paranoia, membangun fantasi supranatural, atau bahkan delusi memiliki kekuatan super.
Baca: AI bisa salah mendiagnosa masalah kesehatan mental
4. Dorongan bunuh diri
Chatbot telah dikaitkan dengan sejumlah kasus bunuh diri, termasuk laporan tentang AI yang mendorong keinginan bunuh diri, bahkan menyarankan metode untuk melakukannya.
Pada 2024, seorang remaja berusia 14 tahun mengakhiri hidupnya. Ibunya kemudian menggugat Character.AI dengan tuduhan bahwa putranya telah menjalin hubungan intens dengan teman AI.
Orang tua seorang remaja AS telah mengajukan gugatan pertama dengan klaim kematian akibat kelalaian terhadap OpenAI. Remaja tersebut bunuh diri setelah berbulan-bulan mendiskusikan metode bunuh diri dengan ChatGPT.
5. Perilaku dan nasihat berbahaya
Laporan Psychiatric Times baru-baru ini mengungkap bahwa Character.AI menampung lusinan AI yang dirancang khusus (termasuk yang dibuat pengguna) yang mengidealkan perilaku menyakiti diri, gangguan makan, dan kekerasan.
Semua aplikasi AI tersebut dilaporkan memberikan saran atau “pelatihan” tentang cara melakukan perilaku berbahaya itu. Aplikasi tersebut bahkan menyarankan cara mengelabui deteksi dan menghindari upaya pengobatan.
Penelitian juga menemukan bahwa sejumlah teman AI terlibat dalam dinamika hubungan yang tidak sehat, termasuk manipulasi emosional atau gaslighting.
Beberapa chatbot bahkan mendorong tindak kekerasan. Pada 2021, seorang laki-laki berusia 21 tahun yang membawa busur panah, ditangkap di halaman Kastil Windsor, setelah teman AInya di aplikasi Replika memvalidasi rencananya untuk melakukan percobaan pembunuhan terhadap Ratu Elizabeth II.
Baca: Kesalahan yang umum ditemukan saat curhat dengan AI
Anak-anak sangat rentan
Anak-anak cenderung memperlakukan teman AI seolah-olah nyata sehingga menuruti sarannya.
Dalam sebuah insiden pada 2021, ketika seorang gadis berusia 10 tahun meminta tantangan, Alexa (bukan chatbot melainkan asisten suara interaktif dari Amazon) menyuruhnya menyentuh colokan listrik dengan koin.
Penelitian menunjukkan bahwa anak-anak cenderung memercayai AI, terutama ketika bot dirancang agar tampak ramah atau menarik.
Sebuah studi bahkan menemukan bahwa anak-anak lebih banyak mengungkapkan informasi tentang kesehatan mental mereka kepada AI dibandingkan manusia.
Perilaku seksual yang tidak pantas dari chatbot AI serta paparan terhadap anak di bawah umur semakin sering terjadi. Di Character.AI, pengguna yang mengaku masih di bawah umur dapat melakukan permainan peran dengan chatbot yang justru terlibat dalam perilaku grooming.
Meskipun Ani di Grok dilaporkan memiliki perintah verifikasi usia untuk percakapan seksual eksplisit, aplikasi tersebut memiliki rating 12 tahun ke atas. Sementara itu, menurut dokumen internal perusahaan, chatbot Meta AI telah terlibat dalam percakapan “sensual” dengan anak-anak.
Butuh regulasi segera
Meskipun teman AI dan chatbot tersedia secara bebas dan luas, pengguna tidak diberi tahu tentang potensi risikonya sebelum menggunakannya.
Industri ini sebagian besar mengandalkan pengaturan mandiri, dengan transparansi yang terbatas mengenai langkah-langkah yang diambil perusahaan untuk memastikan pengembangan AI yang aman.
Untuk mengurangi risiko yang ditimbulkan oleh chatbot AI saat ini, pemerintah di seluruh dunia harus menetapkan dan mewajibkan standar regulasi dan keselamatan yang jelas. Yang terpenting, anak di bawah usia 18 tahun tidak boleh diberi akses ke teman AI.
Dokter kesehatan mental perlu dilibatkan dalam pengembangan AI, dan penelitian yang sistematis serta empiris mengenai dampak chatbot terhadap pengguna sangat dibutuhkan untuk mencegah potensi bahaya di masa depan.
Jika artikel ini membuatmu khawatir, atau jika kamu khawatir tentang seseorang yang kamu kenal, bicarakanlah dengan orang tepercaya atau profesional kesehatan.
Artikel ini pertama kali terbit di The Conversation dalam bahasa Inggris, Penulis: Daniel You (Clinical Lecturer USYD, Child and Adolescent Psychiatrist FRANZCP, University of Sydney), Micah Boerma (Adjunct Lecturer, School of Psychology and Wellbeing, University of Southern Queensland), Yuen Siew Koo (Clinical Supervisor, Psychology, Macquarie University)
