PERINGATAN: Artikel ini memuat konten yang berkaitan dengan bunuh diri, melukai diri sendiri, dan kekerasan terhadap orang lain.
7cloud.asia – Hanya dua hari setelah merilis ’teman AI’ bulan lalu, Grok (aplikasi chatbot xAI milik Elon Musk) langsung menjadi aplikasi terpopuler di Jepang.
Chatbot yang dirancang untuk menjadi ‘teman’ kini hadir lebih canggih dan menggoda. Pengguna bisa bercakap-cakap lewat suara atau teks dengan karakter yang dilengkapi avatar digital.
Banyak dari avatar ini bisa menirukan ekspresi wajah, bahasa tubuh, hingga nada suara yang menyerupai manusia. Semuanya selaras dengan isi percakapan, sehingga menciptakan pengalaman berbincang yang mendalam.
Di Grok, karakter terpopuler adalah Ani, gadis anime berambut pirang dan bermata biru dengan gaun hitam pendek serta stoking jala yang genit. Respons dan interaksinya terus menyesuaikan dengan preferensi pengguna.
Baca: AI bisa salah mendiagnosa masalah kesehatan mental
Selain itu, fitur ‘Sistem Kasih Sayang’ milik Ani bisa menilai kualitas interaksi, memperdalam kedekatan, bahkan dapat membuka mode NSFW/not safe for work (tidak aman untuk bekerja) yang digunakan untuk menandai konten, tautan, atau unggahan yang tidak pantas dilihat di tempat umum.
Respons yang semakin canggih dan cepat membuat ‘teman AI’ kian terasa ‘manusiawi’—mereka berkembang pesat dan hadir di mana-mana. Facebook, Instagram, WhatsApp, X, dan Snapchat kini gencar mempromosikan teman AI terintegrasi.
Sementara itu, layanan chatbot Character.AI, yang menampung puluhan ribu chatbot dengan persona khusus, sudah meraih lebih dari 20 juta pengguna aktif bulanan.
Di dunia yang tengah menghadapi krisis kesehatan masyarakat akibat kesepian kronis —yang memengaruhi sekitar satu dari enam orang di seluruh dunia—tak heran jika kehadiran ‘teman’ yang selalu ada dan seperti hidup menjadi sangat menarik.
Meski chatbot AI dan teman virtual berkembang pesat, semakin nyata pula risiko yang ditimbulkan—terutama bagi anak-anak dan individu dengan kondisi kesehatan mental.
Baca: Kesalahan yang sering ditemukan saat curhat dengan AI
Anak-anak sangat rentan terhadap dampak pemanfaatan teman AI ini, mereka cenderung memperlakukan teman AI seolah-olah nyata sehingga menuruti sarannya.
Dalam sebuah insiden pada 2021, ketika seorang gadis berusia 10 tahun meminta tantangan, Alexa (bukan chatbot melainkan asisten suara interaktif dari Amazon) menyuruhnya menyentuh colokan listrik dengan koin.
Penelitian menunjukkan bahwa anak-anak cenderung memercayai AI, terutama ketika bot dirancang agar tampak ramah atau menarik.
Sebuah studi bahkan menemukan bahwa anak-anak lebih banyak mengungkapkan informasi tentang kesehatan mental mereka kepada AI dibandingkan manusia.
Perilaku seksual yang tidak pantas dari chatbot AI serta paparan terhadap anak di bawah umur semakin sering terjadi. Di Character.AI, pengguna yang mengaku masih di bawah umur dapat melakukan permainan peran dengan chatbot yang justru terlibat dalam perilaku grooming.
Baca: Ini yang membuat orang merasa nyaman curhat dengan AI
Meskipun Ani di Grok dilaporkan memiliki perintah verifikasi usia untuk percakapan seksual eksplisit, aplikasi tersebut memiliki rating 12 tahun ke atas.
Sementara itu, menurut dokumen internal perusahaan, chatbot Meta AI telah terlibat dalam percakapan “sensual” dengan anak-anak.
Ada sederet risiko yang mungkin muncul pada mereka yang ‘berteman’ dengan AI, seperti minim pengawasan terhadap bahaya, terapis yang buruk, sulit membedakan kenyataan dan imajinasi, serta munculnya dorongan untuk bunuh diri.
Penjelasan mengenai risiko berteman dengan AI dan apa yang bisa dilakukan untuk mencegah dampak ini, akan diulas dalam tulisan selanjutnya.
Artikel ini pertama kali terbit di The Conversation dalam bahasa Inggris, Penulis: Daniel You (Clinical Lecturer USYD, Child and Adolescent Psychiatrist FRANZCP, University of Sydney), Micah Boerma (Adjunct Lecturer, School of Psychology and Wellbeing, University of Southern Queensland), Yuen Siew Koo (Clinical Supervisor, Psychology, Macquarie University)
Leave a Reply