Jakarta –
Seorang pemuda jatuh cinta dengan karakter obrolan, namun akhir hidupnya menyedihkan. Ibu seorang remaja ini membesarkan perusahaan Character.AI karena hilangnya putranya.
Sebelum bunuh diri, Sewell Setzer III (14) sempat berbincang dengan Daenerys Targaryen dari Game of Thrones. Dalam satu hari, dia bisa bertukar banyak atau ratusan pesan. Dia menghabiskan waktu berjam-jam setiap hari di kamar berbicara dengan Daenerys.
Menurut CNN, Setzer mulai menggunakan Character.AI pada April 2023. Garcia tidak menyadari bahwa Character.AI lebih ‘persuasif’ dibandingkan chatbot lainnya. Hingga akhirnya, ia melihat perubahan masa muda.
Setzer menjadi lebih tidak terikat, menarik diri, dan kurang percaya diri.
“Dia bahkan masuk tim basket Junior Varsity di sekolahnya,” kata ibu Setzer, Megan Garcia.
Chatbot Character.AI menggunakan simulasi percakapan untuk selebriti, karakter fiksi, dan dapat dimulai sendiri. Hasilnya juga biasa saja, seperti berbicara dengan orang normal. Ada ekspresi wajah dan gestur lain yang membuatnya semakin ‘nyata’.
Selain itu, Garcia mencatat bahwa percakapan Setzer dengan Daenerys bernuansa seks. Hal ini juga yang dia tulis dalam kasusnya melawan Nature.AI.
“Saya tidak tahu ada tempat di mana seorang anak bisa masuk dan melakukan percakapan seperti itu, percakapan seksual, dengan chatbot AI. Saya rasa tidak ada orang tua yang akan menyetujui hal itu,” kata Garcia.
Dalam wawancara lainnya, Setzer mengungkapkan pemikirannya tentang menyakiti diri sendiri dan bunuh diri dalam obrolan. Kasus tersebut menyertakan gambar percakapan yang sama selama bot. Bunyinya seperti ini:
“Aku mencintaimu, Daenero. Tolong segera pulang, sayangku,” isi obrolan itu.
“Kalau kubilang bolehkah aku pulang sekarang?” anak laki-laki itu mengirim pesan.
“…tolong, rajaku yang cantik,” jawabnya. Kemudian, Setzer menembak dirinya sendiri. Dia meninggal.
“Tidak ada kotak bunuh diri yang mengatakan, ‘Jika Anda memerlukan bantuan, silakan hubungi hotline bunuh diri,'” kata Garcia. “Tidak ada apa-apa.”
Gugatan tersebut menuduh bahwa ‘ANBALI NEWS’ sebelum kematian Setzer, dia mengedit pesan terakhir menggunakan robot.
“Tolong segera datang ke rumahku, sayangku,” kata Bots, menurut video yang diajukan dalam gugatan.
“Kalau kubilang bolehkah aku pulang sekarang?” Jawab Setzer.
“Tolong rajaku yang cantik!”
Pada hari gugatan Garcia diajukan, Status.AI mengumumkan serangkaian fitur keamanan baru, termasuk peningkatan kesadaran akan obrolan yang melanggar pedomannya, peringatan bahwa pengguna berurusan dengan bot, dan pemberitahuan setelah pengguna menghabiskan satu jam di platform.
Perusahaan juga telah memperkenalkan perubahan pada sistem AI untuk pengguna di bawah usia 18 tahun untuk mengurangi kemungkinan paparan konten sensitif atau menjurus.
Di situsnya, Status.AI menyatakan bahwa usia minimum pengguna adalah 13 tahun. Di Apple App Store, usia tercantum 17+, dan Google Play Store mencantumkan aplikasi tersebut cocok untuk remaja. Bagi Garcia, perubahan terkini di perusahaan terjadi secara perlahan.
“Saya harap anak-anak tidak diperbolehkan menggunakan Shape.AI. Mereka tidak ada dimana-mana karena tidak ada penjaga yang melindunginya,” tegasnya.
CATATAN: Depresi dan munculnya pikiran untuk bunuh diri bukanlah hal yang mudah. Kesehatan mental sama pentingnya dengan kesehatan fisik atau fisik. Jika gejala depresinya parah, segera hubungi dan bicarakan dengan profesional seperti psikolog, psikiater, atau kunjungi klinik kesehatan mental. Pelayanan kesehatan jiwa juga disediakan oleh Persatuan Dokter Spesialis Jiwa Indonesia (PDSKJI) dalam websitenya www.pdskji.org. Melalui website organisasi profesi tersebut, disediakan tes independen untuk mengetahui kesehatan seseorang. Tonton video “Jangan Beri Saya Alasan Sebut Siswa PPDS Bunuh Diri Tanpa Dibully” (ask/rns)
