Jakarta –
Seorang pemuda bunuh diri, setelah mengirimkan pesan melalui chatbot dari Character.AI. Dia adalah Sewell Setzer III (14), anak dari seorang ibu bernama Megan Garcia.
Tidak terpengaruh, Garcia menggugat Character.AI. Garcia mengatakan Character.AI gagal menerapkan perlindungan yang memadai sampai putranya “mengembangkan” hubungan yang tidak pantas dengan chatbot karakter fiksi Daenerys Targaryen. Akibatnya, pemuda tersebut pergi, sebelum akhirnya bunuh diri.
Juru bicara Character.AI mengatakan kepada CNN bahwa perusahaannya tidak mengomentari gugatan tersebut, namun mengatakan perusahaan sangat sedih atas kehilangan tragis salah satu penggunanya.
“Kami sangat memperhatikan keselamatan pengguna kami, dan tim Kepercayaan dan Keamanan kami telah menerapkan sejumlah langkah keamanan selama enam bulan terakhir, termasuk pop-up yang mengarahkan pengguna ke National Suicide Prevention Lifeline untuk tindakan menyakiti diri sendiri atau pikiran untuk bunuh diri. .” perusahaan menjelaskan dalam sebuah pernyataan.
Sebagian besar perubahan ini dilakukan setelah kematian Setzer. Pada hari gugatan Garcia diajukan, Character.AI mengumumkan fitur keamanan baru, termasuk deteksi percakapan yang melanggar pedomannya dengan lebih baik, laporan yang memperingatkan pengguna bahwa mereka berinteraksi dengan bot, dan pemberitahuan setelah pengguna menghabiskan satu jam di platform. .
Perusahaan juga memperkenalkan perubahan pada sistem AI untuk pengguna di bawah usia 18 tahun untuk mengurangi kemungkinan mereka menemukan konten yang mengganggu atau mengganggu.
Di situsnya, Character.AI menyatakan usia minimum pengguna adalah 13 tahun. Di Apple App Store, usia tercantum 17+, dan Google Play Store mencantumkan aplikasi yang cocok untuk remaja. Namun untuk saat ini, bagi Garcia, perubahan terbaru dalam industri ini sudah terlambat.
“Saya berharap anak-anak tidak diperbolehkan menggunakan Character.AI. Tidak ada tempat bagi mereka karena tidak ada pengamanannya,” akunya.
CATATAN: Depresi dan munculnya pikiran untuk bunuh diri bukanlah hal yang jarang terjadi. Kesehatan mental sama pentingnya dengan kesehatan fisik atau fisik. Jika gejala depresi semakin parah, segera tanyakan dan diskusikan dengan profesional seperti psikolog, psikiater, atau pergi ke pusat kesehatan. Layanan pemeriksaan kesehatan juga disediakan oleh Persatuan Profesi Kesehatan Jiwa Indonesia (PDSKJI) di situs resminya, www.pdskji.org. Melalui situs profesional organisasi, pengujian mandiri ditawarkan untuk mengetahui keadaan mental seseorang. Simak video “Alasan Undip Ajak Mahasiswa PPDS Bunuh Diri Bukan Karena Bullying” (ask/rns)
