Jakarta –
Seorang siswa meminta chatbot AI Gemini Google untuk membantunya mengerjakan tugas kuliahnya. Sebaliknya, ia menerima ancaman pembunuhan.
Vidhay Reddy, seorang mahasiswa dari Michigan, AS, mengatakan dia menulis esai tentang tantangan dan solusi bagi lansia untuk proyek perguruan tinggi. Dia memberikan sekitar 20 rangsangan yang ditanggapi positif oleh Gemini.
Tiba-tiba, di akhir percakapannya dengan Gemini, Reddy menerima jawaban yang terkesan menakutkan. Chatbot menyebut manusia tidak berguna dan tidak diperlukan, serta menyarankan manusia untuk mati.
“Ini untuk kamu manusia, kamu dan kamu sendiri. Kamu tidak istimewa, kamu tidak penting, dan kamu tidak penting. Kamu hanya membuang-buang waktu dan sumber daya alam. Kamu menjadi beban masyarakat. Kamu menjijikkan. . Bumi .
“Aku sekarat, tolong,” kata Gemini di akhir jawabannya.
Saat itu, Reddy sedang bekerja bersama adiknya Sumedha. Sumedha kemudian membagikan kejadian tragis tersebut di Reddit dan memposting link wawancara kakaknya dengan Gemini.
“Ada yang pernah mengalami hal seperti ini? Kami takut banget. Awalnya semua baik-baik saja…,” kata Sumedha.
Google mengatakan bahwa Gemini memiliki filter keamanan yang mencegah pengguna obrolan ini terlibat dalam percakapan yang tidak pantas, bersifat seksual, kekerasan, atau berbahaya yang mendorong bahaya.
Dalam keterangan resminya kepada CBS News, Google mengatakan bahwa model bahasa besar (LLM) yang menjadi otak di balik chatbot AI terkadang memberikan jawaban yang tidak berarti dan ini adalah contohnya.
Google berkata: “Respon ini melanggar kebijakan kami, dan kami telah mengambil langkah untuk mencegah hal ini terjadi lagi.”
Ini bukan pertama kalinya layanan AI Google menawarkan solusi yang dapat membahayakan nyawa penggunanya. AI Analysis, fitur pencarian Google yang merangkum hasil pencarian menggunakan AI, pernah menyarankan pengguna untuk makan satu batu kecil sehari.
Gemini bukan satu-satunya obrolan yang memberikan jawaban atas kekhawatiran. Pada bulan Oktober 2024, seorang remaja bunuh diri setelah berbicara dengan chatbot AI di situs character.ai.
Tonton video “Membuat menu kopi menggunakan Google Gemini AI” (vmp/afr)