Jakarta –
Yoshua Bengio, seorang ilmuwan komputer dan salah satu pionir kecerdasan buatan atau kecerdasan buatan, telah memperingatkan tentang bahaya kecerdasan buatan di masyarakat dan menyerukan untuk meminimalkan risikonya. Bengio, seorang profesor di Universitas Montreal, telah memenangkan beberapa penghargaan atas karyanya di bidang kecerdasan buatan dan pembelajaran mendalam.
Ia khawatir sebagian penguasa ingin menggantikan manusia dengan mesin. Mesin berpotensi memiliki banyak kemampuan kognitif manusia. Teknologi AGI (kecerdasan umum buatan) bertujuan untuk menyamai atau melampaui kecerdasan manusia.
“Intelijen memberi kekuasaan. Tapi siapa yang akan mengendalikan kekuasaan itu? Memiliki sistem yang mengetahui lebih banyak dari kebanyakan orang bisa berbahaya jika berada di tangan yang salah dan menciptakan lebih banyak ketidakstabilan di tingkat geopolitik, seperti terorisme.”
Menurutnya, sejumlah organisasi dan pemerintah akan mampu membiayai pembuatan mesin kecerdasan buatan yang kuat, dan semakin besar sistemnya, maka akan semakin pintar pula sistem tersebut. “Mesin ini menghabiskan biaya miliaran dan sangat sedikit organisasi dan negara yang mampu melakukannya. Itu terjadi,” kata Bengio seperti dikutip ANBALI NEWSINET CNBC.
“Akan ada pemusatan kekuasaan, yaitu kekuatan ekonomi yang bisa berdampak buruk bagi pasar, kekuatan politik yang bisa berdampak buruk bagi demokrasi, dan kekuatan militer yang bisa berdampak buruk bagi stabilitas geopolitik planet ini. kekuatan yang perlu kita pelajari dengan cermat dan mulai atasi sesegera mungkin.” “katanya.
Peristiwa ini mungkin akan terjadi setelah beberapa dekade, namun tidak menutup kemungkinan akan terjadi dalam waktu dekat. “Juga, ada orang-orang yang ingin menyalahgunakannya, dan ada orang-orang yang senang melihat manusia digantikan oleh mesin. Orang-orang itu bisa mempunyai kekuatan besar, dan mereka bisa melakukannya jika kita tidak memasang penghalang yang tepat sekarang. . Dan itu ide yang bagus untuk menggunakannya,” katanya.
Pada bulan Juni, Bengio mendukung surat terbuka berjudul “Hak untuk Memperingatkan Tentang Kecerdasan Buatan Tingkat Lanjut”. Surat tersebut memperingatkan adanya risiko serius terhadap pengembangan AI. “Hal pertama yang harus dilakukan pemerintah adalah membuat peraturan yang memaksa perusahaan untuk mendaftar ketika mereka mendirikan sistem percontohan ini,” kata Bengio.
Karena AI berkembang begitu pesat, pemerintah juga perlu sedikit kreatif dan membuat undang-undang yang dapat beradaptasi terhadap perubahan teknologi. Perusahaan yang mengembangkan AI juga harus bertanggung jawab atas tindakannya, termasuk menghadapi sanksi jika timbul masalah. Tonton Video: Peraih Nobel Fisika Terganggu dengan Temuan Penelitian (fyk/fay)
