.webp)
Profesor Universitas Montreal, Yoshua Bengio, dianggap salah satu Bapak AI karena karya akademisnya jadi landasan persaingan sengit AI saat ini. Ia juga pendiri dan penasihat Mila, lembaga penelitian AI di Quebec dan baru-baru ini meluncurkan organisasi penelitian nirlaba LawZero untuk membangun model AI yang aman.
Dalam wawancara dengan Wall Street Journal, Bengio tidak berbasa-basi yaitu bahwa pada tingkat perkembangan AI saat ini, ia yakin kita sedang menuju jalan gelap yang dapat menyebabkan semacam kiamat umat manusia.
"Jika kita membangun mesin yang jauh lebih pintar dari kita dan memiliki tujuan pelestariannya sendiri, itu berbahaya. Itu seperti menciptakan pesaing bagi umat manusia yang lebih pintar dari kita," katanya yang dikutip detikINET dari Futurism.
SCROLL TO CONTINUE WITH CONTENT
"Masalah dengan peristiwa bencana seperti kepunahan, dan bahkan peristiwa kurang radikal namun tetap bencana seperti menghancurkan demokrasi, adalah bahwa peristiwa tersebut begitu buruk sehingga meskipun hanya ada 1% kemungkinan bisa terjadi, itu tidak dapat diterima," lanjutnya.
Di 2023, Bengio dan ratusan pakar AI lain menyerukan moratorium pengembangan AI lantaran komunitas riset perlu waktu menetapkan dan menstandardisasi protokol keselamatan dan etika. Hal itu tidak pernah terjadi karena para pendiri yang ambisius dan investor terus menggelontorkan ratusan miliar dolar untuk mengembangkan model AI.
Seiring AI makin kuat, Bengio khawatir AI belajar berperilaku curang karena dilatih meniru manusia yang akan berbohong dan menipu dan akan mencoba melindungi diri mereka sendiri. Ia khawatir AI bertindak demi kepentingan sendiri di atas kepentingan penciptanya.
"Eksperimen terbaru menunjukkan bahwa dalam beberapa keadaan di mana AI tak punya pilihan selain mempertahankan diri yang berarti jika harus melakukan sesuatu yang menyebabkan kematian manusia, mereka mungkin memilih kematian manusia untuk mempertahankan tujuan mereka," cetusnya.
Mungkin tidak ala film Terminator, tapi bisa berupa eskalasi lebih halus dari misinformasi dan manipulasi seperti di media sosial atau AI bisa menjadi satu alat yang digunakan manusia untuk menyakiti manusia lainnya.
"AI bisa memengaruhi orang melalui persuasi, melalui ancaman, melalui manipulasi opini publik. Ada berbagai mereka dapat menyelesaikan berbagai hal di dunia melalui manusia. Seperti misalnya, membantu teroris mengembangkan virus yang dapat menciptakan pandemi baru yang bisa sangat berbahaya bagi kita," ujarnya.
(fyk/fyk)
