Bos Nvidia Bantah Kiamat AI 2030: Kita Tidak Akan Mati

CEO Nvidia, Jensen Huang, mengecam keras usulan untuk mengoordinasikan perlambatan dalam pengembangan model-model AI yang makin kuat. Komentar Huang muncul di tengah perdebatan sengit mengenai keamanan AI, dipicu oleh esai yang diterbitkan CEO Anthropic, Dario Amodei.

Amodei mengusulkan laboratorium AI terkemuka berkoordinasi untuk mengatur laju AI terdepan atau secara sengaja memperlambat pengembangan model-model canggih demi memberi perusahaan lebih banyak waktu menguji dan mengamankan. Upaya itu mungkin perlu mediasi pemerintah atau pengecualian dari pembatasan antimonopoli.

Huang sepakat perusahaan AI perlu menangani masalah keselamatan secara serius, namun ia berpendapat bahwa mereka seharusnya mampu menyelesaikan tantangan tersebut secara mandiri.

"Fakta bahwa kita seolah membutuhkan undang-undang baru, undang-undang antimonopoli baru, atau regulasi baru agar perusahaan-perusahaan ini dapat melakukan rekayasa fundamental dan mengerjakannya dengan benar sebelum merilis produk, itu benar-benar tidak diperlukan," tegas Huang yang dikutip detikINET dari CNBC.

"Kita sudah punya banyak undang-undang. Kita punya banyak regulasi yang mengatur keandalan dan fungsionalitas produk," imbuh salah satu orang terkaya dunia itu.

Amodei memaparkan tiga langkah untuk menahan laju pengembangan AI, dimulai dengan menempatkan evaluator keselamatan pihak ketiga di setiap laboratorium. Langkah kedua dan ketiga adalah koordinasi demokratis dan global mengenai standar keselamatan serta pembatasan tingkat kemajuan AI.

Masalah hukum muncul karena laboratorium AI terkemuka saling bersaing dan model mereka adalah produk yang saling berkompetisi. UU Antimonopoli Sherman di AS pada umumnya melarang kesepakatan antarpesaing yang secara tak wajar membatasi persaingan, sementara bentuk koordinasi tertentu dapat dianggap ilegal.

Hal itu menciptakan potensi risiko hukum jika para pengembang AI yang saling bersaing sepakat mengenai seberapa cepat mereka akan mengembangkan atau merilis model baru.

Huang menyatakan para pengembang model memiliki kuasa memastikan produknya aman sebelum dirilis. "Keselamatan adalah masalah rekayasa teknik. Pengujian juga adalah masalah rekayasa," ujar Huang, yang perusahaannya memiliki Anthropic dan OpenAI sebagai pelanggan penting.

Nvidia juga mengembangkan keluarga model Nemotron milik sendiri. "Kita harus menciptakan produk dan mengujinya dengan benar. Dan jika belum siap dirilis, tahan saja dulu, terus lakukan pengujian dan terus lakukan rekayasa sampai produk tersebut benar-benar siap," demikian sarannya.

Ledakan AI mengubah Nvidia menjadi pembuat chip terbesar dan perusahaan paling bernilai. Upaya memperlambat pengembangan model-model yang lebih mumpuni dapat berisiko bagi pertumbuhan Nvidia.

"Keselamatan AI adalah hal nyata. Merekayasa produk agar aman digunakan oleh dunia, itu adalah hal yang nyata. Dan perusahaan harus berinovasi secepat mungkin, namun mereka tidak boleh berinovasi terlalu cepat hingga merilis produk yang tidak aman," imbuhnya.

Huang juga menepis peringatan bahwa model AI yang makin kuat akan menimbulkan ancaman eksistensial bagi umat manusia dalam beberapa tahun mendatang. "Kita takkan mati pada tahun 2030," tandasnya.

"Ada begitu banyak orang di dunia yang akan membangun AI dengan benar. Kita akan memiliki segala macam batasan pengaman, serta menciptakan segala macam teknologi untuk keselamatan dan keamanan," pungkasnya.