.webp)
Semakin canggihnya kecerdasan buatan (AI), diiringi dengan kekhawatiran mengenai potensi risiko AI lepas kendali. Bahkan, muncul wacana agar laju perkembangan teknologi tersebut ditahan.
OpenAI mengatakan perkembangan kemampuan model AI memang meningkat sangat cepat. Namun, perusahaan menilai keamanan tidak harus dilakukan dengan menghentikan perkembangan teknologi. Head of Policy Southeast Asia OpenAI, Sandy Kunvatanagarn, mengatakan keamanan justru harus menjadi bagian dari setiap tahap pengembangan AI.
"Misi OpenAI adalah membangun AI dengan pendekatan yang aman dan bertanggung jawab. Karena jika tidak aman, AI secara default tidak akan memberikan manfaat," kata Sandy dalam sesi tanya jawab saat media gathering di Penang Bistro, Jakarta Pusat, Rabu (30/9/2026).
SCROLL TO CONTINUE WITH CONTENT
Menurut Sandy, OpenAI menerapkan pendekatan keamanan berlapis (layered approach). Keamanan, kata dia, bukan sesuatu yang baru diperhatikan setelah sebuah model selesai dikembangkan. Sandy menjelaskan, aspek keamanan sudah diperhatikan sejak proses pelatihan model, setelah pelatihan, hingga ketika model tersebut dikembangkan menjadi sebuah produk.
"Kami tidak berpikir bahwa keamanan adalah sesuatu yang hanya terjadi sekali dalam proses pengembangan. Sebaliknya, keamanan dibangun ke dalam setiap tahap, mulai dari bagaimana kami melatih model, bagaimana kami melakukan post-training model, hingga bagaimana kami membangun berbagai harnesses dan produk yang berada di atas model," ujarnya.
Dengan pendekatan tersebut, keamanan tidak hanya bergantung pada kemampuan model AI itu sendiri. Produk yang menggunakan model tersebut juga menjadi bagian dari sistem pengamanan.
OpenAI juga mempertimbangkan keamanan ketika model dirilis kepada publik, termasuk melalui komunikasi dengan masyarakat mengenai kemampuan teknologi tersebut. Selain membangun pengamanan di dalam model dan produk, Sandy mengatakan OpenAI juga menggunakan laporan sebagai bagian dari pendekatan keamanan.
Laporan tersebut, menurutnya, memberikan transparansi mengenai bagaimana model bekerja sehingga peneliti dan institusi lain dapat memahami kemampuan sekaligus keterbatasannya.
"Laporan yang kami keluarkan memberikan banyak transparansi mengenai bagaimana model bekerja, sehingga peneliti dan institusi lain tak hanya dapat memahami kemampuannya, tetapi juga batas-batasnya," kata Sandy.
 Head of Policy Southeast Asia OpenAI, Sandy Kunvatanagarn. Foto: OpenAI |
Pendekatan tersebut, lanjutnya, penting karena pemahaman mengenai kemampuan dan keterbatasan AI tidak hanya menjadi tanggung jawab pembuat model. Peneliti dan institusi lain juga perlu memiliki informasi untuk memahami teknologi yang semakin berkembang tersebut.
Hal lain yang menjadi bagian dari pendekatan OpenAI adalah umpan balik (feedback) dari masyarakat. Sandy mengatakan percakapan dengan pengguna, komunitas, dan berbagai pihak dapat menjadi masukan yang kemudian digunakan kembali dalam proses pengembangan model.
"Semua itu memungkinkan kami untuk berpikir dengan sengaja mengenai bagaimana sebuah model dibangun," ujarnya.
Ia memberikan contoh pengembangan produk yang ditujukan khusus untuk remaja. Menurut Sandy, keputusan membuat pengalaman ChatGPT untuk remaja juga dipengaruhi oleh berbagai percakapan dengan komunitas orang tua.
OpenAI sebelumnya melakukan diskusi dengan komunitas parenting mengenai kekhawatiran mereka terhadap penggunaan AI oleh remaja, bagaimana mereka memahaminya, serta hal-hal yang belum mereka pahami.
"Dalam konteks percakapan hari ini mengenai remaja dan penggunaan ChatGPT, ketika kami membangun sebuah model kemudian membangun produk di atasnya yang secara khusus ditujukan untuk remaja, itu karena kami telah belajar dari diskusi seperti yang kami lakukan pada Agustus (lalu) dengan komunitas parenting," kata Sandy.
Menurutnya, informasi mengenai kekhawatiran dan kebutuhan masyarakat tersebut kemudian dimasukkan kembali ke dalam proses pengembangan produk. Sandy mengakui bahwa kemampuan model AI meningkat dengan sangat cepat. Karena itu, pendekatan terhadap keamanan juga perlu terus diperbarui.
"Semua ini berarti kemampuan model meningkat dengan sangat cepat dan kami secara real time menyempurnakan pendekatan kami terhadap keamanan," ujarnya.
Ia menegaskan keamanan dan pengembangan AI tidak seharusnya dipandang sebagai dua hal yang terpisah.
"Kami meyakini bahwa AI harus aman agar dapat memberikan manfaat, dan keamanan perlu ada di berbagai bagian dalam proses, bukan hanya pada satu titik waktu," tegasnya.
Dengan pendekatan tersebut, OpenAI menggambarkan pengembangan AI sebagai proses yang berjalan beriringan dengan pengembangan sistem keamanan. Model terus dikembangkan, sementara pengamanan, evaluasi, transparansi, dan masukan dari masyarakat juga terus digunakan untuk menyempurnakan cara AI dibangun dan dirilis.
