.webp)
Media sosial dihebohkan dengan rekaman suara Ketua Umum Partai Nasdem Surya Paloh dan Capres nomor urut 1 Anies Baswedan yang diduga dibuat menggunakan teknologi kecerdasan buatan (AI). Lantas, bagaimana cara mendeteksi deepfake suara seperti ini?
Menurut CEO dan co-founder startup Kata.ai Irzan Raditya, saat ini teknologi AI generatif memang sudah bisa digunakan untuk membuat rekaman palsu dengan suara yang sangat realistis hingga mirip suara aslinya. Bahkan caranya cukup gampang karena pembuat konten cukup menyediakan dataset dalam bentuk rekaman suara asli dan teks kalimat yang ingin diucapkan.
"Betul saat ini teknologi Generative AI sudah canggih yang bahkan sudah bisa membuat suara yang sangat hyper realistic terdengar seperti suara orang aslinya," kata Irzan saat dihubungi detikINET, Selasa (23/1/2024).
SCROLL TO CONTINUE WITH CONTENT
"Teknologi dan platformnya sudah bisa diakses secara publik, hanya bermodalkan rekaman suara 30 detik," sambungnya.
Kata.ai dikenal sebagai penyedia layanan chatbot dalam bentuk teks dan suara. Saat ini mereka juga sudah memiliki produk yang mengandalkan suara tiruan AI yaitu Inara AI yang merupakan hasil kolaborasi dengan influencer Inara Rusli dan hidup sebagai chatbot di WhatsApp.
Irzan menambahkan saat ini sudah ada beberapa layanan yang bisa mendeteksi konten buatan AI, termasuk rekaman suara deepfake. Namun kemajuan teknologi AI generatif yang semakin pesat membuat layanan detektor ini kesulitan menyamainya.
"Saat ini ada beberapa platform yang bisa mendeteksi AI generated content, walaupun sekarang kondisinya kadang teknologinya sudah semakin canggih maka platform untuk mendeteksi AI generated content / deepfake juga perlu meningkatkan kapabilitas mereka," jelas Irzan.
Ke depannya, Irzan mengatakan pentingnya edukasi untuk masyarakat agar tidak terkecoh dengan konten buatan AI. Ia juga mendukung regulasi yang kuat dalam pengembangan AI untuk memastikan teknologi ini dimanfaatkan secara bertanggung jawab.
"Edukasi adalah kunci. Masyarakat perlu dipersenjatai dengan pengetahuan untuk mengidentifikasi konten yang dipalsukan," kata Irzan.
"Transparansi dalam penggunaan AI membangun kepercayaan. Ini penting, khususnya menjelang pemilu, di mana integritas informasi sangat krusial," pungkasnya.
Seperti diberitakan sebelumnya, akun Twitter/X resmi Partai Nasdem membagikan rekaman suara yang diklaim sebagai Ketua Umum Partai Nasdem Surya Paloh dan Capres nomor urut 1 Anies Baswedan. Di rekaman itu terdengar suara yang diklaim sebagai Surya Paloh sedang menegur Anies. Nasdem menegaskan itu adalah konten hoax buatan AI.
Direktur Jenderal Informasi dan Komunikasi Publik (Dirjen IKP) Kementerian Kominfo Usman Kansong menegaskan bahwa rekaman itu memang hoax. Ia mengatakan Kominfo telah meminta platform media sosial segera menurunkan konten tersebut dan menginformasikan kepada pengguna bahwa informasi itu tidak benar.
(vmp/fay)
