.webp)
Seiring perusahaan-perusahaan teknologi berlomba dalam meningkatkan produk AI mereka, gambar yang tersebar di internet semakin sulit dideteksi keasliannya. Ada banyak tool yang bisa mengganti wajah seseorang di dalam foto maupun video. Hal ini mengkhawatirkan banyak orang terkait penyebaran informasi yang salah.
Nah, Google mengumumkan tool baru yang diberi nama SynthID. Katanya, ini bisa jadi salah satu solusi. Tool ini mampu menyematkan semacam watermark digital pada sebuah gambar yang tidak bisa dilihat oleh mata manusia, tapi bisa terbaca oleh komputer yang sudah terlatih.
Google mengatakan bahwa teknologi watermark barunya tahan terhadap gangguan dan merupakan langkah penting dalam mengawasi penyebaran gambar palsu dan memperlambat penyebaran disinformasi.
SCROLL TO CONTINUE WITH CONTENT
Penyedia gambar AI telah ada cukup lama dan banyak digunakan untuk membuat deepfake, gambar yang terlihat asli. Maret kemarin, gambar AI yang memperlihatkan mantan presiden Donald Trump berlari dari polisi viral di internet. Dua bulan setelahnya, gambar yang menunjukkan ledakan di Pentagon mengakibatkan pasar saham terganggu.
Banyak perusahaan telah menempatkan logo di gambar AI serta teks "metadata" yang mencatat asal gambar. Namun, siapapun bisa memotong atau mengeditnya sehingga jejak watermark menghilang.
Dikutip detikINET dari The Washington Post, untuk sekarang, tool Google ini hanya tersedia untuk pelanggan berbayar dan hanya bekerja pada gambar yang dibuat oleh tool penghasil gambar milik Google, Imagen. Google mengatakan bahwa tool ini belum tersedia secara luas karena masih dalam masa eksperimen.
"Tujuan utama tool ini adalah untuk menciptakan sistem di mana gambar AI bisa dengan mudah diidentifikasi menggunakan watermark yang disematkan," ujar Pushmeet Kohli, wakil presiden penelitian di Google DeepMind, AI lab Google.
Ia juga mengingatkan bahwa tool baru ini belum sempurna. "Pertanyaannya adalah apakah kita punya teknologi untuk sampai ke sana?" tanyanya.
Seiring AI semakin canggih dalam menciptakan gambar dan video, politikus, peneliti, dan jurnalis khawatir bahwa garis perbedaan antara asli dan palsu akan terkikis semakin parah. Ini adalah sebuah dinamika yang bisa memperparah perpecahan politik dan mempersulit penyebaran fakta.
Kemajuan dari teknologi deepfake terjadi ketika perusahaan media sosial mulai mundur dari upaya pengawasan disinformasi pada platform mereka. Watermarking adalah sebuah ide di mana perusahaan-perusahaan teknologi bersatu untuk mengurangi dampak negatif dari teknologi AI generatif yang meluas begitu cepat.
Pada bulan Juli, White House mengadakan pertemuan bersama para pemimpin dari tujuh perusahaan AI besar, termasuk Google dan OpenAI. Perusahaan-perusahaan tersebut bersumpah menciptakan tool untuk menandai dan mendeteksi teks, vidio, dan gambar yang dihasilkan AI.
Kebanyakan perusahaan baru menggunakan metode watermark yang diletakkan di sudut gambar, misalnya Microsoft dan Open AI. Sementara itu, peneliti AI menyarankan agar ada penyematan watermark digital yang tak terlihat oleh mata tapi bisa diidentifikasi oleh komputer.
Kohli, eksekutif Google, mengatakan bahwa tool baru Google bekerja lebih baik dari itu. Watermarking bekerja bahkan setelah gambarnya diubah secara signifikan. Misalnya gambar itu dimodifikasi atau bahkan dibalik.
"Ada teknik lain di luar sana untuk menyematkan watermark, tapi kita tidak berpikir bahwa itu dapat diandalkan," ujarnya.
*Artikel ini ditulis oleh Khalisha Fitri, peserta Program Magang Bersertifikat Kampus Merdeka di detikcom.
(fyk/fyk)
