Ancaman Baru AI, Bisa Kuasai Negara dan Manusia

Seorang profesor Harvard memperingatkan bahwa kita sedang melaju menuju masa depan di mana AI menguasai negara. Dalam podcast "Hard Fork" dari New York Times, sejarawan Jill Lepore membahas gagasan tentang 'negara buatan' yang perlahan menggantikan negara tradisional, dengan tatanan yang menghapus otonomi manusia.

Dalam tatanan dunia baru ini, pemerintahan dijalankan bukan berdasarkan persetujuan rakyat, melainkan oleh mesin-mesin yang mengambil keputusan. Mesin-mesin itu, tentu saja, dimiliki oleh korporasi.

Lepore menekankan kita memang belum sepenuhnya hidup di negara buatan, tapi hal itu sedang dibangun dan diwujudkan. Hal ini juga merupakan fantasi yang diyakini oleh elite berpengaruh yang merasa bahwa kekuasaannya harus melampaui pemerintah yang sah serta mengabaikan para pemilih atau rakyat.

Para elite yang mendorong retorika ini tidak peduli keinginan masyarakat. "Karena kenyataannya, apa yang diinginkan masyarakat adalah tidak adanya AI dan tidak adanya data center. Jadi, itulah krisisnya," sebutnya yang dikutip detikINET dari Futurism, Kamis (27/8/2026).

Lepore mengeksplorasi gagasan ini secara mendalam dalam buku terbarunya yang akan segera terbit 'The Rise and Fall of the Artificial State'. Negara buatan ini adalah semacam kemunduran, di mana semakin banyak fungsi negara digantikan korporasi yang memiliki dan mengendalikan infrastruktur komunikasi digital.

Bagaimana kita mendapatkan berita, informasi tentang pemilu, dan siapa yang harus dipilih, semuanya dimediasi kelompok-kelompok kuat ini. Dulunya melalui teknologi seperti TV dan radio dan kini media sosial menjadi medium yang semakin dominan.

Negara buatan tidak semata didorong oleh AI, tetapi dipercepat olehnya. Orang-orang bertanya kepada ChatGPT tentang siapa yang harus dipilih, alih-alih berbicara dengan tetangga, pejabat setempat, atau pakar.

Sementara itu, pesan-pesan politik yang mereka lihat mungkin sebagian ditulis menggunakan AI. Keputusan di setiap tingkatan dibuat dengan bantuan mesin pemikir. AI juga semakin memperkuat pengawasan, memproses tumpukan data menggunung yang dikumpulkan dari kita semua.

Salah satu retorika pro AI dari Silicon Valley adalah bagaimana mereka membingkai AI sebagai keniscayaan. Salah satunya adalah regulasi menghambat inovasi, sehingga pemerintah harus melepaskan pengekang pada pengembangan AI.

Retorika lainnya adalah bahwa teknologi selalu memajukan demokrasi, yang seolah ingin meyakinkan bahwa semua ancaman nyata terhadap demokrasi yang ditimbulkan AI saat ini akan beres dengan sendirinya. Menurut Lepore, tak satu pun dari hal tersebut benar.