21 Agustus 2025─Kehadiran Generative AI (GenAI) memiliki implikasi terhadap banyak aspek kehidupan, seperti demokrasi. Isu ini menjadi sorotan dalam salah satu panel Information Resilience and Integrity Symposium (IRIS) 2025 yang diselenggarakan oleh Center for Digital Society (CfDS) Fisipol UGM dengan Safer Internet Lab (SAIL) pada Kamis (21/8) di Kampus Fisipol UGM. Panel tersebut bertemakan “The Role of Information in Democratic Resilience”.
Menurut Abdul Gaffar Karim, dosen dan Kepala Departemen Politik dan Pemerintahan (DPP) UGM, persoalan demokrasi saat ini adalah mengenai kepercayaan, kebenaran, dan integritas dari informasi. Dalam masa-masa elektoral pada 2024 lalu, Abdul Gaffar menyampaikan bahwa terdapat banyak fenomena penggunaan AI yang terlihat dalam konten-konten deepfake hingga disinformasi.
“Dampak dari hal ini adalah rusaknya kemampuan kolektif untuk membedakan yang asli dan palsu,” tukas Abdul Gaffar.
Hal tersebut menjadi genting karena manipulasi informasi merupakan kunci utama dari otokrasi modern, sebuah sistem pemerintahan yang memusatkan kekuasaan pada segelintir elite. GenAI dapat mendorong pergeseran menuju otokrasi apabila digunakan untuk menciptakan disinformasi yang sangat terpersonalisasi.
Lebih lanjut, Abdul Gaffar mengatakan bahwa GenAI dapat mencederai demokrasi, tak hanya dalam konteks elektoral, tetapi juga dalam kehidupan demokrasi sehari-hari. Resliliensi demokrasi sangat bergantung pada kohesi antara elit dan masyarakat sipil. Menurutnya, kedua hal ini sangat rentan terhadap polarisasi melalui konten-konten GenAI. Secara keseluruhan GenAI dapat memengaruhi partisipasi publik, diskursus kebijakan, serta kepercayaan institusional.
“Oleh karena itu, integritas dalam informasi harus menjadi tulang punggung dari resiliensi demokrasi,” tegas Abdul Gaffar.
Berkaitan dengan fenomena buzzer, Michelle Anindya, seorang jurnalis lepas, menemukan bahwa GenAI dimanfaatkan dalam pekerjaan sehari-hari mereka seperti percepatan produksi konten, penipuan melalui audio palsu, hingga membantu pembuatan akun-akun baru.
“Penggunaan AI oleh para buzzer memang masih berifat rudimenter, tetapi bukan berarti tidak berbahaya,” jelas Michelle.
Lebih lanjut, Michelle menilai bahwa penggunaan GenAI oleh buzzer terjadi pada platform sosial media yang problematik akibat algoritmanya yang fokus pada meningkatkan engagement pengguna. Oleh karena itu, diskursus mengenai disinformasi, GenAI, dan buzzer semestinya tidak hanya berfokus pada konten, tetapi juga pada infrastruktur platform sosial media yang menjadi tempat para buzzer beroperasi.
Selain Abdul Gaffar dan Michelle, panel ini juga diisi oleh Summer Chen, Co Founder FactLink Taiwan, serta Rahmat Fauzi, Analis dari Pilkada.AI. Kehadiran mereka menegaskan bahwa persoalan informasi, demokrasi, dan GenAI merupakan isu lintas negara yang memerlukan kolaborasi luas.