Teknologi AI, Disinformasi, dan Pemilu Indonesia 2024

Pemilu Indonesia 2024 mendatang akan berlangsung di titik puncak teknologi, dengan kehadiran artificial intelligence (AI) dan machine learning yang perannya akan sangat berpengaruh. Artikel ini membahas bagaimana AI dapat membentuk kembali lanskap politik Indonesia, dengan fokus pada peluang yang dihadirkannya dan tantangan yang mungkin ditimbulkannya. Hal ini sangat penting mengingat pernyataan Komisi Pemilihan Umum (KPU) baru-baru ini yang menyatakan bahwa regulasi teknologi AI berada di luar yurisdiksinya.

Dalam ranah penjangkauan dan keterlibatan pemilih secara individual, AI telah muncul sebagai instrumen yang revolusioner. Dalam ranah partai politik misalnya, teknologi AI seringkali dimanfaatkan untuk melakukan penargetan mikro, menyegmentasikan basis pemilih yang besar ke dalam kategori-kategori yang digerakkan oleh minat yang berbeda, dan melakukan kampanye digital. Terlepas dari berbagai keuntungannya, sistem yang didukung AI menimbulkan kekhawatiran etis dan menimbulkan risiko baru terhadap hak asasi manusia dan proses demokrasi dalam skala global.

Ai dan Politik di Indonesia

Kekhawatiran serupa telah disuarakan oleh para pengamat di Indonesia, di mana ketersediaan alat AI yang meluas membuka pintu bagi para aktor politik untuk mengeksploitasi teknologi ini untuk kampanye propaganda yang terkoordinasi dan bertujuan untuk mempengaruhi hasil pemilu. Platform media sosial seperti TikTok, Facebook, Instagram, dan X, diduga kuat akan menjadi alat yang akan digunakan untuk mempengaruhi para pemilih. Kapasitas alat AI, contohnya seperti Elevenlabs.io, HeyGen, dan DeepbrainAI, untuk memanipulasi video, meniru suara, atau menghasilkan teks palsu dalam skala besar menimbulkan ancaman signifikan terhadap demokrasi. Sayangnya, bahkan di Indonesia, pemerintah dan institusi terkait sering kali tidak siap dan tidak memiliki alat untuk memverifikasi atau menyanggah materi-materi yang tidak valid secara cepat. Ditambah lagi, dengan adanya bukti yang jelas tentang buzzer atau cybertroopers yang telah beroperasi di media sosial selama periode pemilu sebelumnya, perangkat AI dapat membantu para propagandis yang haus akan keterlibatan ini untuk mencemari ekosistem informasi lebih jauh lagi selama periode pemilu.

Sebagai contoh, sempat beredar video di media sosial X yang menampilkan presiden Joko Widodo menyanyikan lagu hits "Asmalibrasi". Video ini menyebar dengan cepat di X, yang menunjukkan tren penggunaan AI untuk menggambarkan tokoh-tokoh politik Indonesia. Selain presiden Joko Widodo, pada periode pemilihan capres-cawapres kemarin, beredar juga video tokoh politik yang kala itu sedang mencalonkan diri sebagai calon presiden yaitu Prabowo Subianto yang fasih berbicara dalam bahasa Arab di TikTok. Video ini mendapatkan lebih dari 1,7 juta penayangan dalam kurun waktu tiga hari semenjak di posting. Kedua video tersebut terbukti merupakan hoax hasil dari teknologi AI. Meskipun sudah dinyatakan hoax, komentar-komentar terbaru tentang video tersebut masih mengindikasikan bahwa beberapa segmen pengguna TikTok di Indonesia meyakini bahwa video tersebut adalah asli. Contoh-contoh penyebaran yang cepat ini menunjukkan sifat meyakinkan dari rekayasa ini dan potensi pengaruhnya terhadap opini publik.

A Way Forward

Tanpa pengawasan yang efektif, seperti yang dilakukan oleh lembaga-lembaga seperti KPU dan Badan Pengawas Pemilihan Umum (Bawaslu), disinformasi yang dihasilkan oleh AI dapat menjadi tidak terkendali sehingga berpotensi menyebabkan pemilih yang salah informasi dan disesatkan. Kelancaran konten digital yang melampaui platform adalah masalah yang sangat mendesak, terutama pada platform terenkripsi seperti WhatsApp, yang secara historis telah memainkan peran penting dalam memengaruhi pemilu di Indonesia. Dari gambar statis hingga video deepfake yang realistis, masyarakat Indonesia terpapar konten bermuatan politik di mana-mana, yang semakin mengintensifkan tantangan yang muncul antara AI dan pemilu.

Tantangan baru dalam era politik Indonesia pun sudah menanti. Setelah pemilihan Calon Presiden dan Calon Wakil Presiden di bulan Februari kemarin, Indonesia kembali akan dihadapkan dengan pesta demokrasi selanjutnya, yaitu pemilihan kepala daerah serentak di bulan November mendatang. Dalam konteks ini, penting untuk menyadari bahwa ancaman yang diuraikan sebelumnya tidak hanya berlaku pada skala nasional, tetapi juga memiliki implikasi langsung terhadap dinamika politik di Pemilihan Kepala Daerah (Pilkada) yang akan datang. Berikut adalah beberapa cara di mana disinformasi berbasis AI dapat mempengaruhi jalannya Pilkada di Indonesia:

1. Peningkatan Risiko Disinformasi dalam Kampanye Pilkada.

   Dalam pemilihan kepala daerah yang akan datang, AI dapat dimanfaatkan untuk menyebarkan disinformasi yang dapat merusak reputasi kandidat tertentu. Misalnya, deepfake atau manipulasi AI lainnya dapat digunakan untuk membuat video atau rekaman audio yang menampilkan calon gubernur melakukan atau mengatakan sesuatu yang tidak sesuai dengan kenyataan. Hal ini bisa dengan cepat menyebar di media sosial, mempengaruhi persepsi publik dan mengubah dinamika kampanye secara drastis.

   
   

2. Pengaruh Disinformasi pada Pemilih

   Pemilih di Pilkada sering kali kurang terlindungi dari ancaman disinformasi dibandingkan dengan pemilih di tingkat nasional. Informasi palsu yang disebarkan melalui AI bisa lebih mudah mempengaruhi pemilih yang mungkin memiliki akses terbatas terhadap sumber berita yang kredibel atau yang kurang literasi digital. Ini bisa menyebabkan salah tafsir atas isu-isu penting atau membuat masyarakat kehilangan kepercayaan terhadap proses pemilihan.

   
   

3. Kesiapan Pemerintah Daerah dan Masyarakat

   Pemerintah daerah dan masyarakat harus lebih waspada terhadap ancaman disinformasi ini. Upaya literasi digital harus ditingkatkan di tingkat lokal, sehingga masyarakat lebih siap untuk mengenali dan menghindari jebakan disinformasi. Selain itu, pemerintah daerah perlu berkoordinasi dengan otoritas nasional dan platform teknologi untuk memastikan bahwa kampanye pemilihan dilakukan secara adil dan transparan, serta bahwa disinformasi yang berbahaya dapat diidentifikasi dan dihapus dengan cepat.

Secara keseluruhan, dengan semakin dekatnya Pilkada di berbagai provinsi di Indonesia, ancaman disinformasi berbasis AI menjadi isu yang sangat relevan dan harus segera ditangani. Keberhasilan dalam menghadapi tantangan ini akan sangat bergantung pada kolaborasi yang efektif antara pemerintah, platform teknologi, media, dan masyarakat dalam menjaga integritas pemilu dan mencegah dampak negatif dari disinformasi.