Penggunaan AI dalam Pemilu, yang Menggembirakan dan Menakutkan

Foto:Tiktok @partainasdem

Propaganda ini misalnya adalah penggunaan bot untuk penyebaran #MacronLeaks ke media sosial beberapa hari sebelum pemilihan Presiden Prancis. Mereka menyebarkan laporan palsu pada platform Facebook dan X untuk membangun narasi dan persepsi pengguna media sosial bahwa Emmanuel Macron adalah seorang penipu dan munafik. Hal tersebut merupakan strategi untuk mendorong topik yang sedang tren dan mendominasi di media sosial.

Penggunaan AI yang disalahgunakan juga terjadi dalam referendum Brexit dan pemilihan Presiden AS pada 2016. Terdapat bukti teknologi AI disalahgunakan secara sistematis untuk memanipulasi masyarakat. Beberapa orang juga mengklaim bahwa teknologi AI merupakan penentu dalam hasil referendum dan pemilihan umum.

Di Indonesia, terdapat juga beberapa kasus penggunaan AI untuk menjatuhkan elektabilitas tokoh-tokoh penting, yang ada di masyarakat lewat media sosial.Misalnya baru baru ini terdapat video pidato Presiden Joko Widodo yang sedang berpidato, tapi suaranya diubah menjadi menggunakan bahasa China.


Foto:Tiktok @alpharexofficial

Lalu peniruan suara video rekaman pembicaraan Ketua Partai Nasdem Surya Paloh dan capres nomor 1 Anies Baswedan. Dalam video tersebut terdapat peniruan suara Surya Paloh yang sedang memarahi Anies.

Beredarnya video palsu yang menggunakan AI tersebut sangat berbahaya jika jatuh ke masyarakat yang minim literasi media dan pendidikan politiknya. Mereka dengan mudah bisa percaya dan memengaruhi ideologi atau pemikiran mereka. Ini misalnya dengan beredarnya video mantan Presiden Suharto yang meminta rakyat memilih calon dari Partai Golkar


Foto: X @erwinaksa_id

Strategi alternatif untuk membatasi penggunaan AI secara tidak benar, tentunya dengan membuat peraturan yang lebih besar,lebih ketat akan perlindungan data dan akuntabilitas algoritmik yang bisa mengurangi penyalahgunaan dalam konteks politik.

Saat ini di Indonesia, sudah ada aturan berupaSurat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Surat Edaran (SE) ini mengaturpelaku usaha aktivitas pemrograman berbasis kecerdasan artifisial pada Penyelenggara Sistem Elektronik (PSE) lingkup publik dan privat.

Beberapa poin penting dari SE ini, mengutip situs web resmi Kominfo, adalahmenegaskan nilai inklusivitas, aksesibilitas, keamanan, kemanusiaan, serta, kredibilitas dan akuntabilitas dalam pemanfaatan AI. Penyelenggaraan AI digunakan sebagai pendukung aktivitas manusia khususnya untuk meningkatkan kreativitas pengguna dalam menyelesaikan permasalahan dan pekerjaan.



Kedua, penyelenggaraan yang menjaga privasi dan data sehingga tidak ada individu yang dirugikan. Ketigapengawasan pemanfatan untuk mencegah penyalahgunaan AI oleh pemerintah, penyelenggara, dan pengguna.

Selain itu, tanggung jawab pengembangan dan pemanfaatan AI juga mencakup agar AItidak diselenggarakan sebagai penentu kebijakan dan/atau pengambil keputusan yang menyangkut kemanusiaan. Kedua, memberikan informasi yang berkaitan dengan pengembangan teknologi berbasis kecerdasan artifisial oleh pengembang untuk mencegah dampak negatif dan kerugian dari teknologi yang dihasilkan.

Terakhir, para pelaku pengguna AI juga harus memperhatikan manajemen risiko dan manajemen krisis dalam pengembangan AI.

Fhadel Izza Mahendra
Kontributor GenSINDO
Politeknik Negeri Media Kreatif Jakarta