Suaraindo.com – Perkembangan teknologi kecerdasan buatan (AI) semakin pesat di tengah musim pemilu di Amerika Serikat, menimbulkan kekhawatiran tentang maraknya peredaran informasi palsu yang umumnya berformat deepfake. Deepfake adalah konten visual seperti foto atau video yang dapat dibuat dengan mudah menggunakan bahan yang ada di internet, meniru perawakan dan suara seseorang hingga sangat mirip dengan aslinya.
Menurut laporan baru dari Moody minggu ini, AI-generatif dan deepfake menjadi masalah besar dalam menjaga integritas pemilu.
“Pemilu akan menantang, terutama dengan meningkatnya peredaran deepfake untuk menggiring opini sesat para pemilih,” kata Vice President dan Analyst Moody, Gregory Sobel, dan Senior Vice President Moody, William Foster, seperti dikutip dari CNBC International, Kamis (11/7/2024).
Mereka menambahkan bahwa keberhasilan penyebaran disinformasi dapat mempengaruhi suara pemilih dan hasil pemilu, serta kredibilitas institusi di AS.
Pemerintah AS telah mengambil langkah-langkah untuk memerangi deepfake. Pada Mei lalu, Kepala Komisi Komunikasi Federal (FCC), Jessica Rosenworcel, mengusulkan aturan baru yang meminta iklan TV politik, video, dan radio untuk memberikan label pada konten yang dibuat dengan AI-generatif. Meskipun media sosial tidak diatur oleh FCC, Komisi Pemilu Federal (FEC) turut mengawasi penyebaran AI di berbagai platform.
Beberapa platform seperti Meta telah berinisiatif memberikan label khusus untuk konten buatan AI. Namun, karena volume unggahan yang besar setiap harinya, tidak semua konten bisa diberi label.
Moody memperingatkan bahwa deepfake saat ini sudah digunakan oleh pemerintah atau organisasi non-pemerintah untuk menyebarkan propaganda di media sosial dan, dalam bentuk ekstrem, dapat memicu aksi terorisme. AS, sebagai salah satu negara paling rentan terhadap kejahatan siber, menempati urutan ke-19 dari 192 negara dalam E-Government Development Index PBB.
“Tak menutup kemungkinan bahwa banyak oknum-oknum di luar lanskap politik AS yang mengeksploitasi AI-generatif untuk memengaruhi politik AS. Untuk pemilih, sebaiknya tetap tenang, siaga, dan pilih sesuai pilihan dengan mengambil informasi yang akurat,” kata Jon Adams dari Securworks.
