Kecerdasan buatan diperkirakan akan memainkan peran yang mengganggu dalam pemilu AS tahun 2024. Meskipun tidak mengubah hasil pemilu secara radikal, namun berhasil menyebarkan ketidakpercayaan dan melemahkan kepercayaan masyarakat terhadap kebenaran. Sebuah kasus penting melibatkan gambar Donald Trump yang dibuat oleh AI dan menjadi viral, menyesatkan puluhan ribu orang, dan menggambarkan tantangan yang ditimbulkan oleh konten digital yang dimanipulasi.
Gambar Banjir Trump yang Viral
Gambar mantan Presiden Donald Trump yang diubah secara digital berjalan melewati banjir setelah Badai Helene mendapat perhatian besar di media sosial. Diunggah pada tanggal 30 September, gambar tersebut menggambarkan Trump mengenakan rompi pelampung berwarna oranye saat ia mengarungi jalan yang banjir. Postingan tersebut dibagikan lebih dari 160.000 kali di Facebook dalam dua hari dan beredar luas di Instagram.
Namun, gambar tersebut dipastikan dihasilkan oleh AI. Trump memang mengunjungi Georgia untuk meninjau kerusakan akibat badai dan bertemu dengan penduduk yang terkena dampak, namun tidak ada laporan atau gambar sah yang menunjukkan dia mengarungi air. Para ahli dan alat pendeteksi AI mengungkap kepalsuan gambar yang viral, menyoroti ketidakkonsistenan dan meningkatnya prevalensi AI dalam kampanye misinformasi.
Analisis AI Mengungkap Kepalsuan
Walter Scheirer, seorang profesor teknik di Universitas Notre Dame, mengidentifikasi gambar tersebut sebagai produk algoritma AI generatif. Ia mencontohkan beberapa inkonsistensi, seperti tampilan pakaian Trump yang terlihat kering dan artefak yang terlihat di sekitar cipratan air dan truk di dekatnya.
Senada dengan itu, James O'Brien, profesor ilmu komputer di Universitas California, Berkeley, menekankan kejanggalan dalam penampilan Trump. Hal ini termasuk tali jaket pelampung yang melintang di wajah Trump, fitur wajah yang tercoreng, dan efek tidak wajar lainnya. Dia menjelaskan bahwa perangkat lunak AI yang memadukan wajah Trump ke gambar lain telah membuat kesalahan, terutama di bagian tepinya.
Pakar AI juga menyoroti tanda-tanda manipulasi lainnya, seperti teks yang terdistorsi pada jaket pelampung dan topi serta fakta bahwa Trump dan pria di sampingnya tampaknya hanya memiliki empat jari di masing-masing tangan. Kelemahan ini umum terjadi pada konten yang dihasilkan AI, karena model generatif sering kali kesulitan dalam menampilkan tangan dan teks yang terbaca secara akurat.
Alat pendeteksi, Hive Moderation, lebih jauh mengonfirmasi pemalsuan tersebut, dan menentukan bahwa 99,9% kemungkinan gambar tersebut dihasilkan oleh AI.
Dampak Perubahan Gambar
Meskipun perubahan gambar tersebut tidak secara langsung mempengaruhi keputusan pemilih, penyebarannya yang luas menunjukkan tren yang meresahkan: terkikisnya kepercayaan masyarakat terhadap informasi. Konten palsu, terutama jika didukung oleh kekuatan AI generatif, memperkuat polarisasi dan memperkuat perpecahan partisan yang ada.
Pendukung Trump mungkin menafsirkan gambar tersebut sebagai contoh ketangguhan dan dedikasi pemimpin mereka, meskipun gambar tersebut salah. Sebaliknya, para kritikus dapat melihat penyebaran konten tersebut sebagai bukti ketidakjujuran atau manipulasi di kalangan pendukung Trump. Terlepas dari penafsirannya, gambaran viral tersebut memperparah perpecahan dengan memperkuat bias yang sudah ada sebelumnya daripada mengubah perspektif siapa pun.
Gambaran banjir Trump hanyalah salah satu contoh bagaimana AI dapat mengganggu wacana publik. Deepfake, gambar yang dihasilkan AI, dan video menyesatkan telah menjamur dalam beberapa tahun terakhir, sehingga semakin sulit membedakan fakta dan fiksi. Meskipun platform seperti Facebook dan Instagram menggunakan alat AI untuk mendeteksi konten semacam itu, upaya mereka sering kali tertinggal dibandingkan kecepatan penyebaran informasi yang salah.
Para ahli mengingatkan bahwa alat AI generatif telah menurunkan hambatan dalam pembuatan konten palsu yang meyakinkan, sehingga memungkinkan pelaku kejahatan untuk memperkuat narasi yang memecah belah. Kemudahan penggunaan aplikasi yang didukung AI berarti bahwa siapa pun yang memiliki pengetahuan teknis dasar dapat membuat dan mendistribusikan media palsu, sehingga semakin mempersulit upaya melawan misinformasi.
Platform media sosial dan peneliti berupaya mengatasi tantangan yang ditimbulkan oleh konten yang dihasilkan AI. Algoritme pendeteksian, seperti Hive Moderation, memainkan peran penting dalam mengidentifikasi media yang dimanipulasi, namun efektivitasnya bergantung pada adopsi yang luas dan intervensi yang tepat waktu.
Pendidikan juga merupakan komponen penting dalam memerangi misinformasi. Meningkatkan kesadaran masyarakat tentang kemampuan dan keterbatasan AI dapat membantu pengguna mengevaluasi konten secara kritis sebelum membagikannya. Selain itu, para pembuat kebijakan sedang menjajaki kerangka peraturan untuk mengatasi implikasi etika dan hukum dari kampanye misinformasi yang didorong oleh AI.
Pembelajaran dari Pemilu 2024
Pemilu AS tahun 2024 menunjukkan bahwa meskipun AI mungkin tidak mempengaruhi pemilih secara langsung, AI berkontribusi terhadap lingkungan ketidakpercayaan dan polarisasi. Gambaran banjir Trump ini memberikan contoh bagaimana misinformasi sekecil apa pun bisa menjadi viral dan memicu perdebatan tentang kebenaran dan keadilan.
Seiring dengan terus berkembangnya teknologi AI, peran AI dalam membentuk opini publik dan memutarbalikkan kenyataan kemungkinan besar akan semakin meningkat. Ke depan, masyarakat harus memprioritaskan transparansi, akuntabilitas, dan pendidikan untuk memitigasi risiko misinformasi yang disebabkan oleh AI. Taruhannya sangat besar, seiring dengan semakin banyaknya pertarungan untuk mendapatkan kebenaran di dunia digital yang didominasi oleh teknologi canggih dan sering kali tidak terkendali.
Kecerdasan buatan tidak mengubah hasil pemilu tahun 2024, namun memperburuk perpecahan dan memperdalam keraguan mengenai keandalan informasi. Gambaran banjir Trump yang viral menggarisbawahi pentingnya mengatasi misinformasi yang dihasilkan oleh AI, menyoroti perlunya alat deteksi yang kuat, pendidikan publik, dan peraturan yang bijaksana. Hanya dengan menghadapi tantangan-tantangan ini secara langsung masyarakat dapat menjaga integritas proses demokrasi di era perubahan teknologi yang pesat.