X, yang sebelumnya dikenal sebagai Twitter, baru-baru ini meluncurkan generator gambar AI baru yang telah menimbulkan kekhawatiran signifikan. Chatbot X kini dapat menghasilkan gambar AI terkait tema terkait pemilu, sehingga menimbulkan kekhawatiran tentang potensi penyalahgunaan. Alat tersebut, yang dikembangkan oleh Black Forest Labs dan tersedia untuk pengguna X berbayar melalui chatbot Grok, memungkinkan pengguna untuk menghasilkan gambar dari perintah teks. Namun, pembatasan platform yang relatif longgar telah menyebabkan terciptanya gambar kontroversial, termasuk gambar yang tampaknya menggambarkan kejahatan terkait pemilu dan tokoh-tokoh yang bermuatan politik seperti Wakil Presiden Kamala Harris dan mantan Presiden Donald Trump.
Fakta bahwa chatbot X kini dapat menghasilkan gambar AI terkait hasil pemilu dapat menyebabkan kebingungan yang meluas. Pengguna di X telah mampu membuat gambar yang menyerupai tangkapan layar rekaman keamanan yang memperlihatkan orang-orang memasukkan surat suara ke dalam kotak suara, sebuah narasi yang terkait dengan klaim tak berdasar tentang kecurangan pemilih yang meluas dalam pemilu 2020. Gambar-gambar ini, meskipun membawa tanda-tanda nyata dari generasi AI—seperti pencahayaan yang tidak alami dan teks yang tidak jelas—tetap saja telah memicu kekhawatiran tentang dampak potensialnya saat AS mendekati pemilihan presiden berikutnya pada bulan November.
Selain itu, generator gambar tersebut kesulitan menampilkan wajah secara akurat, terutama wajah tokoh publik seperti Wakil Presiden Harris, sehingga menimbulkan kekhawatiran tentang keandalan alat tersebut dan kemungkinan menyebarkan konten yang menyesatkan.
Kekhawatiran Publik dan Peringatan Ahli
Fakta bahwa chatbot X kini dapat menghasilkan gambar AI terkait skenario pemilu telah memicu perdebatan tentang dampaknya. Para ahli telah menyatakan ketidaknyamanan dengan waktu dan sifat peluncuran alat AI tersebut. Eddie Perez, anggota dewan di OSET Institute yang nonpartisan, mengkritik peluncuran tersebut, terutama menjelang pemilu besar. Perez menekankan bahwa teknologi tersebut tampaknya kurang memiliki pengujian dan perlindungan yang memadai, yang dapat menyebabkan penyalahgunaannya dalam mengobarkan ketegangan politik.
Kemampuan alat AI untuk menghasilkan gambar yang realistis namun menyesatkan telah menimbulkan kekhawatiran. Sementara kesadaran publik terhadap AI generatif telah tumbuh, yang menyebabkan banyak orang mencermati gambar-gambar tersebut secara kritis, masih ada kekhawatiran bahwa gambar-gambar ini dapat “dibersihkan” menggunakan alat desain grafis dan kemudian disebarkan secara luas, yang selanjutnya mempersulit upaya untuk memastikan integritas pemilu.
Tidak seperti alat AI X, generator gambar arus utama lainnya, seperti ChatGPT Plus milik OpenAI, memiliki kebijakan yang lebih ketat untuk mencegah terciptanya konten yang menyesatkan atau berbahaya. Misalnya, ketika diminta untuk membuat gambar yang menggambarkan aktivitas ilegal atau penipuan pemilu, platform ini biasanya menolak permintaan tersebut. Namun, bahkan platform ini pun tidak sempurna dalam menegakkan kebijakan mereka, seperti yang terungkap dalam laporan dari Center for Countering Digital Hate.
Kurangnya Pagar Pengaman X
Black Forest Labs, pengembang di balik generator gambar AI X, memiliki batasan yang relatif sedikit dalam ketentuan layanannya. Pengguna dapat membuat gambar yang menyerupai karakter berhak cipta dan konten lain yang berpotensi menimbulkan masalah hukum. Kurangnya perlindungan yang kuat dari X telah menimbulkan kekhawatiran tentang potensi alat tersebut untuk membuat dan menyebarkan gambar yang berbahaya atau menyesatkan.
Pengguna X dan kelompok advokasi telah menguji batas-batas alat AI, dengan hasil yang beragam. Sementara beberapa permintaan, seperti permintaan gambar anggota Klu Klux Klan yang memegang senjata, ditolak, permintaan lainnya, termasuk penggambaran Nazi atau kelompok ekstremis, dibuat. Insiden ini telah memicu kritik lebih lanjut terhadap pendekatan X terhadap moderasi konten di bawah kepemimpinan Elon Musk, yang telah menghadapi tuduhan mencabut langkah-langkah keamanan dan mempromosikan konten yang kontroversial.
Chatbot X kini dapat menghasilkan gambar AI terkait aktivitas pemilu, yang berpotensi mengganggu proses demokrasi. Pengenalan generator gambar AI X telah memicu perdebatan tentang implikasi etis dan potensi bahaya dari teknologi tersebut.
Saat AS mendekati pemilihan umum yang kritis, kemampuan alat tersebut untuk menghasilkan gambar yang menyesatkan atau menghasut dapat menimbulkan ancaman yang signifikan terhadap kepercayaan publik terhadap proses pemilihan umum. Dengan sedikit perlindungan yang tersedia, platform tersebut mungkin menghadapi pengawasan yang semakin ketat atas perannya dalam membentuk wacana publik.
Baca Juga: Gangguan Besar-besaran: ChatGPT Down Secara Global, Mengganggu Jutaan Orang.