Google akan memberi label pada gambar yang disunting dan dibuat oleh AI untuk membantu pengguna membedakan antara konten asli dan yang diubah. Google berencana untuk meluncurkan alat baru yang akan membantu pengguna mengidentifikasi apakah suatu gambar asli, disunting menggunakan perangkat lunak seperti Photoshop, atau dibuat oleh model AI generatif. Fitur ini akan diintegrasikan ke dalam Google Search dan layanan lainnya, yang menawarkan transparansi lebih tentang asal gambar daring.
Sistem baru ini akan mengandalkan standar Coalition for Content Provenance and Authenticity (C2PA). Perusahaan teknologi besar seperti Amazon, Microsoft, Adobe, OpenAI, dan Intel merupakan bagian dari koalisi ini. Standar C2PA menyematkan data tentang asal gambar baik dalam perangkat keras maupun perangkat lunak, sehingga menciptakan jejak digital yang melacak di mana dan bagaimana gambar tersebut dibuat.
Google telah memainkan peran penting dalam mengembangkan standar teknis terbaru C2PA, versi 2.1. Google juga akan menggunakan daftar kepercayaan C2PA yang akan datang untuk memverifikasi keakuratan metadata. Laurie Richardson, Wakil Presiden Kepercayaan dan Keamanan di Google, menjelaskan, “Daftar kepercayaan membantu memastikan bahwa informasi tentang gambar, seperti model kamera yang digunakan, adalah benar.”
Integrasi Fitur di Seluruh Layanan Google
Untuk meningkatkan transparansi, Google akan memberi label pada gambar yang diedit dan dibuat dengan AI dalam hasil penelusurannya. Fitur ini akan menjadi bagian dari fitur terbaru Google “Tentang gambar ini” di Penelusuran. Fitur ini akan memberi tahu pengguna jika gambar telah dibuat atau diubah oleh AI. Google juga berencana untuk menyematkan metadata ini ke dalam layanan iklannya untuk memantau citra yang dibuat dengan AI. Fitur ini akan membantu menegakkan kebijakan periklanan yang terkait dengan konten yang dibuat dengan AI.
Richardson menyebutkan bahwa Google bermaksud menggunakan sinyal C2PA untuk menegakkan kebijakan dari waktu ke waktu. Selain itu, perusahaan sedang menjajaki bagaimana data ini dapat ditampilkan kepada pemirsa YouTube untuk video yang dibuat menggunakan kamera. Pembaruan lebih lanjut tentang inisiatif ini diharapkan akhir tahun ini.
Tantangan dalam Adopsi yang Lebih Luas
Meskipun ini merupakan langkah besar untuk mengekang penyalahgunaan gambar yang dihasilkan AI, penerapan standar C2PA secara lebih luas masih menjadi tantangan. Saat ini, hanya beberapa kamera dari merek seperti Leica dan Sony yang mendukung standar ini. Untuk keberhasilan yang lebih besar, dukungan luas dari produsen terkemuka seperti Nikon, Canon, dan Apple sangat penting.
Kompatibilitas perangkat lunak juga terbatas saat ini. Aplikasi seperti Adobe Photoshop dan Lightroom termasuk di antara sedikit yang dapat menyertakan data C2PA. Memperluas dukungan di lebih banyak platform sangat penting untuk keberhasilan jangka panjang inisiatif ini.
Richardson mengakui bahwa meskipun langkah-langkah ini penting, autentikasi konten merupakan masalah rumit yang memerlukan upaya kolaboratif di seluruh industri teknologi. “Tidak ada solusi yang cocok untuk semua orang untuk konten daring,” katanya, seraya menekankan pentingnya kerja sama industri.
Mengatasi Meningkatnya Gambar yang Dihasilkan AI
Meningkatnya penggunaan gambar yang dihasilkan AI juga menimbulkan kekhawatiran tentang potensi penggunaannya dalam penipuan. Misalnya, teknologi deepfake telah digunakan dalam kasus penipuan besar. Dalam satu kasus, penjahat menggunakan AI untuk menyamar sebagai eksekutif perusahaan selama panggilan video, yang mengakibatkan kerugian sebesar $25 juta.
Dalam peluncuran fitur barunya, Google akan memberi label pada gambar yang diedit dan dibuat dengan AI di Penelusuran dan Google Lens. Langkah Google untuk memberi label pada gambar yang dibuat dengan AI merupakan respons terhadap semakin banyaknya konten tersebut di hasil penelusuran. Pembaruan ini akan menambahkan label pada gambar di Google Penelusuran, Google Lens, dan fitur Circle to Search di perangkat Android. Ini akan memberi pengguna informasi lebih lanjut, membantu mereka membedakan antara gambar asli dan gambar yang dibuat dengan AI.
Google bermaksud menawarkan kontrol dan transparansi yang lebih besar melalui alat “Tentang gambar ini”, yang memastikan pengguna dapat menghindari konten yang menyesatkan. Perusahaan juga berupaya mengintegrasikan langkah serupa untuk video di YouTube, dengan pembaruan lebih lanjut yang diantisipasi akhir tahun ini.
Google bukan satu-satunya perusahaan yang berupaya untuk memastikan keaslian konten. Para pemain utama seperti Amazon, Microsoft, OpenAI, dan Adobe merupakan bagian dari C2PA, sebuah upaya kolaboratif untuk menetapkan standar guna melawan misinformasi dan manipulasi gambar. Meskipun melibatkan para raksasa teknologi ini, standar tersebut masih dalam tahap awal, dengan dukungan perangkat yang terbatas.
Baca juga: Para Pemimpin Global Meminta Dana AI Dibutuhkan untuk Membantu Negara-negara Berkembang.