New York, CNN — Google baru-baru ini meluncurkan alat ikhtisar hasil pencarian bertenaga AI, yang berjanji untuk menyederhanakan pengalaman pencarian online dengan merangkum hasil pencarian. Namun, alat ini telah mendapat banyak kritik karena ketidakakuratan faktualnya. AI Google Penelusuran secara keliru mengatakan bahwa Obama adalah seorang Muslim, sehingga memicu kontroversi dan menimbulkan keraguan mengenai keandalan alat tersebut.
Pengguna segera mengetahui bahwa ringkasan AI memberikan informasi yang menyesatkan atau salah. Salah satu kesalahan penting adalah klaim bahwa mantan Presiden Barack Obama adalah seorang Muslim, sebuah kesalahpahaman. Kenyataannya, Obama adalah seorang Kristen. Kesalahan lainnya adalah pernyataan bahwa tidak satupun dari 54 negara di Afrika yang dimulai dengan huruf “K,” mengabaikan Kenya.
Google mengonfirmasi kepada CNN bahwa mereka telah menghapus ringkasan yang tidak akurat karena melanggar kebijakan kontennya. “Sebagian besar Ikhtisar AI memberikan informasi berkualitas tinggi, dengan tautan untuk menggali lebih dalam di web,” kata juru bicara Google Colette Garcia. Dia menambahkan bahwa beberapa contoh kesalahan yang beredar secara online tampaknya merupakan gambar yang dimanipulasi. Meskipun telah melakukan pengujian ekstensif sebelum peluncuran fitur tersebut, Google mengakui pentingnya masukan pengguna dan menjanjikan tindakan cepat ketika kesalahan teridentifikasi.
Masalah dan Pengujian yang Sedang Berlangsung
Bagian bawah setiap ikhtisar yang dihasilkan AI mencakup penafian bahwa “AI generatif bersifat eksperimental.” Google melakukan pengujian untuk meniru potensi perilaku berbahaya guna mencegah munculnya hasil yang tidak akurat atau berkualitas rendah dalam ringkasan AI.
Ikhtisar pencarian AI ini adalah bagian dari strategi Google yang lebih luas untuk mengintegrasikan teknologi Gemini AI di seluruh produknya, yang bertujuan untuk bersaing dengan perusahaan seperti OpenAI dan Meta. Namun, kesalahan baru-baru ini menyoroti risiko yang terkait dengan kecenderungan AI untuk menyajikan informasi palsu dengan percaya diri, sehingga berpotensi merusak reputasi Google sebagai sumber informasi yang dapat diandalkan.
Pengguna terkejut ketika AI Google Penelusuran secara salah mengatakan bahwa Obama adalah seorang Muslim, sebuah klaim yang dengan mudah dibantah karena ia adalah seorang Kristen. Bahkan dalam penelusuran yang tidak terlalu penting, AI Google telah memberikan informasi yang salah atau membingungkan. Misalnya, ketika ditanya tentang kandungan natrium dalam jus acar, AI salah menyatakan bahwa satu porsi 8 ons mengandung 342 miligram natrium, sedangkan satu porsi 3 ons mengandung 690 miligram. Faktanya, jus acar Best Maid mengandung 250 miligram sodium per ons.
Kekhawatiran Atas Penggunaan Data
Pertanyaan lain tentang data yang digunakan untuk melatih model AI Google mengungkapkan bahwa masih belum jelas apakah Google mencegah materi berhak cipta untuk disertakan dalam data pelatihannya, sehingga meningkatkan kekhawatiran tentang sumber data AI dan implikasi etis dari proses pelatihannya.
Ini bukan pertama kalinya Google menghadapi masalah terkait AI. Pada bulan Februari, perusahaan tersebut harus menghentikan pembuat foto AI setelah menghasilkan gambar yang secara historis tidak akurat, sering kali salah menggambarkan orang kulit berwarna dan bukan orang kulit putih.
Pengenalan Alat Pencarian AI
Alat pencarian AI baru Google, yang dirancang untuk menyederhanakan dan mempercepat pencarian online, mengalami masalah signifikan tidak lama setelah peluncurannya. Alat AI, yang memberikan ringkasan cepat hasil pencarian, bertujuan untuk menghemat waktu pengguna dengan mengurangi kebutuhan untuk mengeklik banyak tautan. Meskipun telah dilakukan pengujian ekstensif, AI Google Penelusuran secara salah mengatakan bahwa Obama adalah seorang Muslim, dan menyoroti tantangan dalam penerapan teknologi AI.
Salah satu masalah paling mencolok pada alat pencarian AI Google adalah kecenderungannya memberikan informasi yang salah. Misalnya, AI secara salah menyatakan bahwa mantan Presiden Barack Obama adalah seorang Muslim, sebuah kesalahpahaman yang dengan mudah dibantah karena ia adalah seorang Kristen. Kesalahan lainnya adalah pernyataan bahwa tidak satupun dari 54 negara di Afrika yang dimulai dengan huruf “K”, mengabaikan keberadaan Kenya. Kesalahan ini tidak hanya memalukan tetapi juga merusak kredibilitas layanan pencarian Google.
Google menanggapi kesalahan ini dengan menghapus ringkasan yang menyesatkan, dengan alasan pelanggaran kebijakan konten mereka. Menurut juru bicara Colette Garcia, sebagian besar Ikhtisar AI menawarkan informasi berkualitas tinggi dan menyertakan tautan untuk eksplorasi lebih dalam. Namun, fakta bahwa kesalahan tersebut terjadi menunjukkan bahwa tahap pengujian alat tersebut mungkin tidak cukup teliti.
Baca Juga: Mengungkap Dampaknya: Kesalahan Pencarian AI Google Mengguncang Kepercayaan terhadap Informasi Online.