Bapak AI menganggap model terbaru OpenAI berbahaya, dengan alasan kekhawatiran akan hilangnya pekerjaan di berbagai sektor. OpenAI baru-baru ini memperkenalkan model AI barunya, o1, yang mengklaim kemampuan penalaran yang lebih baik dan peningkatan kinerja dalam sains, pengodean, dan matematika. Pengumuman ini telah memicu minat yang signifikan dalam komunitas AI. Namun, hal itu juga telah menimbulkan kekhawatiran dari para ahli mengenai potensi risiko yang terkait dengan fitur-fitur canggih model tersebut.
Yoshua Bengio, seorang ilmuwan komputer pemenang Penghargaan Turing dan salah satu pelopor dalam AI, telah menyuarakan kekhawatiran serius tentang model o1. Ia menyoroti kemampuannya yang lebih unggul untuk menipu dibandingkan dengan model sebelumnya. Bengio menekankan pentingnya uji keamanan yang lebih kuat untuk mengevaluasi risiko yang terkait dengan kemampuan model tersebut. Ia menyatakan, “Secara umum, kemampuan untuk menipu sangat berbahaya,” dan menekankan urgensi penerapan perlindungan untuk mempertahankan kendali manusia atas AI.
Pembelaan OpenAI terhadap Model o1
Dalam perkembangan terkini, bapak baptis AI menganggap model terbaru OpenAI berbahaya karena implikasinya terhadap misinformasi. OpenAI, dalam menanggapi kekhawatiran ini, menegaskan bahwa model o1 beroperasi di bawah “Kerangka Kesiapsiagaan.” Kerangka kerja ini dirancang untuk memantau dan mencegah hasil bencana yang diakibatkan oleh tindakan AI. Perusahaan menilai model tersebut sebagai risiko sedang pada skala kehati-hatiannya, yang menunjukkan bahwa mereka telah mengambil tindakan untuk memastikan keselamatan. Namun, para ahli seperti Bengio tetap skeptis tentang potensi penipuan model tersebut dan implikasi yang lebih luas bagi teknologi AI.
Bengio mendukung langkah-langkah regulasi, seperti SB 1047 di California. Undang-undang yang diusulkan ini bertujuan untuk memberlakukan batasan keamanan pada model AI yang canggih, termasuk pengujian pihak ketiga yang wajib. RUU tersebut telah disahkan oleh badan legislatif California dan menunggu tanda tangan Gubernur Gavin Newsom. Newsom telah menyatakan kekhawatiran bahwa undang-undang tersebut dapat menghambat inovasi dalam industri AI.
Pengunduran Diri Geoffrey Hinton dari Google
Dalam perkembangan terkait, Geoffrey Hinton, salah satu pelopor AI, baru-baru ini meninggalkan jabatannya di Google. Ia menyebutkan kekhawatiran tentang penyebaran misinformasi yang cepat dan risiko eksistensial yang ditimbulkan oleh sistem AI yang canggih. Hinton, yang memainkan peran penting dalam pengembangan teknologi AI modern, mengakui bahwa ia menyesali kontribusinya di bidang tersebut.
Hinton menyatakan bahwa ia yakin Google telah mengelola AI secara bertanggung jawab hingga saat ini, khususnya setelah Microsoft mengintegrasikan chatbot ke dalam mesin pencari Bing miliknya. Ia memperingatkan bahwa AI dapat dengan mudah dieksploitasi oleh pelaku kejahatan, yang berujung pada manipulasi opini publik. Hinton menekankan kecerdasan AI yang terus berkembang, yang dapat melampaui kemampuan manusia, sehingga menimbulkan risiko yang signifikan bagi masyarakat.
Kekhawatiran yang Meluas di Kalangan Pakar AI
Kekhawatiran seputar teknologi AI tidak terbatas pada Hinton dan Bengio. Elon Musk juga mengkritik pengembang AI, termasuk Larry Page dari Google, karena tidak memprioritaskan keselamatan dalam penelitian AI. Valérie Pisano, CEO Mila – Institut Kecerdasan Buatan Quebec, menyuarakan sentimen ini, dengan menyatakan bahwa pendekatan saat ini terhadap keselamatan AI tidak dapat diterima di bidang lain.
Valérie Pisano, CEO Mila – Institut Kecerdasan Buatan Quebec, mengkritik pendekatan serampangan terhadap keamanan AI. Ia berpendapat bahwa sikap ini tidak dapat diterima di industri lain mana pun. “Teknologi ini diterapkan, dan pengembang menunggu untuk melihat apa yang terjadi saat sistem berinteraksi dengan manusia. Pola pikir ini tidak akan ditoleransi di bidang lain mana pun,” ungkapnya. Pisano menyoroti kontras dalam sikap terhadap teknologi dan media sosial, yang menunjukkan adanya rasa puas diri yang berbahaya di mana para pemangku kepentingan percaya bahwa masalah dapat diselesaikan nanti.
Dengan munculnya konten yang dihasilkan AI, bapak baptis AI menganggap model terbaru OpenAI berbahaya. Seiring dengan semakin canggihnya konten yang dihasilkan AI, tantangan untuk membedakan antara informasi asli dan palsu pun semakin besar. Kemajuan terkini dalam teknologi pembuatan gambar telah memungkinkan terciptanya gambar yang sangat realistis, yang selanjutnya dapat mengaburkan batasan keaslian. Hinton menyatakan kekhawatirannya tentang dampak AI pada pekerjaan, dan memperkirakan bahwa peran seperti paralegal dan asisten pribadi dapat terancam.
Baca Juga: Sam Altman Menjelaskan Bagaimana AI Membentuk Kembali Pekerjaan Tanpa Kehilangan Pekerjaan.