Sekelompok karyawan saat ini dan mantan karyawan OpenAI telah mengeluarkan surat publik yang menyatakan keprihatinan tentang potensi risiko yang terkait dengan teknologi AI. Karyawan OpenAI, termasuk staf saat ini dan mantan staf, telah mengeluarkan surat peringatan publik tentang AI tingkat lanjut. Meskipun mereka mengakui manfaat signifikan yang dapat diberikan oleh AI, mereka juga memperingatkan bahaya yang ada, termasuk semakin dalamnya kesenjangan yang ada, penyebaran informasi yang salah, dan potensi hilangnya kendali atas sistem otonom, yang dapat menimbulkan konsekuensi yang sangat buruk.
Para karyawan berpendapat bahwa perusahaan AI, yang didorong oleh kepentingan finansial, sering kali menolak pengawasan yang efektif. Mereka mengklaim bahwa struktur tata kelola perusahaan yang ada tidak memadai untuk mengatasi permasalahan ini. Menurut mereka, perusahaan-perusahaan AI menyimpan banyak informasi non-publik tentang kemampuan dan risiko sistem mereka, namun mereka hanya membagikan sedikit informasi tersebut kepada pemerintah dan tidak sedikit pun yang membagikan informasi tersebut kepada publik.
Perlindungan Pelapor yang Tidak Memadai
Karyawan OpenAI, termasuk staf saat ini dan mantan, telah mengeluarkan surat peringatan publik tentang AI tingkat lanjut. Surat tersebut menyoroti tidak memadainya perlindungan pelapor saat ini. Perlindungan ini biasanya mencakup aktivitas ilegal, sementara banyak risiko terkait AI masih belum diatur. Karyawan takut akan adanya pembalasan dan mengutip perjanjian kerahasiaan yang luas yang mencegah mereka menyampaikan kekhawatiran mereka secara publik.
Kelompok ini mengusulkan beberapa prinsip yang dapat diadopsi oleh perusahaan AI untuk memastikan transparansi dan akuntabilitas:
1. Tidak Adanya Pembalasan atas Kritik:
Perusahaan tidak boleh memaksakan perjanjian yang melarang kritik terkait masalah risiko. Mereka juga harus menahan diri untuk tidak melakukan tindakan pembalasan terhadap karyawan yang menyuarakan kekhawatiran mereka.
2. Pelaporan Anonim:
Harus ada sistem bagi karyawan untuk melaporkan masalah terkait risiko secara anonim kepada dewan direksi perusahaan, regulator, dan organisasi independen.
3. Budaya Kritik Terbuka:
Perusahaan harus mendorong budaya di mana karyawan dapat secara terbuka mendiskusikan kekhawatiran terkait risiko dengan publik, dewan direksi, atau otoritas terkait tanpa takut akan pembalasan sekaligus melindungi rahasia dagang.
4. Perlindungan terhadap Keterbukaan Informasi Publik:
Karyawan tidak boleh menghadapi pembalasan karena membagikan informasi rahasia terkait risiko kepada publik jika proses internal gagal, asalkan mereka tidak mengungkapkan rahasia dagang jika tidak diperlukan.
Surat tersebut menggarisbawahi perlunya pengawasan pemerintah yang efektif dan pentingnya memberikan kesempatan kepada karyawan untuk meminta pertanggungjawaban perusahaan AI. Kelompok ini menekankan bahwa prinsip-prinsip ini sangat penting untuk memastikan bahwa pengembangan dan penerapan teknologi AI dilakukan secara bertanggung jawab.
Memahami Risiko dan Tantangannya
Karyawan OpenAI, dengan suara bulat, telah memberikan peringatan keras tentang teknologi AI yang canggih. Surat dari karyawan OpenAI saat ini dan mantan karyawan OpenAI menyoroti kekhawatiran yang signifikan mengenai pengembangan dan penerapan teknologi AI. Kekhawatiran utama mereka adalah meskipun AI memiliki potensi besar untuk memberikan dampak positif, AI juga membawa risiko yang besar. Risiko-risiko ini meliputi:
1. Meningkatnya Ketimpangan:
AI dapat memperburuk kesenjangan sosial dan ekonomi yang ada. Misalnya, otomatisasi dapat menyebabkan hilangnya pekerjaan di sektor-sektor tertentu, dan secara tidak proporsional berdampak pada kelompok berpenghasilan rendah.
2. Manipulasi dan Misinformasi:
AI dapat digunakan untuk membuat berita palsu atau deepfake yang sangat meyakinkan, sehingga menyebabkan misinformasi dan manipulasi opini publik.
3. Hilangnya Kendali:
Sistem AI otonom, jika tidak dikontrol dengan baik, dapat bertindak secara tidak terduga, sehingga berpotensi menimbulkan kerugian dalam skala besar, termasuk risiko ekstrim kepunahan manusia.
Mengevaluasi Prinsip-Prinsip yang Diusulkan
Usulan untuk menghindari tindakan pembalasan terhadap karyawan yang menyampaikan kekhawatiran terkait risiko sangatlah penting. Pembalasan dapat menghambat masukan penting dan mencegah potensi risiko ditangani. Namun, penerapan prinsip ini memerlukan perubahan budaya di dalam perusahaan dan perlindungan hukum yang kuat bagi karyawan.
Mengizinkan pelaporan anonim kepada dewan perusahaan, regulator, dan organisasi independen merupakan langkah untuk memastikan bahwa kekhawatiran didengar tanpa rasa takut akan konsekuensi pribadi. Mendorong budaya di mana karyawan dapat mendiskusikan risiko secara terbuka sangat penting untuk perbaikan berkelanjutan dan akuntabilitas. Perusahaan harus menyeimbangkan keterbukaan ini dengan kebutuhan untuk melindungi rahasia dagang dan informasi sensitif.
Prinsip ini menganjurkan untuk melindungi karyawan yang menyampaikan kekhawatiran mereka kepada masyarakat jika mekanisme internal gagal. Hal ini menggarisbawahi pentingnya memiliki berbagai saluran untuk menyampaikan isu. Namun, hal ini juga menimbulkan pertanyaan tentang potensi konflik dengan kekayaan intelektual dan keunggulan kompetitif.
Baca Juga: ChatGPT Kembali Online: Melanjutkan Percakapan AI yang Mulus Setelah Gangguan Sementara.