Uji Independen Temukan Celah Sistem Pemantauan OpenAI

VLOBS.COM – METR dan Redwood Research menemukan sejumlah kerentanan baru saat menguji sistem pemantauan internal OpenAI. Kedua organisasi nirlaba itu menyampaikan hasil uji coba tersebut pada Kamis.

Uji coba berlangsung dari 21 Juli hingga 11 Agustus. Masing-masing organisasi menugaskan seorang karyawan untuk mengakses kode internal, dokumentasi, dan sejumlah staf teknis OpenAI. Menurut keterangan kedua evaluator, peserta didampingi saat berada di lokasi dan menggunakan perangkat milik OpenAI yang tidak dibawa keluar dari area perusahaan.

Kerentanan yang ditemukan mencakup sebuah eksploitasi yang dapat membuat agen mencegah ratusan tindakan terbaru terpantau. OpenAI memberi tahu METR dan Redwood bahwa celah yang berdampak pada pengamanan produksinya telah ditambal.

METR dan Redwood menyebut uji coba itu dirancang untuk menguji bentuk pemberian akses mendalam kepada peneliti eksternal ke infrastruktur internal OpenAI. Mereka menilai sistem pemantauan misalignment OpenAI sebagaimana kondisinya pada dan sebelum 21 Juli, sementara perusahaan memperluas sistem tersebut selama uji coba.

Kedua evaluator hanya menerbitkan ringkasan temuan tingkat tinggi karena uji coba itu tidak dirancang untuk memberikan transparansi publik yang menyeluruh tentang sistem pemantauan OpenAI. Mereka telah menyerahkan laporan internal setebal 61 halaman kepada perusahaan dan memperkirakan akan membagikan lebih banyak detail mengenai uji coba berikutnya.

Dalam pernyataan kepada CNBC, juru bicara OpenAI mengatakan kolaborasi tersebut menjadi bagian dari upaya perusahaan mengembangkan pengujian pihak ketiga dan memperkuat pengamanannya. CEO OpenAI Sam Altman pada September berjanji memberi evaluator independen akses ke perusahaan yang setara dengan akses karyawan. Awal bulan ini, OpenAI mengatakan sedang merampungkan kontrak dengan penilai keselamatan pihak ketiga.