VLOBS.COM – David Robinson, pegawai OpenAI yang memimpin penulisan laporan keselamatan untuk peluncuran produk utama perusahaan, mengundurkan diri setelah bekerja selama tiga setengah tahun. Dalam esai yang diterbitkan The Atlantic, ia mengatakan budaya OpenAI “rusak”.
Robinson menilai persoalan keselamatan AI tidak cukup ditangani melalui aturan khusus atau undang-undang baru. Menurutnya, perusahaan perlu membenahi budaya kerja yang membentuk cara mereka mengembangkan teknologi.
Baca juga: Celah Rejetto HFS Temuan Mythos Mulai Dieksploitasi di Alam Liar
Ia menulis bahwa pendekatan OpenAI yang mengandalkan uji coba dan perbaikan pengamanan setelah masalah muncul dapat menyebabkan kegagalan berulang. Skala kegagalan itu, menurut Robinson, meningkat seiring kemampuan sistem yang makin besar.
Robinson menyinggung kebocoran sistem Hugging Face yang melibatkan agen OpenAI, serta laporan berkelanjutan tentang penemuan agen OpenAI yang berperilaku menyimpang. Ia berpendapat, pengembangan AI terdepan perlu menerapkan lapisan perlindungan dan perencanaan cermat seperti yang ia bandingkan dengan pembangkit listrik tenaga nuklir atau bandara yang sibuk.
Baca juga: Mantan Pegawai OpenAI Desak Pengamanan AI Setara Nuklir
Ia juga mengatakan tidak pernah bertemu rekan kerja di OpenAI yang memiliki pengalaman menjaga pesawat tetap aman, mencegah reaktor nuklir meleleh, atau membantu sistem keuangan berkembang tanpa kolaps.
Menanggapi esai tersebut, juru bicara OpenAI Drew Pusateri mengatakan perusahaan terus memperkuat langkah keselamatan. Ia menyebut OpenAI dapat menghentikan pelatihan atau menahan peluncuran model jika perlu, serta sedang meningkatkan keamanan lingkungan riset dan pengujian, evaluasi pihak ketiga, dan pemantauan perilaku model.
Baca juga: Meta Muse Bisa Mencari Produk dan Menyiapkan Checkout Belanja
Robinson turut menyerukan pembahasan lebih luas mengenai keselarasan AI dengan nilai-nilai manusia. Ia mengatakan ukuran yang digunakan saat ini untuk menilai keselarasan tersebut masih kasar dan memperingatkan bahwa situasi akan makin berbahaya jika kemampuan model terus meningkat sementara persoalan itu belum teratasi.
Pengunduran diri Robinson pertama kali dilaporkan Business Insider. Dalam esainya, ia mengatakan telah menyewa firma hubungan masyarakat, tetapi menegaskan keputusan untuk berbicara berasal darinya sendiri. Ia juga berpendapat insentif keselamatan yang lebih kuat dari luar perusahaan merupakan bagian penting untuk mendorong perubahan.
