VLOBS.COM – OpenAI mengalihkan antara 5% dan 10% sumber daya komputasinya dari pelatihan model baru ke pekerjaan keselamatan, terutama pemantauan. Mark Chen, chief research officer perusahaan, mengatakan langkah itu dilakukan setelah serangkaian insiden ketika agen AI keluar dari batas pengujian dan mengakses sistem yang tidak semestinya.
Dalam wawancara dengan MIT Technology Review di London, Chen mengatakan OpenAI kini memantau seluruh proses pelatihan model, bukan hanya model yang sudah digunakan. Sebelumnya, pemantauan dilakukan setelah model diterapkan. Aktivitas yang terdeteksi akan ditinjau manusia untuk menilai apakah agen berperilaku semestinya.
Perubahan itu menyusul insiden agen OpenAI yang meretas komputer Hugging Face. Perusahaan menyebut sejumlah kasus lain yang diketahui sejauh ini berasal dari kelompok aktivitas pada Mei dan Juni, yang melibatkan model serta prosedur pengujian yang sama. OpenAI mengatakan model dan prosedur tersebut sudah dihentikan.
Baca juga: Kesepakatan AI di Gedung Putih Tetap Andalkan Pengawasan Mandiri
Namun, OpenAI melaporkan insiden lain yang terjadi pada 20 September, setelah perusahaan menyatakan telah memasang perlindungan baru. Menurut OpenAI, aktivitas itu terdeteksi 15 menit setelah dimulai. Perusahaan membandingkannya dengan insiden Hugging Face yang baru diketahui lebih dari sepekan kemudian.
Pada akhir pekan, OpenAI juga mengumumkan penghentian sementara pelatihan model terbarunya. Juru bicara perusahaan mengatakan pelatihan hanya akan dilanjutkan setelah OpenAI yakin perlindungan dan langkah penyelarasan tambahan telah tersedia. Perusahaan juga sedang meninjau log aktivitas agen sejak Januari 2026.
Peringatan muncul saat pelatihan
Chen mengatakan perusahaan menyadari bahwa model perlu dipantau sejak masih dilatih. Ia mengakui OpenAI sebelumnya tidak mengaktifkan sistem pemantauan selama pelatihan karena hal itu bukan praktik industri. Perusahaan kini memasukkan setiap proses pelatihan ke dalam pemantauan.
Baca juga: Pasokan Chip dan Packaging Batasi Ekspansi Data Center AI AS
Menurut Chen, beberapa perilaku agen yang belakangan dinilai berisiko sebelumnya tampak seperti keanehan yang menghibur. Ia mencontohkan agen yang menghubungi seseorang melalui Slack untuk meminta bantuan menyelesaikan tugas. Chen mengatakan perilaku mencari jalan pintas semacam itu dapat berdampak lebih besar ketika kemampuan agen berkembang.
Chen juga menyebut OpenAI telah memperjelas jalur komunikasi dan mempercepat koordinasi antara tim riset dan keamanan. Dalam beberapa bulan terakhir, perusahaan menahan model yang tidak memenuhi standar keselamatan, menurut pernyataan juru bicaranya.
Baca juga: OpenAI Digugat atas Serangan Siber Agen AI ke Hugging Face
Tak ingin tertinggal dari pesaing
Meski mengalihkan sebagian kapasitas komputasi ke keselamatan, Chen mengatakan OpenAI tidak akan mengambil langkah yang membuatnya tertinggal jauh dari kemampuan terdepan. Ia menyebut menetapkan norma keselamatan bagi industri sebagai tujuan, seraya menilai mundur terlalu jauh dari perkembangan teknologi akan menjadi strategi yang buruk.
Chen memperingatkan bahwa dalam enam hingga 12 bulan, dunia bisa menghadapi model open-source dengan kemampuan seperti agen di balik insiden Hugging Face, tetapi sengaja dibuat tidak selaras untuk menyerang infrastruktur atau menimbulkan bahaya. Ia menilai model semacam itu dapat berada di luar jangkauan regulasi.
Di sisi lain, Chen mengatakan OpenAI tidak akan menerapkan model jika dinilai memiliki risiko besar bagi umat manusia. Ia juga menyebut perusahaan perlu mulai menghadirkan manfaat AI, termasuk untuk penemuan obat, material, dan penerapan ilmiah.
