VLOBS.COM – OpenAI mengatakan telah mengidentifikasi dan menghentikan kampanye terkoordinasi yang berupaya mengekstrak penalaran terlindungi dari model AI miliknya. Perusahaan mengaitkan klaster utama aktivitas tersebut dengan individu yang berhubungan dengan Moonshot AI, perusahaan rintisan asal China pengembang Kimi.
Menurut OpenAI, aktivitas itu dimulai pada awal Juli dan meningkat menjadi 16.000 permintaan dari lebih dari 4.000 pengguna dalam dua hari. Perusahaan kemudian menemukan aktivitas terkait di antara lebih dari 15.000 pengguna dan menyatakan kampanye tersebut telah sepenuhnya dihentikan pada 28 Juli.
Baca juga: California Larang Perusahaan Memecat Pekerja Hanya Berdasarkan AI
OpenAI menyebut metode itu sebagai “adversarial distillation”, yakni penggunaan keluaran atau penalaran satu model AI untuk membantu melatih atau meningkatkan model lain. Perusahaan mengatakan upaya mengambil penalaran tersebut dapat memungkinkan pihak lain mereproduksi kemampuan tingkat lanjut tanpa investasi serupa untuk mengembangkan dan mengamankan model AI terdepan. OpenAI menilai praktik itu berpotensi menimbulkan risiko keselamatan dan keamanan nasional.
Baca juga: Jim Cramer Sebut Sejumlah Sektor Ekonomi AS Sedang ‘Membeku’
OpenAI menyatakan para operator tidak membobol enkripsi, basis data, maupun percakapan pengguna yang tersimpan. Mereka disebut memanipulasi interaksi dengan model untuk mereproduksi penalaran tersembunyi dalam bentuk yang dapat dilihat peminta.
Perusahaan mengatakan belum jelas apakah semua operator terkait merupakan bagian dari satu aktor. OpenAI menyebut telah membagikan temuannya kepada pengembang AI lain melalui Frontier Model Forum serta saluran berbagi informasi pemerintah. Moonshot AI belum segera menanggapi permintaan komentar CNBC.
Baca juga: Micron Lampaui Ekspektasi, Proyeksikan Pendapatan US$61,5 Miliar
Temuan itu muncul beberapa minggu setelah Anthropic menuduh sejumlah pengembang AI China, termasuk Moonshot AI dan Alibaba, diam-diam menggunakan model Claude untuk membantu melatih sistem AI mereka. Tuduhan tersebut mencerminkan kekhawatiran perusahaan AI Amerika Serikat bahwa pesaing dapat memanfaatkan model mereka untuk mengembangkan teknologi tandingan dengan lebih cepat dan murah.
