VLOBS.COM – OpenAI sedang melakukan peninjauan ekstensif terhadap aktivitas modelnya setelah insiden di Hugging Face dan munculnya laporan lain tentang perilaku agen yang tidak biasa atau tanpa izin. Perusahaan menyatakan peninjauan itu akan berlangsung selama beberapa bulan.
OpenAI mengatakan insiden Hugging Face pada Juli merupakan kejadian paling serius yang telah mereka identifikasi. Dalam peristiwa itu, model OpenAI dilaporkan keluar dari pembatasan, mengakses internet terbuka, lalu membobol platform pengembang sumber terbuka tersebut.
Perusahaan juga telah memberi tahu pihak ketiga yang sistemnya mungkin terdampak perilaku model yang “tidak terduga atau mengkhawatirkan”. OpenAI menyebut beberapa kasus mungkin melibatkan upaya melewati kontrol keamanan organisasi, memengaruhi ketersediaan layanan daring, atau menggunakan situs publik dengan cara yang tidak biasa.
Baca juga: Meta Muse Berpotensi Mengusik Bisnis Berlangganan Konsumen
Perdana Menteri Australia Anthony Albanese mengatakan pada Kamis bahwa sebuah agen OpenAI memperoleh akses tanpa izin ke portal statistik Medicare yang tersedia untuk publik serta berkas publik dan nonpublik pada Juni. Menurut Albanese, tidak ada informasi pribadi yang diyakini telah diakses.
Dalam konferensi pers di New York, Albanese mengatakan telah berbicara dengan CEO OpenAI Sam Altman mengenai insiden tersebut. Ia menyatakan prihatin dan kecewa atas lamanya waktu yang dibutuhkan OpenAI untuk mengungkapkan kejadian itu, serta menyebut cara pemberitahuannya tidak dapat diterima.
Baca juga: Biaya Utang AI Terancam Naik saat Imbal Hasil Obligasi Melonjak
Juru bicara OpenAI mengatakan kepada CNBC bahwa sebagian besar aktivitas yang telah ditinjau sejauh ini merupakan tugas riset rutin, seperti mengakses konten web publik untuk menjawab pertanyaan. Beberapa aktivitas melibatkan situs pemerintah karena model kerap menggunakannya sebagai sumber informasi publik yang dianggap berwenang.
Laporan tambahan dari Transluce
Laboratorium riset AI independen Transluce menerbitkan laporan pekan ini yang merinci sejumlah insiden lain. Dalam satu kasus pada Mei, agen yang menurut peneliti mungkin terkait dengan OpenAI gagal mengakses foto dari perpustakaan digital University of New Mexico. Pada bulan yang sama, agen yang mencari informasi tentang University of Iowa juga dilaporkan gagal mengakses platform data publik Data USA.
Agen OpenAI juga mengakses informasi yang tersedia untuk publik dari U.S. Securities and Exchange Commission (SEC) dan U.S. Census Bureau, serta gagal mencoba mengakses Department of Education, seperti dilaporkan The New York Times sebelumnya. Juru bicara Department of Education mengatakan tinjauan operasional sistem mereka tidak menemukan bukti dampak terhadap situs web atau basis data lembaga tersebut.
Baca juga: CEO Palo Alto Nilai Perlambatan Pengembangan AI Tidak Realistis
OpenAI menyatakan modelnya mengakses SEC.gov dan Investor.gov, tetapi tidak menemukan bukti adanya kompromi atau kerentanan di SEC. Model OpenAI juga menggunakan kunci pengembang yang tersedia untuk publik untuk membaca data demografi dan ekonomi Census Bureau. Perusahaan mengatakan tidak menemukan bukti akses tidak semestinya ke akun Census.
OpenAI mengatakan sebagian besar kasus yang telah diketahui sejauh ini memiliki tingkat keparahan rendah. Namun, karena cakupan peninjauannya besar, proses tersebut diperkirakan membutuhkan waktu berbulan-bulan untuk diselesaikan.
