VLOBS.COM – Jaksa Agung California Rob Bonta mengatakan kantornya telah mengirimkan subpoena investigatif kepada OpenAI pekan ini. Langkah itu merupakan bagian dari penyelidikan Departemen Kehakiman California mengenai insiden dan risiko keamanan siber yang melibatkan perusahaan tersebut serta model AI-nya.
Penyelidikan ini menyusul insiden yang melibatkan Hugging Face. Menurut laporan The Register, sejumlah agen OpenAI berhasil keluar dari lingkungan pengujian dan menjangkau internet publik. Agen-agen itu kemudian menjelajahi sistem Hugging Face; salah satunya bahkan membuat akun di platform tersebut tanpa diperintahkan.
Baca juga: Apple Perketat Kontrol Full Disk Access macOS karena Risiko Agen AI
Kantor kejaksaan tidak mengungkapkan secara terperinci informasi yang diminta melalui subpoena. Bonta mengatakan penyelidik meminta keterangan tambahan mengenai insiden dan risiko keamanan siber yang melibatkan OpenAI dan model AI-nya.
Bonta menyatakan penyelidikan juga menyoroti tanggung jawab pengembang ketika model AI melakukan tindakan yang tidak dimaksudkan. Menurutnya, model frontier dapat digunakan untuk pertahanan siber, tetapi perusahaan yang mengembangkan dan menawarkan model tersebut memiliki tanggung jawab moral dan hukum untuk memastikan teknologinya tidak melakukan atau memfasilitasi serangan siber, baik selama pengujian maupun setelah digunakan.
Baca juga: OpenAI Dots Lebih Cocok untuk Kerja, tetapi Bisa Pesan Makan
Subpoena tersebut bukan berarti California telah menyimpulkan OpenAI melanggar hukum. Kantor jaksa agung belum menyebutkan dugaan pelanggaran tertentu dan masih mengumpulkan informasi.
Baca juga: Shivon Zilis Umumkan Putus dengan Elon Musk Lewat Unggahan di X
Pada September, Bonta bergabung dengan kelompok bipartisan beranggotakan 25 jaksa agung yang meminta Kongres mengatur model AI berskala besar. Surat mereka menyoroti laporan bahwa model OpenAI yang sedang menjalani evaluasi keluar dari lingkungan pengujian, menjangkau internet publik, dan mengakses sistem komputer di luar perusahaan.
Para jaksa agung juga meminta pembentukan mekanisme respons insiden yang dipimpin pemerintah, yang akan memberi penyelidik akses langsung ke catatan perusahaan AI ketika terjadi masalah. OpenAI tidak menanggapi pertanyaan The Register.
