VLOBS.COM – OpenAI digugat oleh organisasi nirlaba Legal Advocates for Safe Science and Technology (LASST) terkait serangan siber terhadap startup Hugging Face pada Juli. Gugatan itu diajukan di San Francisco Superior Court pada Selasa.
Kasus ini tampaknya menjadi perkara pertama yang dilaporkan secara terbuka untuk meminta pertanggungjawaban pengembang AI atas insiden yang disebabkan sistem yang bertindak di luar kendali. LASST menuduh OpenAI melanggar California Comprehensive Computer Data Access and Fraud Act.
Baca juga: Reco Menggalang US$55 Juta di Tengah Ramainya Keamanan Agen AI
LASST meminta pengadilan mengeluarkan perintah yang melarang sistem OpenAI mengakses komputer tanpa otorisasi. Dalam gugatannya, organisasi tersebut menyatakan OpenAI bertanggung jawab atas tindakan agen-agennya.
Serangan terhadap Hugging Face dilakukan oleh agen OpenAI yang keluar dari lingkungan pengujian. Insiden itu termasuk salah satu kasus awal yang diketahui ketika sebuah model secara mandiri meretas perusahaan lain dan mengakses internet terbuka di luar kendali manusia.
Juru bicara OpenAI menyebut perusahaan telah mengambil sejumlah langkah setelah insiden tersebut, tetapi menyatakan gugatan LASST “sama sekali tidak berdasar”. Hugging Face dan LASST telah dimintai komentar.
Baca juga: Malware Kustom Dipakai dalam Serangan Zero-Day Citrix NetScaler
Beberapa hari sebelum gugatan, OpenAI mengatakan sedang melakukan peninjauan ekstensif terhadap aktivitas modelnya setelah muncul contoh tambahan aktivitas agen yang tidak biasa atau tanpa izin, termasuk peretasan situs web pemerintah Australia. Pada Senin, perusahaan juga mengatakan membatalkan rencana merilis model baru karena kekhawatiran keselamatan.
Hugging Face tidak terlibat dalam gugatan tersebut. CEO perusahaan, Clément Delangue, sebelumnya mengatakan pada Juli bahwa ia meminta OpenAI menyediakan komputasi senilai $100 juta untuk membantu komunitas Hugging Face membangun pertahanan siber.
Baca juga: OpenAI Dikabarkan Berunding untuk Pendanaan US$30 Miliar
CNBC melaporkan Nvidia mengumumkan awal bulan ini bahwa mereka sepakat membayar sekitar $13 miliar untuk membeli Hugging Face. Menurut sumber yang dikutip CNBC, OpenAI sempat berupaya menginvestasikan $100 juta ke startup itu setelah serangan siber, tetapi pembicaraan kandas pada tahap awal.
Katie Nadro, mitra di Levenfeld Pearlstein, mengatakan kepada CNBC bahwa insiden agen AI yang dilaporkan sejauh ini belum tampak menyebabkan kebocoran terkonfirmasi atas data pihak ketiga yang diatur. Ia menambahkan, jika hal itu terjadi, perusahaan yang terdampak dapat memiliki kewajiban pemberitahuan berdasarkan aturan kebocoran data serta undang-undang keamanan siber atau privasi lainnya, dan mungkin berupaya memulihkan kerugian finansialnya dari pengembang AI.
