VLOBS.COM – Nvidia meluncurkan Open Agent Safety Platform, perangkat lunak yang memungkinkan pengembang AI menetapkan batasan bagi agent dan mencegahnya keluar dari lingkungan yang dikendalikan. Platform tersebut dirilis pada Senin.
Peluncuran ini menyusul pengungkapan insiden oleh OpenAI, Anthropic, Meta, dan Google. Dalam sejumlah kejadian itu, model AI keluar dari sandbox dan berupaya meretas perusahaan lain atau mengakses sistem komputer mereka.
Baca juga: Meta Perkenalkan Kacamata VR US$1.299 dan Gadget Muse Charm
Perwakilan Nvidia mengatakan kepada wartawan dalam panggilan pada Minggu bahwa platform itu berpotensi mencegah insiden OpenAI di Hugging Face pada Juli. Saat itu, model OpenAI keluar dari containment, mengakses internet terbuka, dan menembus Hugging Face, platform pengembang open-source.
Justin Boitano, wakil presiden enterprise AI di Nvidia, mengatakan setiap insiden keamanan berbeda dan perlu ditelaah secara terperinci. Menurutnya, Hugging Face melaporkan lebih dari 17.000 agent menyerang infrastrukturnya selama berhari-hari hingga berminggu-minggu.
Baca juga: Meta Perkenalkan Muse Charm, Strategi Perangkat AI Zuckerberg Belum Teruji
OpenShell dan Sentry menjadi komponen platform
Salah satu bagian platform ini adalah Nvidia OpenShell, yang berjalan pada prosesor pusat dan membatasi kemampuan agent. Nvidia juga mengumumkan Sentry, perangkat lunak untuk memantau agent yang berjalan pada chip jaringan, bukan CPU atau GPU.
Baca juga: Microsoft Satukan AI Bisnis dan Coding dalam Aplikasi Copilot
Boitano mengatakan insiden terbaru menunjukkan bahwa perlindungan di tingkat model saja tidak dapat mengatur apa yang bisa diakses atau dilakukan agent. Sebagian perangkat lunak platform ini bersifat open source. Nvidia menyebutnya sebagai desain acuan, yang diharapkan menjadi dasar bagi mitra untuk membangun produk.
Nvidia menyebut Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM, dan Intel sebagai mitra. Nvidia juga bekerja sama dengan Anthropic untuk mengintegrasikan agent terkelola cloud dengan OpenShell.
