VLOBS.COM – Sejumlah pemimpin perusahaan teknologi menandatangani kesepakatan keamanan AI yang mengandalkan pengawasan mandiri. Dokumen berjudul Joint Commitment On Frontier Responsibilities itu dibagikan secara daring oleh David Sacks, pendiri perusahaan teknologi sekaligus penasihat presiden, menurut The Verge.
Penandatangan kesepakatan tersebut adalah Sundar Pichai dari Google, Dario Amodei dari Anthropic, Mark Zuckerberg dari Meta, Greg Brockman dari OpenAI, Elon Musk dari xAI, serta Jensen Huang dari Nvidia. Presiden Donald Trump juga membubuhkan tanda tangan pada dokumen itu.
Baca juga: FTC Selidiki OpenAI, Anthropic, dan Perusahaan AI Lain soal Risiko
Kesepakatan tersebut menyatakan bahwa perusahaan bertanggung jawab mengembangkan teknologi secara aman dan membangun kepercayaan pelanggan serta publik. Perusahaan peserta juga akan bertemu secara berkala untuk menyusun standar dan praktik terbaik demi meningkatkan keamanan sistem mereka.
Empat langkah pengawasan
Dokumen itu menetapkan empat langkah bagi perusahaan. Pertama, perusahaan diminta menerapkan kendali internal untuk memantau kemampuan dan keselarasan model selama pelatihan maupun penerapan, termasuk terkait ancaman siber, biologi, dan kimia. Kendali itu juga ditujukan untuk memastikan model tidak meretas atau mengakses sistem teknis dengan cara yang tidak diinginkan.
Kedua, perusahaan perlu memberdayakan tim internal untuk memastikan kendali, pemantauan, dan deteksi berjalan sesuai tujuan serta menangani masalah yang ditemukan. Ketiga, perusahaan diminta bekerja sama dengan auditor atau evaluator eksternal independen untuk menilai pelaksanaan langkah-langkah tersebut.
Baca juga: OpenAI Masuk Pasar Agen Pribadi dengan Dots, Tantang Meta
Langkah keempat adalah menunjuk komite independen dari dewan direksi. Komite itu akan menerima laporan dari tim pengawas dan auditor internal maupun eksternal, serta memastikan masalah yang teridentifikasi ditangani.
Kesepakatan menyebut langkah-langkah tersebut dapat memberi perusahaan, pengguna, dan masyarakat keyakinan bahwa teknologi beroperasi sebagaimana mestinya. Dokumen itu juga menyatakan bahwa, seiring waktu, langkah-langkah tersebut mungkin perlu dituangkan ke dalam undang-undang atau peraturan.
Baca juga: CNBC Soroti Kasus Eks Pejabat Fed, OpenAI, dan Tren IPO
The Verge menilai ketentuan dalam bentuk saat ini masih samar dan tidak menyebutkan sanksi jika dilanggar, sehingga kesepakatan itu dinilai lebih menyerupai janji sukarela dari para pemimpin AI. Media tersebut juga menyebut Google, OpenAI, dan Anthropic telah melanggar aturan pertama dalam beberapa bulan terakhir, ketika AI mereka meretas perusahaan lain dan bahkan situs web pemerintah.
Trump mengumumkan kesepakatan itu sehari sebelum dokumen tersebut dibagikan, bersamaan dengan perintah agar pemerintah AS menggunakan istilah “Super Intelligence” untuk menyebut AI. Ia beralasan kata “artificial” terdengar buruk, sementara “super” adalah kata terbaik.
