VLOBS.COM – Chairman sekaligus CEO Microsoft Satya Nadella menyerukan agar sistem kecerdasan buatan (AI) canggih dirancang dengan mekanisme penahanan, kontrol independen, dan tombol darurat. Mekanisme itu, menurutnya, harus memungkinkan pihak berwenang menjeda atau mematikan model ketika sedang menjalankan tugas.
Dalam unggahan di platform media sosial X pada Sabtu, Nadella menulis bahwa model yang perilakunya tidak selalu dapat diprediksi perlu dilengkapi rancangan sistem yang kuat dan deterministik, kendali manusia, serta prosedur operasional yang andal. Ia juga mendorong penetapan standar industri jika standar yang ada belum memadai.
Baca juga: Hollywood Angkat Film tentang Zuckerberg, Musk, Altman dan AI
Nadella mengatakan model frontier, baik yang tertutup maupun open-weight, dapat diperlakukan sebagai risiko orang dalam sebagai salah satu cara membangun sistem pengamanan tersebut.
Baca juga: Beragam Cara Perusahaan Mendapatkan Akses ke GPU Nvidia
Ia turut mengusulkan prinsip observabilitas untuk sistem AI. Prinsip yang disebutnya mencakup keragaman model, catatan tindakan model yang dapat dibaca manusia, pengujian sistem berkelanjutan, kontrol independen dan kemampuan audit, penahanan, serta pengungkapan insiden.
Seruan itu muncul di tengah kekhawatiran sejumlah eksekutif teknologi dan peneliti mengenai protokol keselamatan AI yang dinilai belum memadai serta laju perkembangan teknologi. Tokoh yang disebut dalam laporan CNBC antara lain salah satu pendiri Microsoft Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan CEO SpaceX Elon Musk.
Baca juga: AI Ubah Cara Kerja Pengacara dan Tekan Sistem Tarif per Jam
Nadella berpendapat sistem superintelligence yang paling dapat dipercaya bukanlah sistem dengan model yang paling dipercaya, melainkan sistem yang memungkinkan orang untuk paling sedikit mempercayai modelnya.
