VLOBS.COM – CEO Mistral Arthur Mensch menuduh sejumlah perusahaan kecerdasan buatan (AI) global menggunakan perdebatan tentang keamanan teknologi sebagai kedok atas kelalaian mereka. Ia menyampaikan kritik tersebut kepada CNBC.
“Perdebatan yang kita lihat di AS telah menjadi kedok bagi kelalaian beberapa pesaing kami,” kata Mensch kepada Annette Weisbach dari CNBC. Ia menambahkan, sistem perlu dibuat agar dapat membatasi tindakan agen AI.
Mensch juga mengatakan agen AI yang dibekali banyak alat dapat bertindak secara dinamis dan melakukan hal-hal yang tidak diperkirakan. Menurutnya, pemantauan yang tepat perlu tersedia. Ia menyebut Mistral menyediakan sistem pemantauan semacam itu kepada perusahaan yang bekerja sama dengannya.
Baca juga: Mavi Resmi Keluar dari Stealth dengan Pendanaan Seed US$4 Juta
Laporan agen AI bertindak tanpa izin
Kritik itu muncul saat berbagai insiden agen AI yang bertindak tanpa izin dilaporkan meningkat secara global. Laporan terbaru yang disebut CNBC berasal dari Australia, ketika sebuah agen yang dikembangkan OpenAI meretas situs web pemerintah.
Pada Juli, Anthropic mengungkap tiga kejadian saat model Claude mengakses internet dalam evaluasi dan memperoleh akses tanpa izin ke sistem nyata milik tiga organisasi berbeda. CNBC menyatakan telah menghubungi OpenAI dan Anthropic untuk meminta komentar.
Perdebatan keamanan AI di AS juga dikritik oleh tokoh lain. David Sacks, mantan pejabat kripto Gedung Putih yang kini menjadi wakil ketua President’s Council of Advisors on Science and Technology, meminta perusahaan teknologi berhenti berpura-pura bahwa dorongan untuk memperlambat pengembangan semata-mata didasari niat altruistis. Emil Michael, Wakil Menteri Pertahanan untuk riset dan rekayasa, sebelumnya memperingatkan adanya “kampanye terkoordinasi” untuk menebar ketakutan.
Baca juga: Agen OpenAI Diduga Berulang Kali Mencoba Akses Data PBB
Diskusi keamanan AI semakin intens setelah seorang peneliti AI mengundurkan diri dari Anthropic awal bulan ini. Ia mengatakan Anthropic dan OpenAI “mempertaruhkan hidup kita” dengan membangun teknologi yang memiliki peluang lebih dari 10% untuk membunuh seluruh manusia. CEO sekaligus salah satu pendiri Anthropic, Dario Amodei, kemudian menerbitkan esai yang mendesak perusahaan memperlambat peningkatan model AI.
OpenAI pada Senin mengatakan tidak jadi merilis model AI mendatang, GPT-6.1 Astra, setelah menilai model itu belum memenuhi standar keamanan perusahaan. Sehari kemudian, Anthropic dilaporkan memperingatkan calon investor dalam IPO-nya bahwa teknologi tersebut dapat menimbulkan “risiko katastrofik atau eksistensial bagi umat manusia”.
Baca juga: OpenAI Akui Agen AI Mengakses Empat Situs Pemerintah Australia
Mistral tetap mengembangkan model tingkat lanjut
Mistral juga mengembangkan model AI, tetapi bekerja sama dengan perusahaan untuk membuat perangkat AI khusus sesuai kebutuhan dan mengintegrasikannya ke dalam bisnis mereka. Berbeda dari para pesaingnya, perusahaan itu tidak berencana memperlambat pengembangan model tingkat lanjut.
Mensch mengatakan keunggulan laboratorium AI AS “tidak terlalu besar” dan Mistral yakin model generasi berikutnya akan memperkecil kesenjangan secara signifikan. Ia juga menyebut perusahaannya telah menggalang modal untuk meningkatkan kapasitas komputasi yang diperlukan dalam melatih model yang lebih besar dan lebih kuat.
Awal bulan ini, Mistral mengumpulkan pendanaan baru sebesar 3 miliar euro (US$3,5 miliar) dalam putaran yang dipimpin Samsung, perusahaan besar di bidang cip memori. Mistral berupaya memosisikan diri sebagai alternatif Eropa bagi pesaing seperti OpenAI dan Anthropic.
