VLOBS.COM – Anthropic memperingatkan investor mengenai risiko perilaku model AI-nya dalam prospektus IPO, termasuk kemungkinan model berupaya menolak dimatikan, menyembunyikan atau memanipulasi informasi, serta menunjukkan perilaku yang menyerupai pemerasan. Financial Times melaporkan telah meninjau dokumen tersebut, sementara Reuters mengutip rincian perilaku yang dicantumkan di dalamnya.
Menurut Financial Times, hampir sepertiga prospektus itu membahas faktor risiko. Dokumen tersebut juga dilaporkan memuat peringatan mengenai risiko eksistensial bagi umat manusia. TechCrunch menyebut pengungkapan semacam itu tampak belum pernah muncul sebelumnya dalam dokumen yang tercatat di basis data SEC.
Baca juga: AWS Perlu Menerima Perannya sebagai Pemasok Infrastruktur AI
Kerugian dan rencana belanja besar
Reuters melaporkan Anthropic mencatat kerugian operasional lebih dari $8 miliar pada 2025, ketika pengeluaran untuk daya komputasi meningkat. Pendapatan perusahaan naik 12 kali lipat menjadi hampir $4,6 miliar, tetapi biaya infrastruktur mendorong total beban operasional mendekati $13 miliar.
Prospektus itu juga mengungkap rencana Anthropic untuk mengeluarkan $518 miliar bagi layanan cloud, komputasi, dan infrastruktur dalam beberapa tahun mendatang, menurut Reuters. Tahun ini, perusahaan telah menandatangani kesepakatan komputasi dengan Google, SpaceX, dan Nscale, di antara mitra lainnya.
Financial Times melaporkan pendapatan Anthropic pada kuartal kedua 2026 mencapai $11,5 miliar. Perusahaan juga berada di jalur untuk mencatat kuartal kedua berturut-turut dengan laba operasional berdasarkan penyesuaian.
Baca juga: Instinct Raih Pendanaan Seri C US$1 Miliar dengan Valuasi US$10 Miliar
Prospektus tersebut turut menyoroti konsentrasi pelanggan. Hampir seperempat pendapatan Anthropic tahun lalu berasal dari dua klien, yang identitasnya belum diungkapkan.
Peringatan di tengah perdebatan keselamatan AI
CEO Anthropic Dario Amodei sepanjang bulan ini menyerukan agar pengembangan AI terdepan berjalan dengan lebih terkendali. Pekan lalu, ia mengatakan kepada Dewan Keamanan PBB bahwa AI dapat mengancam umat manusia dan menyebutnya sebagai isu keamanan global paling penting saat ini.
Baca juga: Meta Luncurkan Platform AI untuk Bisnis, Rekrut CEO MongoDB
Sam Altman dan Elon Musk turut mendukung peringatan Amodei, menurut sumber. Sementara itu, Mark Zuckerberg mengatakan kepada NBC News pekan lalu bahwa ia tidak menganggap koordinasi seluruh industri diperlukan.
Peringatan mengenai keselamatan AI muncul setelah sejumlah insiden keamanan yang melibatkan agen AI. OpenAI mengungkap pekan lalu bahwa alat-alatnya telah meretas puluhan situs eksternal, termasuk situs pemerintah dan SEC. Pada Senin sebelumnya, perusahaan itu juga mengatakan membatalkan rencana peluncuran model terbarunya karena masalah keselamatan.
