VLOBS.COM – Perusahaan kini memiliki beragam cara untuk memperoleh akses ke GPU Nvidia, mulai dari penyedia cloud besar hingga membeli perangkat sendiri. Namun, banyaknya pilihan itu juga menyulitkan perusahaan yang membutuhkan kapasitas komputasi dalam waktu singkat.
Perusahaan riset industri SemiAnalysis menghitung ada 323 penyedia GPU Nvidia per September, meningkat dari 209 dalam kurun kurang dari 11 bulan. CNBC melaporkan, pilihan yang tersedia mencakup layanan dari Amazon, Microsoft, dan Google, neocloud seperti CoreWeave, marketplace daring, serta pembelian perangkat keras.
Permintaan tersebut turut menopang pertumbuhan Nvidia. Manajemen perusahaan memperkirakan pendapatan sebesar US$108 miliar pada kuartal Oktober, atau naik 89% dibandingkan periode yang sama tahun sebelumnya. Dalam laporan perusahaan, lima klien menyumbang setidaknya 10% dari piutang usaha Nvidia pada kuartal Juli, bertambah dari tiga klien pada Januari.
Cloud besar dan neocloud
Perusahaan yang menggunakan layanan cloud Amazon, Google, dan Microsoft memperoleh akses ke GPU sekaligus reputasi penyedia yang dikenal luas. Menurut analis Gartner Hardeep Singh, penyedia cloud besar memiliki rekam jejak kemampuan full-stack lebih dari 10 tahun. Namun, ia mengatakan kapasitas GPU mereka tidak selalu mencukupi kebutuhan perusahaan.
Baca juga: AI Ubah Cara Kerja Pengacara dan Tekan Sistem Tarif per Jam
CEO Amazon Andy Jassy mengatakan pada Juli bahwa perusahaan tidak akan mampu memenuhi seluruh permintaan yang diperkirakan muncul tahun ini. Ia memperkirakan situasi serupa juga akan terjadi pada 2027.
Kekurangan kapasitas di penyedia besar mendorong sebagian perusahaan beralih ke neocloud. CEO Modal Erik Bernhardsson mengatakan perusahaannya kini memakai 25 penyedia neocloud setelah sebelumnya menggunakan hyperscaler. Modal membutuhkan kapasitas lebih besar daripada beberapa ratus atau seribu GPU yang bisa diperoleh dari penyedia cloud besar.
Google dan Microsoft juga mulai menggunakan CoreWeave. Sementara itu, CEO Nebius Marc Boroditsky mengatakan beberapa hyperscaler menghubungi perusahaannya untuk melayani pelanggan yang tidak dapat mereka penuhi kebutuhannya.
Baca juga: Anthropic Larang Perilaku Kejam Berulang terhadap Claude
Neocloud dapat menawarkan kapasitas dan harga yang sesuai kebutuhan tertentu, tetapi ketersediaannya belum tentu segera. Bernhardsson mengatakan penyedia dapat meminta pembayaran di muka dan GPU mungkin baru tersedia beberapa bulan kemudian. CoreWeave juga menyatakan kapasitas jangka pendeknya pada dasarnya telah terjual habis.
Neocloud yang lebih kecil dapat memberi fleksibilitas lebih besar. Sebagian menawarkan GPU bare-metal, yang memberi pelanggan kendali lebih besar tetapi juga mengharuskan mereka menangani lebih banyak pekerjaan teknis. Perusahaan yang memilih opsi ini tetap harus mempertimbangkan kapan GPU tersedia dan berapa harganya.
Opsi lain: perangkat sendiri dan kapasitas sewaan
Oracle menawarkan skema bagi pelanggan untuk membawa GPU sendiri. CFO Oracle Hilary Maxson mengatakan skema tersebut dapat membantu mempertahankan atau meningkatkan margin dan menghasilkan pengembalian atas modal yang diinvestasikan lebih tinggi. Oracle belum mengungkap perusahaan yang menggunakan opsi ini.
Skema itu dapat relevan bagi perusahaan yang mampu membeli chip AI, tetapi kekurangan daya, ruang pusat data, atau tenaga terampil. Bagi startup tahap awal dengan modal terbatas, menyewa GPU per jam melalui layanan cloud dapat menjadi pilihan.
Baca juga: Ben Affleck Viral karena Pengetahuan AI dan Teknologi Film
Perusahaan juga dapat membuat kesepakatan besar dengan pemilik kapasitas GPU. SpaceX, misalnya, menyepakati penyewaan GPU kepada Anthropic senilai US$1,25 miliar per bulan hingga pertengahan 2029. CNBC juga melaporkan pada Juli bahwa Meta sedang berupaya membentuk unit cloud untuk menjual daya komputasi AI.
Di sisi lain, sejumlah perusahaan memasang server berisi GPU di pusat data sendiri. Lenovo melaporkan pendapatan segmen enterprise serta usaha kecil dan menengah pada Infrastructure Solutions Group hampir dua kali lipat pada kuartal Juni. Dropbox juga mengandalkan GPU di pusat datanya, sementara Everpure membeli GPU untuk menjalankan model AI open-weight bagi para software engineer-nya.
Harga spot per jam untuk GPU Nvidia B200 telah meningkat lebih dari dua kali lipat sejak Maret, menurut data Ornn. Dalam kondisi harga yang dinamis, CEO Everpure Charlie Giancarlo mengatakan memiliki beberapa sumber pasokan menjadi hal yang berguna.
