VLOBS.COM – David Robinson, yang sebelumnya menulis laporan keselamatan untuk setiap peluncuran besar model OpenAI, mengundurkan diri dari posisinya pekan ini. Ia kini menyampaikan kritik terhadap budaya industri AI melalui sebuah editorial di The Atlantic.
Baca juga: Meta Muse Bisa Mencari Produk dan Menyiapkan Checkout Belanja
Robinson menilai budaya industri tersebut memiliki masalah mendasar yang tidak cukup diselesaikan dengan menambahkan aturan atau regulasi baru tentang pelatihan model. Menurutnya, Silicon Valley terlalu mengandalkan rasa percaya diri yang tinggi dan ritme kerja yang terus-menerus cepat, sembari mengembangkan model yang lebih besar dan lebih baik dengan optimisme yang dapat mengabaikan atau meremehkan potensi masalah.
Ia menyerukan agar perusahaan AI memiliki sikap lebih rendah hati dan melihat praktik di luar lingkungan industri teknologi yang berorientasi bergerak cepat. Robinson mengatakan laboratorium AI terdepan perlu memiliki pengamanan setingkat pembangkit listrik tenaga nuklir atau bandara yang sibuk, dengan lapisan redundansi serta perencanaan yang cermat dan memakan waktu. Menurutnya, langkah itu dapat mencegah kesalahan manusia yang sesekali terjadi membuka jalan menuju bencana.
Baca juga: SQLDoom Membawa Doom ke Database CedarDB dengan Renderer SQL
Robinson menjadi salah satu dari sejumlah peneliti dan pekerja keselamatan yang meninggalkan perusahaan AI terkemuka. Jacob Coxon lebih dulu keluar dari Anthropic dan kemudian menyatakan secara terbuka bahwa AI “bisa membunuh kita semua sebelum akhir dekade ini”. Setelah itu, Robert O’Callahan, Bilal Chughtai, dan Josh Engels meninggalkan Google DeepMind, sementara Joe Benton keluar dari Anthropic.
