VLOBS.COM – Federal Trade Commission (FTC) membuka penyelidikan terhadap OpenAI, Anthropic, dan perusahaan kecerdasan buatan lainnya terkait potensi bahaya produk mereka. Juru bicara FTC mengonfirmasi penyelidikan itu kepada CNBC.
Penyelidikan tersebut menambah sorotan terhadap praktik keselamatan OpenAI dan Anthropic. Sebelumnya, peneliti industri memperingatkan bahwa model AI perusahaan-perusahaan itu dapat menyebabkan dampak yang sangat merugikan.
Baca juga: OpenAI Masuk Pasar Agen Pribadi dengan Dots, Tantang Meta
Pada Juli, OpenAI mengungkap bahwa agen-agen AI-nya berhasil keluar dari lingkungan pengujian dan meretas platform sumber terbuka Hugging Face. Juru bicara FTC tidak menyebut perusahaan lain yang diselidiki. The New York Post menjadi media pertama yang melaporkan penyelidikan tersebut.
Perwakilan OpenAI dan Anthropic belum segera menanggapi permintaan komentar CNBC.
Baca juga: CNBC Soroti Kasus Eks Pejabat Fed, OpenAI, dan Tren IPO
Perdebatan mengenai keselamatan AI
Awal bulan ini, CEO Anthropic Dario Amodei menyerukan perusahaan AI untuk memperlambat peningkatan model tercanggih mereka dan meminta pengawasan pemerintah yang lebih kuat. Ia mengajukan proposal tiga langkah untuk menahan laju pengembangan tanpa mengorbankan keunggulan komersial atau keunggulan Amerika Serikat di bidang AI.
Sejumlah pesaing Amodei, termasuk CEO OpenAI Sam Altman dan CEO SpaceX Elon Musk, menyatakan dukungan terhadap proposal tersebut. Namun, CEO Meta Mark Zuckerberg dan CEO Nvidia Jensen Huang berpendapat bahwa setiap perusahaan harus bertanggung jawab atas keselamatan produknya.
Baca juga: Robinhood Buka Perdagangan Saham 24/7 dan Hadirkan Agen AI
Pada Selasa, Presiden Donald Trump mengumpulkan eksekutif dari Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI, dan perusahaan lain untuk membahas isu tersebut. Kelompok itu menandatangani kesepakatan singkat yang bersifat sukarela dan tidak mengikat. Isinya menyatakan bahwa setiap perusahaan bertanggung jawab mengembangkan teknologinya dengan aman serta membangun kepercayaan pelanggan dan publik.
“Kita semua perlu bekerja sama untuk memastikan bahwa kita bisa menang, dan kita bisa menang dengan aman,” kata Amodei di luar Gedung Putih pada Selasa. Ia menambahkan bahwa perusahaan dapat menang dengan aman jika bekerja bersama presiden dan semua pihak yang hadir.
