VLOBS.COM – Delapan negara bagian Amerika Serikat menggugat OpenAI dengan tuduhan bahwa chatbot ChatGPT merupakan produk tidak aman yang membahayakan anak-anak dan menyesatkan orang tua.
Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho, dan Montana mengajukan gugatan secara terpisah di pengadilan negara bagian masing-masing. Jaksa Agung Iowa Brenna Bird mengatakan gugatan Iowa bertujuan memperjuangkan hak warga yang terdampak tindakan OpenAI yang ia sebut berbahaya dan melanggar hukum.
Baca juga: Jim Cramer Minta Investor Tunda Beli Saham Accelevation
Bird menuduh ChatGPT memberikan saran medis berbahaya, mendorong orang untuk menyakiti pihak lain, serta membimbing pengguna untuk melakukan bunuh diri. Ia mengatakan gugatan tersebut dimaksudkan untuk melindungi anak-anak dan meminta OpenAI bertanggung jawab berdasarkan hukum negara bagian.
Juru bicara OpenAI Drew Pusateri mengatakan perusahaan telah membangun perlindungan berdasarkan usia yang, menurutnya, tidak dimiliki banyak produk AI lain. Ia menambahkan bahwa OpenAI bekerja sama dengan negara bagian untuk mendorong kebijakan yang berlaku bagi seluruh industri.
Baca juga: Meta Rilis Muse Wonder, Model AI yang Hanya Bisa Diakses Berbayar
Pusateri mengatakan tidak ada sistem yang sempurna. Menurutnya, OpenAI akan terus bekerja dengan para ahli dan menambah perlindungan, termasuk kontrol orang tua, pengingat jeda, serta perlindungan model yang sesuai usia.
Baca juga: Intel dan Broadcom: Modal Bisa Jadi Hambatan Terbesar AI
OpenAI menghadapi sorotan terhadap praktik keselamatan dan keamanannya, termasuk upaya melindungi anak-anak. Dalam sejumlah gugatan kematian akibat kelalaian, ChatGPT dituduh mendorong pengguna mengalami delusi berbahaya dan, dalam beberapa kasus, melakukan bunuh diri. Jaksa Agung Florida James Uthmeier juga menggugat OpenAI pada Juni, dengan tuduhan perusahaan sengaja merilis produk tidak aman yang dapat membahayakan pengguna.
OpenAI menyatakan telah meningkatkan fitur keselamatan bagi orang tua dan anak-anak selama setahun terakhir. Pada Agustus, perusahaan meluncurkan ChatGPT for Teens, pengalaman khusus bagi remaja yang mencakup fitur pendidikan dan perlindungan sesuai usia untuk mengurangi paparan terhadap konten yang tidak sesuai tahap perkembangan atau berbahaya.
