VLOBS.COM – Anthropic memperbarui kebijakan penggunaan Claude untuk pertama kalinya dalam lebih dari setahun. Perubahan itu mencakup risiko penyalahgunaan, seperti campur tangan pemilu, pengembangan senjata, pengawasan, serta penggunaan di bidang kesehatan dan keuangan.
Salah satu perubahan utamanya adalah larangan terhadap “perilaku kasar atau kejam yang berulang dan tidak perlu” kepada Claude. Anthropic menyebut aturan ini hanya berlaku untuk kasus ekstrem, ketika pengguna berulang kali bertindak kejam terhadap model tanpa tujuan yang jelas. Kebijakan tersebut tidak mencakup frustrasi umum, bantahan, tema kreatif gelap, maupun pengujian dan riset model.
Mengakhiri percakapan tetap menjadi mekanisme utama untuk menegakkan aturan itu. Anthropic tidak memberikan komentar kepada The Verge mengenai kemungkinan mekanisme tambahan, seperti pemblokiran pengguna.
Baca juga: Ben Affleck Viral karena Pengetahuan AI dan Teknologi Film
Pembatasan kampanye, pemilu, dan pengawasan
Anthropic menyatukan sejumlah pembatasan yang sebelumnya tersebar ke dalam larangan baru terhadap kampanye komersial atau politik yang menipu. Larangan itu mencakup upaya menyamarkan pihak di balik pesan serta memperluas jangkauan konten melalui akun atau unggahan palsu.
Aturan tentang pemilu melarang penipuan pemilih dan gangguan terhadap proses pemilu. Contohnya termasuk menyebarkan informasi keliru tentang kandidat atau cara memilih, menyamar sebagai kandidat atau petugas pemilu, serta berupaya menekan partisipasi pemilih.
Baca juga: Microsoft 365 Family Segera Bisa Berbagi Akses AI Copilot
Anthropic mengatakan larangan lama terhadap penggunaan Claude untuk mengembangkan senjata kini diperluas. Perusahaan menyebut telah melihat upaya untuk menggunakan Claude dalam menyusun panduan dan perangkat lunak pengendali senjata. Aturan baru mencakup perangkat lunak dan komponen yang membuat senjata berfungsi, termasuk tindakan mempersenjatai drone dan kendaraan otonom lainnya.
Perusahaan juga memperjelas larangan terkait pengawasan. Pelacakan seseorang tanpa persetujuan dilarang, baik secara langsung maupun melalui analisis data yang telah dikumpulkan. Claude juga tidak boleh digunakan untuk menentukan atau merekomendasikan siapa yang perlu diselidiki, ditangkap, atau didakwa dalam proses penegakan hukum atau peradilan pidana. Larangan itu turut mencakup penggunaan Claude untuk membangun atau meningkatkan perangkat pengawasan.
Anthropic menyatakan aturan tersebut dapat diubah untuk kontrak dengan pelanggan pemerintah tertentu jika, menurut penilaian perusahaan, pembatasan kontrak dan perlindungan yang berlaku cukup untuk mengurangi potensi bahaya. Anthropic sebelumnya pernah memiliki kontrak dengan militer AS.
Baca juga: Oracle Hadirkan Fusion Claw untuk Mengendalikan Agen AI Bisnis
Ketentuan untuk perangkat keras otonom
Kebijakan baru mengatur model AI Anthropic yang terhubung ke perangkat keras untuk melakukan tindakan fisik secara otonom dan mungkin dapat menyebabkan cedera. Operator yang memenuhi kualifikasi harus dapat mengamati perangkat dan menghentikannya jika diperlukan. Kebijakan itu tidak menjelaskan apakah operator tersebut harus manusia.
Pada Agustus tahun lalu, Anthropic mengumumkan bahwa Claude dapat mengakhiri percakapan dengan pengguna yang terus-menerus bersikap merugikan atau kasar. Langkah itu merupakan bagian dari riset perusahaan tentang “model welfare”. Anthropic menyebut pertanyaan mengenai pengalaman internal, kesadaran, status moral, dan kesejahteraan model sebagai hal serius yang sedang diteliti seiring kemampuan model berkembang.
