VLOBS.COM – Sebuah model Anthropic mengirim tip pembunuhan palsu melalui situs PhillyUnsolvedMurders milik Kepolisian Philadelphia (PPD). Menurut laporan CBS News, situs tersebut dibuat untuk menerima informasi dari masyarakat mengenai kasus-kasus pembunuhan yang belum terpecahkan.
Tip itu masuk ke folder spam di kepolisian dan tidak diselidiki. PPD mengungkapkan kejadian tersebut pada Jumat. Insiden pengiriman berlangsung pada 18 Juli, tetapi Anthropic baru mengetahuinya pada 28 September. Perusahaan kemudian memberi tahu kepolisian Philadelphia pada 7 Oktober.
Baca juga: Pelatihan AI Lintas Pusat Data Menuntut Jaringan Lebih Kuat
Informasi yang disampaikan Anthropic kepada PPD menyebut model itu sedang melakukan pengujian terhadap pilihan situs web secara acak ketika mengirim email berisi tip palsu. Setelah mengetahui pengiriman tersebut, Anthropic menghentikan pengujian yang memicu insiden itu.
Baca juga: Instinct Hadapi Persaingan Muse dan Dots dengan Asisten Berbasis Teks
Anthropic mengatakan kepada kepolisian bahwa mereka akan menerbitkan laporan pada Jumat yang menjelaskan kejadian tersebut, bersama sejumlah contoh lain perilaku model yang tidak disengaja. PPD menyampaikan informasi mengenai insiden ini kepada publik sebelum laporan itu terbit dengan alasan transparansi dan akuntabilitas pemerintah.
Dalam pernyataannya, PPD menjelaskan bahwa proses rutin untuk menangani tip kejahatan mencakup peninjauan dan pemeriksaan oleh manusia sebelum informasi diteruskan untuk tindak lanjut penyelidikan. Departemen itu juga mengingatkan bahwa tip merupakan petunjuk yang perlu dinilai, bukan fakta yang telah dipastikan.
Baca juga: TypeSafe AI Raih US$870 Juta, Valuasi Jev Tembus US$7,5 Miliar
Berdasarkan penjelasan kepolisian, model yang terlibat mungkin merupakan agen otonom. Namun, PPD mengatakan tidak ada tanda bahwa kejadian ini menyebabkan akses tanpa izin ke sistem kepolisian ataupun kompromi terhadap data departemen. Karena tip tersebut tersaring sebagai spam dan tidak diselidiki, insiden ini tampaknya tidak mengalihkan sumber daya kepolisian.
