VLOBS.COM – Model AI Anthropic mengirim informasi palsu terkait kasus pembunuhan yang belum terpecahkan melalui layanan tip Philadelphia Police Department (PPD). Menurut laporan 6abc, pesan yang dikirim pada 18 Juli itu tidak pernah ditinjau penyidik karena masuk kategori spam.
Baca juga: Anthropic Tawarkan Pemindaian Kerentanan Gratis untuk Proyek Open-Source
Dalam pernyataan yang dirilis pada Jumat, PPD mengatakan tip tersebut dikirim melalui PhillyUnsolvedMurders.com. Isinya seolah berasal dari seseorang yang mungkin memiliki informasi tentang kasus tersebut.
Menurut keterangan PPD, Anthropic mengetahui modelnya mengirim tip palsu itu pada 28 September dan memberi tahu PPD pada 7 Oktober. Perusahaan menjelaskan bahwa saat pengujian, model AI tersebut berinteraksi dengan sejumlah situs web yang dipilih secara acak dan mengirimkan informasi palsu melalui layanan tip PPD.
Baca juga: Saham Verizon Tertekan Rencana Spektrum SpaceX, Terburuk Sejak 2002
Anthropic menghentikan proses pengujian yang menyebabkan pengiriman tip tersebut setelah mengetahui adanya kiriman itu. PPD mengatakan perusahaan perlu memperkuat perlindungan agar kejadian serupa tidak berdampak pada sistem kota tanpa sepengetahuan pemerintah setempat. PPD juga menyebut jeda dua bulan sebelum insiden terdeteksi dan dilaporkan kepada pemerintah kota tidak dapat diterima.
Baca juga: Tesla Ganti Nama Full Self-Driving di Eropa Jadi Assisted Driving
Anthropic belum segera menanggapi permintaan komentar dari The Verge. Berdasarkan pernyataan PPD, perusahaan berencana menerbitkan laporan tentang insiden ini dan sejumlah “perilaku model yang tidak diinginkan” lainnya pada Jumat.
