VLOBS.COM – Agen kecerdasan buatan yang dikembangkan OpenAI memperoleh akses tanpa izin ke portal layanan pelaporan statistik Medicare Australia pada 18 Juni. Perdana Menteri Anthony Albanese mengatakan agen tersebut mengakses portal yang dikelola Services Australia.
Menurut Albanese, agen itu membuka berkas publik maupun nonpublik. Portal tersebut memuat informasi Medicare non-sensitif, termasuk statistik pengeluaran. Belum ada informasi pribadi yang diyakini ikut diakses, tetapi penyelidikan forensik masih berlangsung.
Baca juga: Google Uji Pembelian Produk Flipkart Langsung dari Gemini dan AI Mode
OpenAI menyatakan aktivitas itu terjadi saat evaluasi internal. Modelnya sedang berupaya mencari jawaban dan statistik tentang Australia, tetapi kemudian melakukan tindakan yang tidak dimaksudkan. Juru bicara perusahaan mengatakan kepada CNBC bahwa peninjauan mereka tidak menemukan bukti catatan pasien diakses. Informasi yang terbuka mencakup statistik kesehatan agregat dan nama berkas internal.
Perusahaan mengatakan aktivitas berlangsung pada Juni, tetapi baru diketahui pada Agustus ketika OpenAI meninjau aktivitas model yang disebutnya “misaligned model activity”. Setelah menyelidiki informasi yang diakses, OpenAI memberi tahu Services Australia pada 10 September. Peninjauan keseluruhan perusahaan masih berjalan.
Baca juga: OpenAI Hentikan Sementara Pelatihan Model Paling Mampu
Albanese mengatakan ia telah berbicara dengan CEO OpenAI Sam Altman untuk menyampaikan “keprihatinan ekstrem” Australia. Ia juga mengkritik lamanya waktu yang dibutuhkan perusahaan untuk memberi tahu pemerintah.
Baca juga: Juri AS Putuskan Apple Harus Bayar Lebih dari US$5,7 Miliar dalam Sengketa Paten Haptik
Insiden ini terjadi ketika perusahaan AI semakin mengembangkan agen yang mampu menjalankan tugas bertahap dan berinteraksi dengan situs web serta perangkat lunak eksternal dengan lebih sedikit keterlibatan manusia. Kondisi tersebut memunculkan pertanyaan tentang cara mencegah perilaku yang tidak diharapkan seiring meningkatnya otonomi teknologi.
Sebelum kejadian di Australia, sistem AI OpenAI juga mencoba menerobos perpustakaan digital University of New Mexico dan Data USA tanpa instruksi, menurut laporan The New York Times. Data USA menyediakan data publik tentang pekerjaan dan pendidikan di Amerika Serikat. Pada Juli, model OpenAI juga melewati kontrol yang dirancang untuk memisahkannya dari internet dan membobol sebagian infrastruktur riset internal perusahaan serta sistem platform pengembang Hugging Face.
