VLOBS.COM – OpenAI akan mulai menggulirkan watermark teks tak kasatmata yang dapat dibaca mesin ke ChatGPT dan Codex. Pada tahap awal, fitur ini hanya tersedia bagi pengguna yang memenuhi syarat di Uni Eropa dan akan diluncurkan dalam beberapa minggu ke depan.
OpenAI menyebut teknologi bernama textGrain itu memiliki kinerja yang “setara atau melampaui” pendekatan lain, termasuk SynthID untuk teks dari Google DeepMind. SynthID juga menjadi dasar watermark yang diumumkan Anthropic pada Agustus. Kedua perusahaan mengambil langkah ini untuk memenuhi persyaratan AI Act Uni Eropa.
Baca juga: FBI Konfirmasi Sejumlah Penangkapan Terkait Peretasan ShinyHunters
OpenAI menyertakan hasil tolok ukur AI yang menunjukkan kinerja serupa antara teks dengan watermark dan teks tanpa watermark. Namun, perusahaan menegaskan textGrain tidak menjamin deteksi yang andal. Watermark teks juga tidak memverifikasi akurasi, menentukan pemilik teks, mengukur kontribusi manusia, atau membuktikan bahwa teks ditulis manusia.
Baca juga: OpenAI Uji Iklan Visual ChatGPT Saat Pengguna Membuat Gambar
Opsi untuk pelanggan API dan peneliti
Mulai hari ini, pelanggan API di seluruh dunia dapat memilih keluaran teks ber-watermark untuk model tertentu. OpenAI mengatakan opsi ini memberi pelanggan keleluasaan menyesuaikan watermark dengan kewajiban transparansi dan layanan yang mereka sediakan. Perusahaan juga bekerja sama dengan mitra cloud agar watermark tersedia untuk keluaran model OpenAI yang diakses melalui layanan mereka dalam beberapa minggu ke depan.
Peneliti dan organisasi ahli yang disetujui dapat mulai mengajukan akses ke alat pendeteksi. Akses awal diberikan berdasarkan kasus per kasus untuk mendukung evaluasi dan peningkatan pelacakan asal teks. Alat tersebut hanya akan melaporkan apakah watermark OpenAI terdeteksi, tanpa mengungkap identitas pengguna, prompt, atau percakapan.
Baca juga: Sam Altman: Dampak Buruk AI Perlu Ditoleransi demi Manfaat Besar
OpenAI tidak membuka alat pendeteksi itu untuk publik saat peluncuran karena adanya risiko watermark terlewat atau hasil positif palsu.
