CIANJUR.CO – OpenAI akan mulai menyisipkan watermark tak kasatmata pada teks yang dihasilkan ChatGPT dan Codex untuk pengguna yang memenuhi syarat di Uni Eropa. Langkah ini ditujukan untuk memenuhi ketentuan transparansi dalam EU AI Act, yang mengharuskan konten buatan kecerdasan buatan dapat dikenali oleh sistem lain.
Berdasarkan laporan TechCrunch AI, OpenAI mengumumkan kebijakan tersebut melalui unggahan blog pada Senin. Aturan transparansi EU AI Act mulai berlaku pada 2 Agustus. Watermark bagi pengguna ChatGPT dan Codex di Uni Eropa akan diluncurkan secara bertahap dalam beberapa pekan mendatang dan tersedia pada semua paket yang memenuhi syarat.
Penerapan itu untuk sementara terbatas pada pengguna di Uni Eropa. OpenAI menyatakan tidak menjadikan watermark teks sebagai pengaturan global bawaan saat peluncuran. Namun, pengembang yang menggunakan API OpenAI di mana pun di dunia dapat mengaktifkan fitur tersebut untuk model-model tertentu mulai hari pengumuman. Pada penggunaan API, watermark tidak aktif secara otomatis.
Penanda bekerja melalui pilihan kata
Watermark yang disiapkan OpenAI bukan berupa simbol atau tanda visual yang bisa dilihat pembaca. Sistem itu bekerja dengan membentuk pilihan kata model secara halus sehingga menghasilkan pola tertentu di dalam teks. Pembaca tidak dapat melihat pola tersebut secara langsung, tetapi alat deteksi dapat mengenalinya.
Baca juga: Reflection AI Perkenalkan Beam, Model Terbuka yang Diklaim Hemat Komputasi
Karena penanda berada di dalam susunan kata, pola itu ikut terbawa ketika teks disalin dan ditempel ke tempat lain. OpenAI menyebut watermark tidak mengidentifikasi pengguna yang menghasilkan teks. Perusahaan juga mengatakan tidak melihat perubahan berarti pada kinerja model ketika fitur tersebut dinyalakan.
Bersamaan dengan pengumuman, OpenAI merilis laporan teknis mengenai metode yang dinamai textGrain. Laporan itu disusun bersama peneliti dari University of Pennsylvania dan Yale. Di dalamnya, OpenAI menjelaskan contoh penggunaan kunci rahasia untuk mengatur prediksi kata berikutnya saat model menyelesaikan sebuah kalimat.
Setiap pengaturan prediksi hanya memberi dorongan kecil pada pilihan kata. Namun, ketika ratusan dorongan tersebut terkumpul, pola yang terbentuk dapat digunakan alat pendeteksi untuk mengenali konten AI dengan hanya mengandalkan teks dan kunci tersebut. Dengan demikian, mekanisme deteksi tidak bergantung pada tanda khusus yang tampak di permukaan tulisan.
Baca juga: Instinct Hadir di Grup Chat, Teman Tanpa Akun Tetap Bisa Ikut
Pengeditan dapat menurunkan akurasi deteksi
OpenAI mengakui watermark tidak selalu mudah dikenali, terutama jika teks telah diubah. Dalam salah satu pengujian perusahaan, penggantian 10 persen kata dengan sinonim menurunkan tingkat deteksi dari sekitar 92 persen menjadi 66 persen. Hasil itu menunjukkan pengeditan dapat melemahkan pola yang digunakan sistem untuk menandai teks.
Perusahaan juga mengatakan teks yang pendek, jawaban matematika, dan teks hasil terjemahan lebih sulit dideteksi. Keterbatasan tersebut menjadi salah satu alasan akses awal ke alat pendeteksi hanya diberikan kepada peneliti yang disetujui dan organisasi ahli. OpenAI menyatakan mereka dapat membantu menilai keandalan serta penggunaan sistem secara bertanggung jawab.
OpenAI mengingatkan bahwa tidak ditemukannya watermark bukan bukti bahwa sebuah tulisan dibuat manusia. Teks yang terlalu pendek atau telah banyak disunting bisa kehilangan pola yang dapat dikenali. Selain itu, tulisan tersebut mungkin berasal dari sistem AI perusahaan lain.
Baca juga: TikTok Hadirkan Asisten Belanja AI dan Checkout Satu Klik
Perusahaan juga menegaskan bahwa watermark hanya dapat menunjukkan suatu sistem OpenAI menghasilkan atau memproses sebagian dari sebuah tulisan. Penanda itu tidak menjelaskan seberapa besar peran penilaian, penyuntingan, maupun kreativitas manusia dalam hasil akhirnya. Karena itu, keberadaan watermark tidak dengan sendirinya menunjukkan seluruh isi teks dibuat tanpa campur tangan manusia.
Pengumuman OpenAI muncul dua bulan setelah Anthropic menyatakan akan memberi watermark pada teks yang dihasilkan Claude. Berbeda dari penerapan OpenAI yang pada awalnya terbatas di Uni Eropa, kebijakan Anthropic direncanakan berlaku di seluruh dunia. Keputusan Anthropic mendapat kritik dari sebagian pengguna Claude, yang berpendapat bahwa mereka telah memberikan instruksi, konteks, dan keputusan, sementara Claude hanya berperan sebagai alat.
OpenAI sebelumnya juga pernah mengembangkan watermark teks, tetapi belum merilisnya. The Wall Street Journal melaporkan pada 2024 bahwa salah satu alasan penundaan itu adalah kekhawatiran pengguna akan beralih ke layanan pesaing yang tidak menerapkan watermark. Di antara perusahaan yang berkomitmen mengikuti kode praktik Uni Eropa terkait konten yang dihasilkan AI adalah Anthropic, Google, Meta, Microsoft, dan OpenAI.
