Anthropic Kembangkan FlashProve untuk Membuktikan Identitas Model AI
CIANJUR.CO - Anthropic mengembangkan FlashProve, sebuah sistem sumber terbuka yang dirancang untuk membuktikan model kecerdasan buatan (AI) mana yang menghasilkan suatu keluaran. Sistem ini ditujukan agar pengguna dapat memeriksa apakah jawaban yang diterima benar-benar berasal dari model yang diklaim digunakan, bukan dari model lain yang identitasnya disamarkan.
Berdasarkan laporan TechCrunch AI, informasi mengenai proyek tersebut disampaikan melalui sebuah unggahan blog yang diterbitkan pada Selasa. Para peneliti Anthropic menyebut pendekatan yang ingin dibangun sebagai “provable inference” atau inferensi yang dapat dibuktikan. Secara teknis, konsep itu menggunakan bukti kriptografis yang berfungsi sebagai jaminan matematis mengenai asal suatu keluaran.
Dengan demikian, FlashProve berupaya menghubungkan jawaban yang muncul kepada model tertentu melalui verifikasi, bukan hanya mengandalkan klaim penyedia layanan. TechCrunch AI membandingkan gagasan ini dengan tanda tangan kriptografis pada surat elektronik. Tanda tangan semacam itu membantu penerima memastikan pesan benar-benar berasal dari pengirim yang tercantum. Dalam konteks FlashProve, hal yang hendak dipastikan adalah identitas model di balik hasil AI.
Baca juga: Google Bawa Dreambeans ke India, Dukung 13 Bahasa Lokal
Menurut para peneliti, sistem tersebut dirancang agar tetap dapat diandalkan ketika ada pihak yang berusaha menyamarkan satu model sebagai model lain. Risiko itu, dalam rancangan yang dijelaskan, tidak hanya datang dari pihak luar. Laboratorium yang membangun sekaligus menjalankan model juga dapat menjadi pihak yang melakukan penggantian, sehingga verifikasi diperlukan untuk menguji klaim penyedia terhadap model yang benar-benar digunakan.
Salah satu contoh yang disebut adalah kemungkinan perusahaan AI diam-diam mengganti model dengan versi yang lebih murah demi menekan biaya. Kemungkinan lain, model yang lebih mahal dapat digunakan untuk membuat hasil kinerja tampak lebih baik. FlashProve ditujukan untuk membantu mendeteksi ketidaksesuaian semacam itu dengan membuktikan model mana yang menghasilkan keluaran tertentu. Contoh tersebut merupakan potensi penggunaan sistem, bukan keterangan bahwa praktik penggantian model telah terjadi.
Verifikasi juga dapat digunakan untuk memeriksa klaim pihak ketiga tentang pemakaian model canggih dalam suatu pekerjaan. Peneliti mencontohkan pengembang yang menyatakan bahwa pustaka perangkat lunaknya telah dipindai untuk mencari kerentanan menggunakan model keamanan siber terdepan. Contoh lainnya ialah perusahaan yang mengatakan rencana bisnisnya telah mendapat persetujuan dari model yang dianggap sesuai. Dalam kedua situasi itu, pengguna memerlukan cara untuk memastikan model yang disebut memang benar-benar terlibat.
Baca juga: Apple Pertimbangkan Peluang AI Pihak Ketiga untuk Tambah Pendapatan Layanan
Agar pemeriksaan dapat dilakukan, laboratorium AI perlu menerbitkan “sidik jari” untuk setiap model yang mereka rilis. Sidik jari itu nantinya dicocokkan dengan keluaran tertentu, kemudian diverifikasi secara kriptografis. Proses tersebut menjadi dasar untuk menghubungkan jawaban dengan model yang diklaim sebagai sumbernya, termasuk ketika pengguna ingin menilai klaim penggunaan model oleh penyedia atau pihak ketiga.
Para peneliti menyatakan sidik jari tersebut tidak mengungkap bobot model, yakni angka-angka internal yang menentukan perilaku model. Bobot itu umumnya dijaga sebagai informasi privat oleh pembuat model tertutup, termasuk Anthropic dan OpenAI. Karena sidik jari tidak membuka bobot, laboratorium dapat menerbitkannya tanpa menyerahkan aset penting tersebut. Rancangan ini memungkinkan FlashProve digunakan pula pada model komersial, bukan hanya model yang seluruh komponennya dibuka kepada publik.
FlashProve juga dirancang ringan sehingga pemeriksaan dapat dilakukan pada perangkat lokal. Artinya, verifikasi tidak harus selalu berlangsung di tempat model dibuat atau dijalankan. Namun, sistem tetap memerlukan sidik jari model yang diterbitkan laboratorium agar keluaran dapat dicocokkan dengan identitas model yang tepat.
Baca juga: Saham Intel Anjlok 28%, Nilai Saham Pemerintah AS Turun US$12 Miliar
Dalam pengumuman proyek, para peneliti merilis spesifikasi teknis terperinci serta kode yang telah berfungsi untuk sejumlah elemen sistem. Materi itu tersedia untuk umum dengan lisensi sumber terbuka di GitHub. Meski demikian, riset FlashProve masih berlangsung dan Anthropic menyatakan belum memiliki rencana untuk menerapkannya di laboratorium tersebut maupun di laboratorium lain.
Para peneliti menegaskan bahwa tulisan riset itu membagikan kemajuan sementara, bukan hasil akhir dari agenda penelitian. Mereka menyatakan materi tersebut dibuka agar pihak lain dapat mempelajari pekerjaan yang telah dilakukan, menggunakannya, dan mengembangkannya lebih lanjut. Karena itu, spesifikasi dan kode yang dirilis menjadi bahan terbuka untuk ditinjau, sementara pengembangan risetnya masih berlanjut.