CIANJUR.CO – Musubi memperkenalkan PolicyLM-1.7B, model keputusan ringan yang dirancang untuk membantu moderasi konten secara real-time. Model tersebut diumumkan pada Selasa dan dirilis dengan bobot terbuka atau open weights. Perusahaan itu merancangnya agar kebijakan konten dapat diterapkan langsung pada pesan, tanpa harus mengubah kebijakan tersebut menjadi proses pelatihan khusus.
Berdasarkan laporan TechCrunch AI, PolicyLM-1.7B ditujukan untuk memproses kebijakan yang ditulis dalam bahasa Inggris biasa dan menerapkannya pada konten dalam waktu kurang dari 50 milidetik. Musubi merancang model ini agar biaya dan kecepatannya sebanding dengan sistem pengklasifikasi AI yang digunakan untuk moderasi di sebagian besar platform sosial.
Perbedaan yang ditawarkan, menurut penjelasan mengenai model tersebut, terletak pada kemampuannya menangani kebijakan yang kompleks tanpa pelatihan khusus. Musubi juga menyebut model tidak perlu dilatih ulang setiap kali kebijakan berubah. Dengan demikian, tim yang menetapkan kebijakan dapat memperbarui atau menyesuaikan aturan sesuai kebutuhan tanpa menunggu proses pelatihan baru.
Baca juga: Lambda Bidik Pendanaan hingga US$4 Miliar Jelang IPO 2027
Filip Jankovic, salah satu pendiri sekaligus kepala AI Musubi, melihat fungsi itu sebagai cara bagi pengelola platform untuk memberi label pada konten secara proaktif. Ia mengatakan tim produk membutuhkan pemahaman yang lebih baik mengenai aktivitas di platform, terutama ketika jumlah konten meningkat secara eksponensial.
“Memberi label pada semua itu dengan cara yang sangat skalabel dan dapat disesuaikan sangat berguna,” kata Jankovic. Ia menilai kemampuan tersebut relevan bagi tim yang ingin memahami apa yang terjadi di platform mereka, sekaligus mengelola volume konten yang terus bertambah melalui pelabelan yang dapat disesuaikan.
Model keputusan dan moderasi
Model keputusan belakangan menjadi perhatian di industri AI setelah Typesafe AI merilis Jev pada September. Setelah itu, OpenAI dan Amazon juga menghadirkan model keputusan yang bersaing. Berbeda dari model yang menghasilkan teks, model keputusan mengeluarkan probabilitas hasil. Dalam penerapan PolicyLM-1.7B, keluaran disederhanakan menjadi penilaian biner: konten termasuk dalam kategori tertentu atau tidak.
Baca juga: Agen AI Mulai Terhambat Pemblokiran Situs, Standar Baru Disiapkan
Pembatasan keluaran pada pilihan yang sudah ditentukan itu memungkinkan model keputusan berjalan lebih cepat dan murah dibandingkan model bahasa besar. Pada saat yang sama, model tetap mempertahankan fleksibilitas arsitektur transformer. Untuk moderasi, bentuk keluaran tersebut berarti model dapat memberikan keputusan klasifikasi berdasarkan kategori kebijakan yang diterapkan, bukan menghasilkan jawaban berupa teks bebas.
Salah satu penggunaan awal model keputusan adalah membatasi perilaku buruk agen AI. Penerapan teknologi serupa untuk menangani perilaku buruk manusia dalam konten dipandang sebagai perluasan yang wajar dari penggunaan tersebut. Dalam hal ini, Musubi menawarkan model yang secara khusus diarahkan pada moderasi konten, bukan sekadar model keputusan umum.
Baca juga: Google Batasi Model Gemini untuk Pengguna Gratis Mulai 9 Oktober
Jankovic mengatakan ketertarikannya pada model keputusan telah muncul sebelum peluncuran Jev. Ia menelusurinya ke proyek GLiNER, singkatan dari Generalist Model for Named Entity Recognition, yang dikerjakan pada 2024 dan menggunakan banyak teknik serupa. Karena itu, Musubi menyatakan tidak khawatir terhadap perbandingan dengan model keputusan lain yang baru mendapat perhatian.
Sebaliknya, perusahaan ingin memanfaatkan meningkatnya minat pada model keputusan untuk menyoroti moderasi konten. Dalam pengumuman produknya, Musubi menggambarkan PolicyLM-1.7B sebagai model sejenis Jev, tetapi dilatih secara khusus untuk moderasi konten dan dapat dijalankan sendiri oleh pengguna. Model ini membawa pendekatan keputusan ke tugas pelabelan konten dengan fokus pada kecepatan, biaya, dan kemampuan menyesuaikan kebijakan.
