CIANJUR.CO – Meta mengumumkan telah menindak 33,2 juta konten eksploitasi seksual anak di Facebook dan Instagram selama paruh pertama 2026. Bersamaan dengan langkah tersebut, perusahaan itu meluncurkan perangkat berbasis kecerdasan buatan (AI) untuk membantu menemukan iklan dan akun yang mungkin digunakan untuk mengarahkan orang secara terselubung ke materi ilegal.
Berdasarkan laporan TechCrunch AI, lebih dari 97 persen konten yang ditindak Meta pada periode itu ditemukan oleh sistem perusahaan sebelum ada laporan dari pengguna. Di India, Meta menindak 5,3 juta konten eksploitasi seksual anak pada rentang waktu yang sama. Perusahaan menyebut lebih dari 98 persen konten di India tersebut terdeteksi sebelum dilaporkan pengguna.
Perangkat AI terbaru Meta secara khusus menyasar praktik penggunaan iklan yang tampak tidak berbahaya, tetapi diduga menjadi jalur menuju konten ilegal di luar layanan Meta. Perusahaan mengatakan pelaku mengubah cara mereka beroperasi untuk menghindari deteksi. Dalam pola yang disebut “signposting”, sebuah iklan dapat terlihat normal di platform, sementara tautan atau tujuan yang dituju pengguna mengarah ke aktivitas berbahaya atau materi ilegal di tempat lain.
Menilai tujuan iklan, bukan hanya isinya
Untuk mengenali pola tersebut, Meta memperkenalkan sistem model bahasa besar atau large language model (LLM). Sistem ini dirancang untuk mendeteksi iklan yang dicurigai menjadi penunjuk jalan menuju konten ilegal maupun aktivitas berbahaya lainnya di internet. Meta menyatakan taktik itu belakangan digunakan pelaku seiring upaya mereka mengganti metode agar tidak mudah terdeteksi.
Baca juga: TechCrunch Disrupt 2026 Siapkan Roundtable AI hingga Pendanaan Startup
Iklan yang menjadi bagian dari pola tersebut belum tentu memuat materi ilegal secara langsung. Namun, menurut Meta, iklan semacam itu tetap dapat berfungsi sebagai pintu masuk ke situs yang menampung materi pelecehan seksual anak. Karena itu, pemeriksaan perusahaan kini tidak hanya berfokus pada materi yang terlihat di dalam iklan, tetapi juga pada tujuan yang dituju setelah seseorang mengaksesnya.
Informasi mengenai tujuan iklan dapat digunakan Meta untuk memblokir situs atau tujuan lain yang melanggar aturan perusahaan. Meta juga dapat mengambil tindakan terhadap akun yang berada di balik iklan tersebut. Dengan cara ini, pemeriksaan diarahkan pada hubungan antara iklan, akun pengunggah, dan lokasi tujuan, bukan semata-mata pada apakah iklan itu sendiri menampilkan materi terlarang.
Meta juga menambahkan pemindaian berbasis AI untuk mencari konten eksploitasi anak yang mungkin luput dari sistem sebelumnya. Perusahaan mengatakan akan terus memasukkan sinyal-sinyal baru seiring bertambahnya pemahaman tentang cara jaringan tersebut beroperasi. Pernyataan itu menunjukkan bahwa pencarian konten tidak hanya mengandalkan mekanisme yang sudah digunakan, tetapi akan disesuaikan dengan informasi baru mengenai pola yang ditemukan.
Baca juga: Healthleap Raih Pendanaan US$38 Juta untuk AI Penyaring Risiko Pasien
Pengujian perlindungan dan akun berulang
Perangkat baru lainnya adalah agen AI “red-teaming” yang menguji langkah-langkah keselamatan Meta sendiri. Agen tersebut mencari kelemahan yang berpotensi dimanfaatkan pelaku untuk melewati perlindungan perusahaan. Meta menyebut pengujian itu dapat membantu menemukan cara-cara penyalahgunaan baru sebelum menjadi lebih umum.
Selain memperkuat pemindaian dan menguji perlindungan, Meta memperbaiki sistem untuk menemukan orang yang kembali menggunakan platform dengan akun baru setelah akun sebelumnya dihapus. Langkah ini berfokus pada kemungkinan seseorang yang akunnya sudah ditindak kembali hadir melalui akun lain. Meta tidak merinci dalam materi pengumumannya bagaimana sistem itu mengidentifikasi akun-akun tersebut.
Peluncuran alat tersebut berlangsung saat Meta terus menghadapi tekanan mengenai keselamatan anak di platformnya. Perusahaan telah menerima gugatan dan kritik dari anggota parlemen terkait risiko yang dapat ditimbulkan layanan media sosialnya bagi pengguna muda. Pada Agustus, Meta mencapai kesepakatan untuk membayar hingga 18 miliar dolar AS guna menyelesaikan gugatan keselamatan anak yang melibatkan 29 negara bagian di Amerika Serikat. Kesepakatan itu berkaitan dengan persoalan perlindungan anak di internet.
Baca juga: Tony Fadell: Gadget AI Gagal karena Tak Menjawab Kebutuhan Nyata
Meta juga telah memperkenalkan sejumlah fitur keselamatan anak sepanjang tahun ini. Fitur yang disebut perusahaan mencakup kontrol orang tua untuk Meta AI, akun praremaja di WhatsApp, serta pemberitahuan kepada orang tua ketika anak mencari konten yang berkaitan dengan tindakan menyakiti diri sendiri di Instagram.
Pada September, WhatsApp menambahkan kontrol lain yang dapat digunakan orang tua. Mereka bisa membatasi cara remaja menggunakan Channels, mengatur siapa yang dapat melihat pembaruan status, dan menentukan siapa yang boleh menambahkan anak mereka ke grup. Orang tua juga dapat memilih untuk menerima notifikasi mengenai aktivitas tertentu di grup. Fitur-fitur tersebut melengkapi langkah Meta yang kini turut mencakup deteksi iklan pengarah, pemindaian konten, pengujian sistem keamanan, dan penelusuran akun yang kembali digunakan setelah penghapusan.
