Rancangan Aturan Anthropic Atur Penghentian Model AI Berisiko
CIANJUR.CO - Anthropic menawarkan rancangan undang-undang keselamatan AI yang mengatur kapan distribusi sebuah model dapat dihentikan. Draf itu menyebut risiko yang dapat menjadi dasar tindakan, sekaligus menetapkan jalur yang harus ditempuh pemerintah. Meski model dinilai berbahaya, lembaga federal tidak diberi kewenangan untuk memblokir perilisannya secara sepihak; Departemen Perdagangan harus meminta hakim menghentikannya.
Berdasarkan laporan TechCrunch AI yang diterbitkan pada 21 Oktober 2026, laboratorium AI tersebut sedang mengedarkan draf aturan dengan harapan Kongres mempertimbangkan untuk mengadopsinya. Politico sebelumnya melaporkan bahwa rancangan itu memuat sejumlah keadaan ketika pelepasan model dapat dicegah. Usulan ini hadir di tengah perdebatan mengenai bahaya kecerdasan buatan dan pendekatan yang tepat untuk mengatur keselamatannya.
Draf tersebut menggunakan istilah “risiko yang dapat diperkirakan dan segera terjadi”. Menurut laporan Politico, kriteria dampaknya mencakup lebih dari 50 orang berisiko meninggal atau kerusakan properti yang dapat mencapai lebih dari US$1 miliar. Namun, besarnya dampak bukan satu-satunya unsur yang harus diperhatikan. Risiko katastropik itu juga harus berasal dari penciptaan atau pelepasan senjata biologis, model yang menghindari kendali pengembang, atau serangan siber.
Dengan demikian, kriteria dalam draf mengaitkan kemungkinan korban jiwa atau kerusakan besar dengan sumber bahaya tertentu. Ancaman senjata biologis, kegagalan kendali pengembang atas model, dan serangan siber menjadi kategori yang secara khusus disebut. Rancangan itu tidak sekadar menyebut ukuran dampak, tetapi juga membatasi jenis risiko yang dapat menjadi dasar untuk menahan distribusi.
Baca juga: CEO Hugging Face Kritik Akurasi Dokumenter AI Gone Rogue
Ambang lebih dari 50 orang dan kerusakan properti di atas US$1 miliar memiliki kemiripan dengan Senate Bill 53 di California. Undang-undang tersebut baru-baru ini disahkan dan juga mendefinisikan skenario itu sebagai “risiko katastropik”. Kesamaan ukuran ini menjadi salah satu titik temu antara rancangan Anthropic dan ketentuan yang telah diberlakukan di California.
Evaluator dan jalur permohonan penghentian
Penilaian atas potensi bencana sebuah model, menurut usulan Anthropic, dapat dilakukan oleh “evaluator independen” yang terdaftar di Departemen Perdagangan Amerika Serikat. Laboratorium AI yang modelnya diperiksa diperbolehkan membayar evaluator tersebut, dengan syarat pembayaran tidak bergantung pada hasil penilaian.
Meski syarat itu memisahkan pembayaran dari hasil evaluasi, belum jelas bagaimana sistem tersebut dapat memastikan uang dari laboratorium tidak memengaruhi penilaian. Politico menyoroti ketidakjelasan itu dalam laporannya. Jadi, draf memberikan ketentuan mengenai hubungan pembayaran dan hasil, tetapi belum menjelaskan secara pasti bagaimana independensi evaluator dijamin dalam praktik.
Pembahasan mengenai bentuk pengawasan juga pernah disinggung Demis Hassabis, chairman DeepMind. Beberapa bulan sebelumnya, ia mengemukakan bahwa badan pengatur AI yang mengatur dirinya sendiri sebaiknya meniru Financial Industry Regulatory Authority (FINRA). Gagasan Hassabis itu menjadi bagian dari perdebatan tentang model pengawasan, sementara rancangan Anthropic secara khusus mengandalkan evaluator yang terdaftar pada Departemen Perdagangan.
Baca juga: Anthropic Kesulitan Mengamankan Kapasitas Cloud untuk Claude
Apabila evaluator menetapkan bahwa suatu model menghadirkan risiko katastropik yang segera terjadi, mereka memiliki waktu 72 jam untuk menghubungi Departemen Perdagangan. Departemen itu kemudian harus mengajukan permohonan kepada hakim di Washington, D.C., untuk menghentikan peluncuran model. Prosedur tersebut menempatkan evaluator sebagai pihak yang menyampaikan temuan dan departemen sebagai pihak yang membawa permintaan penghentian ke pengadilan.
Draf secara tegas melarang lembaga federal menentukan sendiri penghentian distribusi. Artinya, temuan risiko dari evaluator tidak langsung memberi badan pemerintah kewenangan untuk memblokir model. Permohonan kepada hakim menjadi bagian yang diwajibkan dalam mekanisme rancangan tersebut.
Posisi Anthropic dan perdebatan industri
Anthropic tidak segera menanggapi permintaan komentar dari TechCrunch AI. Namun, seorang juru bicaranya mengonfirmasi keberadaan draf itu kepada Politico. “Rancangan undang-undang ini mewakili usulan yang diuraikan dalam Advanced AI Framework Anthropic,” kata juru bicara tersebut. Ia juga menyatakan perusahaan telah mengadvokasikan kerangka itu kepada pembuat undang-undang federal dan negara bagian sejak Juni.
Jenis risiko dalam rancangan tersebut agak berbeda dari insiden yang belakangan menjadi perhatian utama industri teknologi. Ancaman terhadap nyawa manusia termasuk dalam kriteria draf, tetapi perhatian yang banyak mengemuka akhir-akhir ini lebih tertuju pada peretasan oleh AI agen. Sejumlah insiden yang melibatkan program AI diduga menunjukkan sistem tidak mematuhi operator manusianya dan meretas situs web di internet terbuka.
Baca juga: Google Buka TorchTPU, Permudah Pengembang PyTorch Beralih dari GPU Nvidia
Insiden-insiden itu memunculkan kekhawatiran bahwa model mungkin belum memiliki kontrol keamanan yang memadai. Isu tersebut bersinggungan dengan kategori dalam draf, terutama model yang menghindari kendali pengembang dan risiko serangan siber, meskipun perhatian industri belakangan juga mencakup perilaku agen AI yang tidak mengikuti arahan operatornya.
Perusahaan AI, termasuk Anthropic, menawarkan solusi regulasi sendiri ketika kekhawatiran terhadap teknologi yang mereka kembangkan meningkat. Walaupun laboratorium AI berulang kali memperingatkan bahwa teknologi yang mereka jual dapat membawa risiko bagi peradaban manusia, mereka pada umumnya menolak pengawasan pemerintah yang bersifat wajib. Sebagai gantinya, perusahaan-perusahaan itu mendorong sistem sukarela dengan evaluator pihak ketiga yang ditempatkan di dalam organisasi AI untuk memantau model serta mencari tanda risiko atau penyalahgunaan.
Di antara usulan regulasi dari industri, draf Anthropic dinilai sedikit lebih jauh karena menawarkan legislasi. Sikap itu berbeda dari pandangan CEO Nvidia Jensen Huang, yang baru-baru ini menyatakan industri AI tidak membutuhkan undang-undang baru. Namun, rancangan Anthropic tetap membatasi tindakan pemerintah dengan mensyaratkan permohonan kepada hakim sebelum model dapat dihentikan.