Anthropic Beri Enam Peneliti METR Akses Setingkat Karyawan
CIANJUR.CO - Anthropic memberikan akses internal setingkat karyawan kepada enam peneliti METR, organisasi nirlaba yang menguji model kecerdasan buatan (AI) terdepan. Melalui pengaturan ini, tim METR dapat menilai model Anthropic, praktik keselamatan, serta cara perusahaan mengelola risiko secara independen.
Seperti diberitakan TechCrunch AI, Anthropic mengumumkan skema tersebut dalam sebuah tulisan blog pada Kamis. Perusahaan menyatakan ingin mempertanggungjawabkan keputusan yang diambil kepada publik. Tujuan lainnya adalah memperkecil kesenjangan antara pemahaman para evaluator mengenai sistem perusahaan AI terdepan dan pemahaman perusahaan itu sendiri.
Pengaturan itu hadir ketika insiden agen AI yang bertindak di luar instruksi dilaporkan setiap satu atau dua pekan sejak akhir Agustus. Rangkaian kejadian tersebut mendorong seruan agar perusahaan AI menjalani pemeriksaan independen. Anthropic menempatkan akses METR sebagai salah satu cara agar pihak luar dapat memeriksa model dan praktik perusahaan dengan informasi yang lebih dekat dengan sumber internal.
Baca juga: Bluesky Perluas Attie, Pengguna Bisa Membuat Situs dan Gim
Enam peneliti itu memperoleh laptop perusahaan yang disediakan Anthropic, ruang kantor, serta akses ke perangkat internal. Tingkat aksesnya kurang lebih sebanding dengan fasilitas yang digunakan tim penilaian risiko Anthropic sendiri. Perusahaan juga mendorong karyawannya berbagi informasi dengan para peneliti METR sebagaimana mereka berbagi dengan rekan kerja yang menangani risiko keselarasan AI.
Anthropic membandingkan susunan tersebut dengan praktik di sektor perbankan, yakni ketika regulator menempatkan pemeriksa tetap di dalam bank-bank terbesar. Perbandingan itu merujuk pada keberadaan pihak pemeriksa di lingkungan perusahaan yang diawasi, bukan hanya penilaian dari luar berdasarkan informasi terbatas.
METR akan menerbitkan penilaiannya sendiri mengenai risiko, insiden, dan praktik Anthropic. Perusahaan telah melepaskan hak untuk memblokir publikasi itu. Namun, Anthropic masih dapat meminta penghapusan informasi dalam kategori sempit yang telah ditetapkan sebelumnya, termasuk data pelanggan, materi yang dilindungi hak istimewa hubungan pengacara-klien, serta informasi tentang arsitektur model.
Baca juga: Diskon hingga US$200 untuk Tiket TechCrunch Founder Summit Berakhir 16 Oktober
Anthropic menyebut METR tetap bebas menjelaskan kepada publik apabila ada bagian yang disunting dan menyampaikan apakah organisasi itu menilai penyuntingan tersebut beralasan. Kebebasan itu berlaku selama METR tidak membocorkan informasi yang telah disunting. Dengan demikian, perusahaan tidak memiliki hak veto atas penerbitan hasil penilaian, tetapi masih ada batas tertentu untuk melindungi jenis informasi yang disebutkan.
METR menjadi satu-satunya evaluator yang saat ini berada di tingkat teratas dalam sistem tiga tingkat yang sedang dibangun Anthropic. Pada tingkat terbawah, evaluator seperti SecureBio—organisasi nirlaba yang berfokus pada biosekuriti—melakukan tinjauan dengan cakupan terbatas dan membutuhkan persetujuan Anthropic sebelum menerbitkan hasilnya.
Tingkat menengah memberikan akses informasi yang lebih luas dibandingkan tingkat terbawah. Evaluator di tingkat ini dapat menerbitkan penilaian tanpa persetujuan Anthropic. Sementara itu, tingkat teratas menambahkan akses setingkat karyawan seperti yang kini diberikan kepada METR. Perbedaan tersebut membuat tingkat akses dan kebebasan publikasi evaluator tidak sama pada setiap bagian sistem.
Baca juga: Nvidia Rilis Nemotron 3.5 Super VL, Model AI Open-Weight 120 Miliar Parameter
Pengumuman Kamis itu menindaklanjuti janji CEO Anthropic Dario Amodei dalam esai yang diterbitkan pada September. Dalam esai tersebut, ia mengusulkan agar evaluator dari luar ditempatkan di dalam laboratorium AI sebagai langkah awal untuk memperlambat pengembangan teknologi. Setelah itu, OpenAI dengan cepat menyatakan akan menerapkan langkah serupa.
Anthropic dan OpenAI kemudian menandatangani kesepakatan Gedung Putih bersama Google, Meta, Nvidia, dan xAI. Kesepakatan tersebut memuat komitmen untuk menjalani peninjauan independen. Pengaturan akses METR menjadi langkah khusus Anthropic dalam konteks komitmen itu, dengan ruang bagi penilai luar untuk memeriksa informasi internal sekaligus menerbitkan penilaiannya sendiri.