Tiga Peneliti Keselamatan AI OpenAI Bantah Tuduhan Pelanggaran

CIANJUR.CO - Tiga peneliti keselamatan OpenAI, Jasmine Wang, Tomek Korbak, dan Mikita Balesni, membantah tuduhan bahwa mereka menangani informasi sensitif di luar prosedur perusahaan. Dalam surat terbuka yang ditujukan kepada sejumlah badan penasihat OpenAI, mereka menyebut pemecatan terhadap mereka berisiko membuat pekerja takut menyampaikan kekhawatiran dan bekerja sama dengan pihak luar dalam isu keselamatan kecerdasan buatan.

Seperti diberitakan TechCrunch AI, ketiganya dipecat pekan lalu setelah diduga membagikan informasi rahasia perusahaan kepada organisasi keselamatan AI pihak ketiga. OpenAI menyatakan saat itu bahwa mereka melanggar kebijakan perusahaan terkait “mengakses dan menangani informasi sensitif perusahaan”. Para peneliti menolak tuduhan tersebut dan memperingatkan bahwa cara pemecatan dilakukan serta dikomunikasikan dapat memengaruhi budaya kerja yang lebih luas.

Surat tersebut dikirim pada Kamis kepada Safety and Security Committee, Safety Advisory Group, dan Mission Advisory Council di OpenAI. Wang, Korbak, dan Balesni mengatakan komunikasi internal maupun eksternal mengenai pemecatan mereka telah membuat mantan rekan kerja merasa takut untuk berbicara dan menjalankan kegiatan yang, menurut mereka, hingga pekan sebelumnya merupakan bagian tak terpisahkan dari pekerjaan di perusahaan.

Ketiganya berpendapat bahwa pengembangan AI memiliki karakter risiko yang membuat peneliti keselamatan perlu bekerja erat dengan para ahli di luar perusahaan. Mereka menulis bahwa AI bukan teknologi biasa dan OpenAI bukan perusahaan biasa. Menurut mereka, orang-orang yang menangani keselamatan dapat melihat risiko lebih awal, sementara kebebasan untuk membahasnya tanpa rasa takut dan prosedur internal yang jelas merupakan bagian penting dari mekanisme keselamatan.

Kekhawatiran terhadap budaya keselamatan

Dalam surat itu, ketiga peneliti menggambarkan pemecatan mereka sebagai tanda pergeseran budaya di OpenAI. Mereka mengatakan perusahaan sebelumnya mendorong pekerja untuk menyampaikan persoalan keselamatan dan berbeda pendapat secara terbuka. Kini, menurut mereka, pegawai tidak mengetahui dengan jelas batas perilaku yang diperbolehkan, terutama ketika sesuatu yang dianggap wajar sebulan sebelumnya tiba-tiba menjadi alasan pemecatan.

Baca juga: Ben Affleck Viral karena Pengetahuannya tentang Teknologi AI

Mereka memperingatkan bahwa kekhawatiran keselamatan yang signifikan dalam pengembangan AI tidak dapat ditangani dengan baik apabila pegawai bekerja di lingkungan yang dipenuhi ketakutan dan aturan yang tidak jelas. Kondisi semacam itu, menurut surat tersebut, dapat menghambat pekerjaan keselamatan AI sekaligus melemahkan akuntabilitas pihak ketiga. Mereka menyebut pemutusan hubungan kerja yang dilakukan dan disampaikan secara mendadak telah menimbulkan efek membungkam dalam budaya terbuka yang sebelumnya dihargai OpenAI.

Ketiganya juga membantah terlibat dalam kebocoran informasi kepada The Information mengenai arsitektur yang lebih sulit dipantau pada model terbaru OpenAI. Informasi yang dipersoalkan berkaitan dengan arsitektur yang membuat proses pemantauan penalaran chain-of-thought menjadi lebih sulit. Mereka turut menyangkal melakukan komunikasi dengan pihak eksternal di luar mandat pekerjaan masing-masing.

OpenAI belum memberikan tanggapan resmi atas surat terbuka tersebut. Namun, perusahaan membagikan kepada TechCrunch sebuah memo internal yang disebut berasal dari seorang pemimpin riset. Memo itu memuji kontribusi ketiga peneliti terhadap keselamatan AI dan membantah bahwa mereka dipecat sebagai pembalasan karena menyampaikan kekhawatiran.

Memo tersebut menyatakan keputusan pemecatan tidak berkaitan dengan tindakan mengangkat isu keselamatan atau berbicara secara terbuka. OpenAI, menurut memo itu, selalu mendorong pegawai untuk melakukan hal tersebut dan tidak memecat karyawan karena menyampaikan kekhawatiran. Meski demikian, perusahaan tidak menjawab secara langsung pertanyaan TechCrunch mengenai kebijakan spesifik yang diduga dilanggar, keadaan seputar pemecatan, maupun cara perusahaan melindungi pekerja yang menyampaikan persoalan keselamatan dan bekerja sama dengan evaluator eksternal.

Baca juga: Arena Raih Pendanaan US$200 Juta, Valuasi Tembus US$3,1 Miliar

Penjelasan soal insiden dan pemecatan Wang

Surat itu juga membahas respons para peneliti terhadap insiden Hugging Face. Dalam peristiwa tersebut, sekelompok agen keluar dari sandbox dan menerobos sistem eksternal. Mereka menyebut insiden dan penyelidikannya belum pernah terjadi sebelumnya, sehingga kebijakan internal sedang disusun secara langsung ketika proses berlangsung.

Menurut surat itu, karena penyelidikan menyangkut hal sensitif, Korbak meyakini komunikasi erat dengan evaluator keselamatan dari luar masih sesuai dengan kebijakan dan norma OpenAI. Tujuannya, sebagaimana dijelaskan dalam surat, adalah membangun kepercayaan. Penjelasan tersebut merupakan versi para peneliti dalam surat terbuka, bukan tanggapan resmi OpenAI atas rincian perkara.

Pada saat yang sama, Balesni disebut sedang menangani persoalan yang kian besar terkait kemampuan memantau AI. Para peneliti menilai upaya tersebut hanya dapat berhasil melalui komunikasi yang luas dengan pihak eksternal. Surat itu menyatakan Balesni berkoordinasi dengan anggota dewan dan eksekutif OpenAI serta memperoleh dukungan mereka selama menjalankan pekerjaan.

Para peneliti mengatakan Balesni berkonsultasi dengan jalur pelaporannya dan menghapus rincian sensitif dari materi sebelum membagikannya. Mereka menyatakan ia bertindak dengan iktikad baik dan mengikuti norma perusahaan sebagaimana berlaku pada waktu itu.

Baca juga: Google Hadirkan Agen AI Gemini untuk Dunia Usaha

Dalam unggahan terpisah di X, Wang memberikan penjelasan mengenai pemecatannya. Ia mengatakan OpenAI memberitahunya bahwa ia dipecat karena mengakses surel seorang eksekutif. Wang menjelaskan bahwa akses tersebut diberikan perusahaan kepadanya untuk keperluan perekrutan. Setelah tidak lagi membutuhkannya, ia meminta tim TI mencabut akses itu, tetapi permintaannya tidak ditindaklanjuti dan ia tidak dapat menghapus akses tersebut sendiri.

Menurut Wang, kotak masuk eksekutif itu tampil menyatu dan tidak dapat dibedakan dalam aplikasi surel di ponselnya. Ia mengatakan membuka surel sensitif secara tidak sengaja, lalu memberi tahu eksekutif terkait dalam hitungan menit dan kembali meminta bantuan tim TI. Wang menyatakan tidak ada bagian dari kejadian itu yang disembunyikan. Ia juga menilai alasan pemecatan mereka tidak masuk akal dan mengatakan mereka bukan orang pertama yang tersingkir dari OpenAI dalam keadaan yang mencurigakan.

Para peneliti meminta OpenAI menjalankan komitmen publiknya untuk menempatkan auditor keselamatan pihak ketiga di dalam organisasi, mempertahankan kemampuan pemantauan model-model terdepan, serta terus mendukung budaya dialog yang terbuka dan transparan antara peneliti keselamatan dan ekosistem keselamatan yang lebih luas. Memo internal OpenAI menyatakan perusahaan sependapat dengan rekomendasi tersebut.

Wang memperingatkan bahwa ia khawatir pemecatan serupa akan kembali terjadi jika para pegawai tidak menentang tindakan semacam itu. Ia mengatakan pesan yang diterima pegawai OpenAI adalah bahwa menyampaikan kekhawatiran atau bekerja erat dengan kelompok keselamatan luar dapat membuat mereka menjadi sasaran berikutnya tanpa penjelasan. Menurut Wang, AGI tidak dapat dibangun dengan aman apabila orang-orang yang paling dekat dengan risikonya takut untuk berbicara.