Mamdani Minta Warga New York Menolak AI Tanpa Pengawasan
CIANJUR.CO - Wali Kota New York Zohran Mamdani meminta warga tidak menerima begitu saja anggapan bahwa kecerdasan buatan (AI) akan menguasai pekerjaan, memengaruhi pikiran anak-anak, dan mengikis martabat manusia. Menurutnya, masyarakat masih dapat menuntut aturan dan mengambil kembali kendali atas penggunaan teknologi tersebut, alih-alih merasa bahwa kedatangannya tidak bisa dihentikan.
Pesan itu disampaikan Mamdani pada Senin malam dalam acara The People’s AI Assembly di Webster Hall, Manhattan. Ia berbincang dengan aktivis sekaligus bintang serial “Broad City”, Ilana Glazer, yang mengajukan pertanyaan tentang masa depan AI dalam kehidupan bermasyarakat. Berdasarkan laporan TechCrunch AI, Mamdani menilai pemerintah federal belum mengambil langkah memadai untuk mengatur AI sehingga kota-kota harus bertindak sendiri.
Acara tersebut diselenggarakan AI Now Institute, lembaga pemikir yang mengkaji dampak sosial AI. Dalam forum itu, Mamdani berpendapat bahwa penerapan teknologi yang berlangsung cepat bukan sesuatu yang tak terelakkan. Pejabat publik, katanya, perlu meminta pertanggungjawaban perusahaan AI, terutama ketika penggunaan teknologi mulai menyentuh layanan dan ruang yang berdampak langsung kepada warga.
Ia mengingatkan bahwa laju penerapan AI dapat membuat masyarakat merasa tidak punya pilihan. “Tidak ada yang harus terjadi begitu saja,” kata Mamdani. Ia menggambarkan adanya pergeseran penggunaan teknologi yang merayap, disertai dorongan untuk membuat orang kewalahan hingga menganggap tidak ada alternatif. Karena itu, menurutnya, warga perlu menolak narasi bahwa mereka hanya dapat pasrah saat AI masuk ke berbagai aspek kehidupan.
Baca juga: Nscale dan Anthropic Dikabarkan Bahas Kesepakatan Komputasi US$45 Miliar Lagi
Kebijakan di sekolah dan sektor properti
Sejumlah kebijakan yang diperkenalkan Mamdani di New York mencerminkan sikap tersebut. Bulan lalu, ia memerintahkan pelarangan penggunaan AI di sekolah dasar dan menengah. Glazer, yang merupakan orang tua, mengatakan kehadiran teknologi itu di ruang kelas membuatnya gelisah. Ia mempertanyakan mengapa AI harus digunakan di sekolah, padahal dua tahun sebelumnya teknologi itu belum menjadi bagian dari lingkungan tersebut.
Keberatan Glazer berpusat pada kesan bahwa penggunaan AI di sekolah berlangsung tanpa persetujuan yang memadai. Pernyataannya muncul dalam percakapan bersama Mamdani, bukan sebagai kebijakan tersendiri. Kekhawatiran itu beriringan dengan langkah wali kota untuk membatasi penggunaan AI di sekolah dasar dan menengah, meski sumber tidak merinci bagaimana larangan tersebut akan diterapkan.
Pada musim panas, Mamdani juga memperkenalkan kebijakan yang mewajibkan pemilik properti, broker, dan platform real estat mengungkapkan secara jelas apabila foto atau video dalam iklan properti dibuat dengan AI. Kebijakan itu ditujukan untuk melindungi warga New York dari praktik yang disebut “house-phished”, yakni tertipu oleh materi iklan properti yang menyesatkan.
Kebijakan sekolah dan keterbukaan iklan properti menyasar dua konteks berbeda, tetapi sama-sama menolak anggapan bahwa masyarakat harus menerima AI tanpa penjelasan atau perlindungan. Dalam pandangan Mamdani, penerapan teknologi tidak boleh berlangsung tanpa memperhitungkan batasannya dan tanpa mekanisme untuk meminta pertanggungjawaban pihak yang menggunakannya.
Baca juga: Hugging Face: Evaluasi AI Perlu Standar yang Lebih Seragam
Kritik terhadap pengawasan dan akuntabilitas
Mamdani menyebut penerapan teknologi secara ceroboh tanpa penilaian serius atas keterbatasannya sebagai persoalan penting. Ia mengaitkan kekhawatiran itu dengan serangan militer Amerika Serikat terhadap sebuah sekolah di Iran pada Februari, yang menewaskan lebih dari 150 orang, termasuk setidaknya 123 anak. Pejabat yang terlibat dalam penyelidikan internal Pentagon mengatakan kepada Bloomberg bahwa ketergantungan berlebihan pada AI dalam penentuan sasaran merupakan salah satu faktor serangan tersebut.
Wali kota itu juga menolak anggapan bahwa AI tidak dapat salah atau tidak boleh dipertanyakan, serta bahwa hanya pihak yang mengembangkan teknologi yang berwenang mengaturnya. Ia membandingkan argumen tersebut dengan pernyataan Facebook pada 2008. Menurut Mamdani, klaim semacam itu dapat menjadi upaya menghindari pertanggungjawaban di berbagai tingkat, sekaligus menjaga potensi valuasi perusahaan menjelang penawaran umum perdana (IPO).
Perhatian terhadap IPO muncul ketika Anthropic diperkirakan melantai di pasar publik tahun ini, sementara OpenAI menyatakan akan menjadi perusahaan publik pada 2027. Mamdani menempatkan perkembangan itu dalam perdebatan yang lebih luas tentang siapa yang menetapkan batas penggunaan AI dan siapa yang bertanggung jawab atas dampaknya. Ia mengkritik apa yang disebutnya sebagai “pengabaian total hukum federal” terkait AI.
Baca juga: Microsoft: Agen AI Perlu Diawasi seperti Ancaman Orang Dalam
Dalam pembahasan tingkat nasional, kata Mamdani, AI kerap dibingkai sebagai perlombaan senjata dengan China. Ia menilai kekhawatiran yang berpusat pada persaingan antarnegara dapat membuat perhatian terhadap dampak kemanusiaan tersisih. Dengan demikian, ia mendorong agar pembahasan kebijakan tidak hanya melihat posisi Amerika Serikat dalam kompetisi, tetapi juga mempertimbangkan perlindungan masyarakat.
Presiden Donald Trump mengumumkan Superintelligence Task Force awal bulan ini. Menurut materi yang dilaporkan, badan tersebut sebagian besar berfokus pada pemberian ruang bagi perusahaan AI yang kuat untuk mengatur diri sendiri, bukan menciptakan pembatasan federal baru. Pendekatan itu berlangsung di tengah kekhawatiran yang meningkat mengenai pengaruh AI terhadap setiap aspek kehidupan manusia, termasuk peringatan dari pelapor pelanggaran di Anthropic, Google DeepMind, dan OpenAI bahwa AI dapat berujung pada kepunahan manusia.
Mamdani mengatakan kerangka pembahasan AI perlu berubah setelah pemerintahan federal saat ini. Ia menyerukan pendekatan yang berbeda dalam cara masyarakat memikirkan dan membicarakan AI, sekaligus dalam bentuk akuntabilitas yang bersedia diterapkan. Seruan itu melanjutkan pesannya kepada warga New York: penggunaan AI bukan sesuatu yang harus diterima tanpa pertanyaan, dan pemerintah serta masyarakat dapat menuntut perlindungan yang lebih kuat.