CIANJUR.CO – Penggunaan kecerdasan buatan generatif sebagai pengendali robot menjanjikan kemampuan yang lebih luas, tetapi juga memunculkan persoalan keselamatan. Berbeda dengan algoritma tradisional yang perilakunya lebih mudah diperkirakan, sistem generatif bekerja secara probabilistik. Karena itu, pembuat robot perlu mengetahui bagaimana perangkat akan bereaksi ketika berhadapan dengan manusia dan situasi yang tidak terduga.
Persoalan tersebut menjadi fokus Safeworld, perusahaan yang didirikan Dr. Ding Zhao, Kyle Wong, dan Simo Rachidi. Zhao mengarahkan Safe AI Lab di Carnegie Mellon University dan telah menekuni masalah keselamatan AI hampir sepanjang kariernya. Wong merupakan eksekutif perusahaan rintisan berpengalaman, sedangkan Rachidi adalah insinyur pembelajaran mesin. Seperti diberitakan TechCrunch AI, Safeworld ingin membantu memastikan robot tidak mencederai manusia melalui pengujian sistem kendali dalam simulasi.
Zhao menjelaskan, tantangan keselamatan memiliki dua sisi yang sama-sama harus ditangani sebelum robot digunakan. Sisi pertama adalah evaluasi lanjutan untuk AI generatif, termasuk cara memperkirakan risiko dari sistem probabilistik. Sisi lainnya adalah kepercayaan terhadap robot. Menurutnya, keduanya diperlukan agar perangkat dapat diterapkan.
Safeworld keluar dari masa pengembangan tertutup dengan mengumumkan pendanaan tahap awal lebih dari US$12 juta. Putaran ini dipimpin Shine Capital dan a16z Speedrun, dengan tambahan investasi dari Box Group, Carnegie Mellon University Endowment, Innovation Endeavors, serta SV Angel.
Baca juga: Trump Dorong Istilah “Super Intelligence”, Komitmen Keselamatan AI Dinilai Lemah
Jonathan Lai, mitra a16z Speedrun, mengatakan kepada TechCrunch bahwa penyusunan standar keselamatan industri perlu dimulai ketika robot masih dirancang dan mulai diterapkan. Menunggu sampai robot berada di rumah-rumah, bertabrakan dengan anak-anak, atau menimbulkan insiden keselamatan akan terlambat. Pernyataan itu menempatkan pengujian sebelum penerapan luas sebagai kebutuhan yang mendesak, bukan sekadar pemeriksaan setelah masalah terjadi.
Simulasi untuk situasi yang sulit diprediksi
Keahlian utama Safeworld adalah mengevaluasi sistem kendali robot melalui simulasi yang diisi model manusia realistis. Pendekatan ini memiliki kemiripan dengan upaya perusahaan seperti Tesla atau Wayve dalam memastikan kendaraan dapat merespons beragam kejadian mengejutkan di jalan. Namun, Zhao menilai pengujian robot lebih rumit karena robot beroperasi di lingkungan yang tidak terstruktur. Setiap fasilitas juga dapat memiliki standar keselamatan yang berbeda.
Kyle Wong memberi contoh sudut pabrik yang tidak terlihat dari posisi robot. Dalam kondisi itu, penguji perlu menentukan kecepatan dan jarak berhenti yang dibutuhkan agar robot tidak menabrak seseorang. Mereka juga harus menguji apakah robot dapat mendeteksi manusia yang sedang membawa kotak. Pertanyaan seperti ini berkaitan langsung dengan bagaimana perangkat bergerak dan mengenali orang di area kerjanya.
Untuk mengujinya, Safeworld akan membuat versi digital dari lokasi yang ingin diperiksa, misalnya sudut pabrik, menggunakan model seperti Genesis atau MuJoCo. Simulasi robot yang sedang dievaluasi kemudian dimasukkan ke dalam lingkungan virtual tersebut dan dijalankan dengan perangkat lunak kendali yang benar-benar digunakan robot. Setelah itu, tim menjalankan ribuan skenario ketika model manusia berinteraksi dengan robot.
Baca juga: AWS Sebut Tak Lagi Gunakan NDA dalam Proyek Pusat Data
Jumlah skenario itu diperlukan karena perilaku manusia tidak selalu mudah ditebak. Wong menyebut tersandung dan terjatuh sebagai salah satu contoh kejadian yang kerap diuji. Simulasi memungkinkan tim melihat respons robot terhadap keadaan tersebut tanpa harus meminta seseorang berulang kali jatuh di hadapan perangkat. Ia menilai cara itu lebih memungkinkan untuk menguji peristiwa semacam ini secara berulang.
Menurut Zhao, perusahaan pembuat robot sebenarnya juga memiliki perangkat pengujian internal yang memiliki kemiripan dengan platform Safeworld. Namun, para pendiri meyakini produsen robot tetap akan membutuhkan pihak ketiga untuk memvalidasi pekerjaan mereka. Validasi eksternal juga dapat membantu perusahaan berbagi informasi mengenai kasus keselamatan, termasuk ketika mereka bersaing satu sama lain.
Zhao memperingatkan bahwa tingkat kesulitan sejumlah kasus khusus masih diremehkan. Perhatian, katanya, bukan hanya robot yang bekerja dalam kondisi terkendali untuk sebuah demonstrasi. Tantangan yang lebih besar muncul ketika robot diterapkan dalam skala luas dan berinteraksi dengan orang-orang yang mungkin belum pernah mengoperasikan robot sebelumnya.
Pengujian pada robot di lokasi kerja
Salah satu perusahaan yang bekerja sama dengan Safeworld adalah Gritt Robotics. Perusahaan itu mengembangkan “otak” AI untuk robot yang saat ini membantu pekerja memasang panel fotovoltaik di ladang tenaga surya berskala industri. Gritt juga ingin agar robotnya kelak dapat mengerjakan tugas konstruksi yang lebih kompleks. Dalam pengembangan simulasi keselamatan, perusahaan tersebut bermitra dengan Safeworld.
Baca juga: Modus Penipuan ChatGPT Arahkan Pengguna Memasang Malware
Vishal Dugar, CTO Gritt Robotics, mengatakan keselamatan sistem mereka sulit dibuktikan secara formal hanya dengan matematika dan persamaan. Menurutnya, sistem perlu diuji secara empiris. Robot Gritt bekerja berdampingan dengan manusia, sehingga memastikan lengan robot tidak mengenai pekerja menjadi perhatian utama. Pembuktian dalam praktik, jelasnya, harus mempertimbangkan berbagai kemungkinan keadaan di lokasi.
Dugar menekankan bahwa manusia memiliki banyak penampilan dan posisi tubuh. Mereka dapat berlutut, berdiri, tersandung, terjatuh, berjongkok, atau berlari. Robot juga perlu menghadapi variasi penampilan manusia, seperti pakaian, ukuran, bentuk tubuh, tinggi badan, dan warna kulit. Beragam perilaku serta ciri tersebut menjadi bagian dari kondisi yang perlu diperhitungkan dalam pengujian.
Safeworld dan penggunaan AI generatif dalam robotika masih berada pada tahap awal. Perusahaan juga belum menetapkan bentuk produk yang paling tepat: platform yang dipakai pengguna eksternal atau model layanan berbasis jasa. Meski demikian, timnya yakin sedang menangani persoalan yang tepat. Zhao memperkirakan Safeworld mungkin menjadi perusahaan pertama yang menguntungkan di bidang ini, karena menurutnya pihak yang ingin menerapkan robot perlu membayar perusahaan untuk menangani situasi keselamatan tersebut.
