Google Buka TorchTPU, Permudah Pengembang PyTorch Beralih dari GPU Nvidia
CIANJUR.CO - Google mengumumkan TorchTPU, versi PyTorch yang telah lama dinantikan, kini tersedia sebagai proyek open source. Perangkat ini memungkinkan aplikasi kecerdasan buatan (AI) yang dibangun dengan PyTorch dijalankan pada chip AI Google, Tensor Processing Units (TPU), sekaligus memudahkan pemindahan aplikasi yang sudah ada ke Google Cloud.
Seperti diberitakan TechCrunch AI, langkah tersebut menempatkan Google bersama Amazon dalam upaya mengurangi dominasi Nvidia di industri AI. Banyak aplikasi AI secara bawaan dibuat untuk berjalan pada chip grafis Nvidia atau GPU. Dengan menyediakan jalur untuk menggunakan perangkat keras alternatif tanpa menulis ulang aplikasi, kedua perusahaan berupaya membuat pengembang lebih leluasa memilih chip dan layanan cloud.
PyTorch menjadi bagian penting dari persoalan itu karena merupakan perangkat pengembangan open source yang populer untuk membangun, melatih, dan menjalankan model AI. Menurut sejumlah perkiraan yang disebut dalam laporan tersebut, PyTorch digunakan oleh 85 persen aplikasi AI. Karena banyak aplikasi dikembangkan dengan perangkat ini, perubahan yang memungkinkan PyTorch bekerja pada chip selain Nvidia berpotensi mempermudah pengembang mencoba pilihan lain.
Baca juga: ChatGPT Hadirkan Locked Chats untuk Mengunci Percakapan
PyTorch pertama kali dikembangkan Meta, yang saat itu masih bernama Facebook, pada 2016. Pengembangannya dimulai jauh sebelum model bahasa besar atau LLM diperkirakan akan mengubah dunia. Pada masa itu, GPU Nvidia sudah menjadi perangkat keras standar untuk riset AI. Akibatnya, banyak fitur PyTorch dirancang agar bekerja secara khusus dengan GPU tersebut. Pada 2022, Meta menyerahkan PyTorch kepada Linux Foundation, organisasi nirlaba yang mengelola berbagai proyek open source penting.
Perpindahan tanpa menulis ulang aplikasi
TorchTPU menjadi jawaban Google untuk membawa aplikasi PyTorch ke Tensor Processing Units miliknya. Google menyebut pengembang dapat memindahkan aplikasi yang sudah ada dengan perubahan konfigurasi sederhana, tanpa harus menulis ulang kode aplikasi. Karena TPU digunakan untuk menjalankan aplikasi tersebut, perpindahan itu juga membuka jalan bagi pengguna untuk memanfaatkan Google Cloud.
Kemudahan migrasi menjadi unsur utama dalam persaingan ini. Pengembang yang telah memiliki aplikasi PyTorch tidak harus membangun ulang aplikasinya hanya untuk mencoba chip dan layanan cloud dari perusahaan lain. TorchTPU dirancang agar proses pemindahan itu dapat dilakukan melalui pengaturan, bukan perubahan menyeluruh pada aplikasi. Dengan demikian, Google menawarkan pilihan selain menjalankan aplikasi pada perangkat keras Nvidia.
Baca juga: Muse Tembus 10,2 Juta Unduhan di AS dalam 40 Hari
Sehari sebelum pengumuman Google, Amazon merilis perangkat serupa bernama TorchNeuron. Alat tersebut memungkinkan aplikasi AI dipindahkan ke Trainium, chip AI yang dikembangkan Amazon sendiri, serta ke layanan cloud AWS tanpa penulisan ulang. Amazon juga mengumumkan langkah di tingkat proyek PyTorch utama: perusahaan itu akan mengirimkan kode yang memisahkan sejumlah fitur PyTorch dari chip Nvidia. Tujuannya, agar perangkat tersebut lebih terbuka secara bawaan untuk berbagai jenis perangkat keras.
Google menyatakan telah bekerja langsung dengan Meta, Hugging Face, Inferact—pembuat vLLM—RadixArk—pembuat SGLang—serta pihak lain. Kerja sama itu ditujukan untuk memastikan fitur dan pustaka kode TorchTPU dapat berfungsi baik bersama perangkat pengembangan AI populer tersebut, sebagaimana PyTorch asli. Keterhubungan dengan alat-alat itu menjadi bagian dari upaya Google agar dukungan TPU tidak hanya berhenti pada kemampuan menjalankan aplikasi, tetapi juga sesuai dengan perangkat yang digunakan pengembang.
Alat tambahan untuk migrasi dan perbaikan
Selain TorchTPU, Google meluncurkan TPU agent suite, seperangkat alat khusus untuk membantu pengembang memindahkan aplikasi ke chip dan layanan cloud Google. Perangkat tersebut juga membantu memperbaiki kesalahan yang muncul selama proses migrasi. Dengan demikian, dukungan Google mencakup tahap pemindahan aplikasi sekaligus penanganan masalah yang ditemukan dalam proses tersebut.
Baca juga: Electric Plant Kembangkan AI untuk Membaca Sinyal Listrik Tanaman
Google turut memperbarui LiteRT, perangkatnya untuk menjalankan AI pada ponsel, laptop, dan perangkat tertanam. Pembaruan itu ditujukan agar LiteRT bekerja lebih baik dengan aplikasi AI berbasis PyTorch. Langkah ini memperluas rangkaian dukungan yang diumumkan Google, dari penggunaan TPU dan Google Cloud hingga kompatibilitas dengan perangkat lunak untuk menjalankan AI pada beragam perangkat.
Meski aplikasi kini lebih mudah dipindahkan ke chip alternatif, hal itu tidak berarti pengembang AI akan langsung meninggalkan perangkat keras Nvidia secara besar-besaran. Laporan TechCrunch AI menekankan bahwa ketersediaan jalur migrasi saja tidak menjamin perpindahan massal. Namun, peluncuran TorchTPU oleh Google dan TorchNeuron oleh Amazon, disertai langkah Amazon mengusulkan perubahan pada proyek PyTorch utama, menunjukkan upaya kedua perusahaan untuk mengikis keunggulan Nvidia dalam ekosistem pengembangan AI.