Amex Siapkan Kerangka untuk Cegah Belanja AI Tanpa Izin
CIANJUR.CO - American Express memperkenalkan kerangka baru untuk memastikan agen kecerdasan buatan (AI) hanya menyelesaikan pembelian yang telah diizinkan oleh penggunanya. Sistem bernama Intent Intelligence Framework ini dirancang menangkap dan mengautentikasi maksud belanja pelanggan sebelum agen menuntaskan transaksi. Langkah tersebut ditujukan untuk mengantisipasi risiko ketika bot AI salah memahami instruksi dan melakukan pembelian yang tidak diminta.
Berdasarkan laporan TechCrunch AI, penggunaan agen AI untuk bertransaksi atas nama pengguna semakin berkembang. Namun, model bahasa besar yang mendasari agen tersebut memiliki sifat nondeterministik, sehingga perilaku bot tidak selalu berjalan sesuai maksud pengguna. Dalam konteks belanja, ketidaksesuaian itu dapat berujung pada transaksi yang tidak diotorisasi dan berpotensi menimbulkan kesalahan atau sengketa.
American Express ingin agar instruksi pelanggan tetap menjadi acuan sepanjang rangkaian transaksi, bukan hanya pada saat agen menerima permintaan awal. Kerangka tersebut diharapkan menjaga keterkaitan antara apa yang diminta pengguna dan tindakan agen, sejak tahap pembelian hingga proses yang mengikutinya. Perusahaan juga berharap pendekatan ini dapat berkembang menjadi standar industri untuk transaksi yang melibatkan AI.
“Transaksi baru ini akan melibatkan konsumen, pedagang, dan agen,” kata Hannah Bozian, Wakil Presiden Agentic Partnerships and Strategy American Express, dalam wawancara dengan TechCrunch. Ia menjelaskan bahwa Amex ingin transaksi berbasis agen tetap “lancar, tepercaya, dan aman” seperti yang diharapkan pemegang kartu. Pernyataan Bozian tersebut menempatkan perlindungan terhadap instruksi pelanggan sebagai bagian penting dari pengalaman transaksi yang melibatkan tiga pihak itu.
Instruksi direkam sebelum pembayaran
Kerangka niat tersebut menjadi bagian dari pengembangan layanan perdagangan berbasis agen yang lebih luas. Pada April, Amex meluncurkan Agentic Commerce Experiences (ACE) Developer Toolkit. Perangkat pengembangan itu mencakup sejumlah layanan, dan kini kerangka niat turut dimasukkan di dalamnya. Dengan demikian, Intent Intelligence Framework bukan layanan yang berdiri terpisah dari ACE, melainkan tambahan dalam perangkat yang disiapkan perusahaan untuk transaksi berbasis agen.
Baca juga: Character.AI Ajukan Kebangkrutan, Sepakati Penjualan Aset kepada Disney
Amex menyatakan belum melihat peningkatan sengketa akibat agentic commerce. Meski begitu, perusahaan memilih membangun teknologi pencegahan sejak dini, seiring kemungkinan transaksi semacam ini meluas. Pertimbangan tersebut juga berkaitan dengan minat konsumen terhadap penggunaan agen AI untuk membantu kegiatan belanja.
Dalam laporan Amex Trendex terbaru, 66 persen konsumen Amerika Serikat yang disurvei mengatakan kemungkinan akan memakai agen AI untuk meneliti harga terbaik bagi produk atau layanan. Sebanyak 61 persen menyatakan kemungkinan menggunakan teknologi itu untuk memperoleh rekomendasi produk atau layanan dalam 12 bulan berikutnya. Angka tersebut disampaikan perusahaan kepada TechCrunch dan menunjukkan dua penggunaan yang ditanyakan dalam survei: membandingkan harga serta mencari rekomendasi.
Proses kerangka baru dimulai dengan Create Intent API. Antarmuka ini menangkap instruksi pembelian pelanggan sekaligus batasan yang disertakan dalam permintaannya. Batasan itu dapat berupa nama pedagang, anggaran maksimum, atau preferensi produk lainnya. Bentuk pengumpulan niat bisa berbeda, bergantung pada model AI yang digunakan. Namun, Bozian mengatakan kerangka tersebut dirancang cukup fleksibel untuk mendukung berbagai model perdagangan berbasis agen.
Setelah instruksi ditangkap, pelanggan mengautentikasi identitasnya dan menyetujui niat belanja yang telah direkam agen. Tahap persetujuan ini menjadi penghubung antara permintaan yang dibuat melalui agen dan transaksi yang hendak dilakukan. Berikutnya, sistem membuat Intent ID, yaitu pengenal unik yang mewakili niat tersebut, serta Proof of Intent Token yang memuat batasan-batasan utama dari pelanggan.
Token itu digunakan untuk memperoleh kredensial pembayaran digital yang aman. Kredensial tersebut dipakai agen ketika melakukan pembayaran, sebagai pengganti nomor kartu kredit pelanggan yang sebenarnya. Menurut Amex, penggunaan kredensial digital membantu menjaga keamanan pembelian sekaligus memastikan transaksi tetap selaras dengan hal-hal yang telah diizinkan pengguna. Dengan rancangan ini, instruksi dan batasan belanja dibawa ke tahap pembayaran, bukan hanya disimpan pada percakapan awal.
Baca juga: Claude Kirim Tip Pembunuhan Palsu ke Polisi saat Pengujian
Pemeriksaan untuk mencegah ketidaksesuaian
Intent ID dan token juga dapat digunakan di beberapa bagian lain dari proses transaksi. Amex menyebut keduanya dapat membantu perusahaan menangani area seperti pencegahan penipuan dan penyelesaian sengketa. Catatan mengenai niat yang telah disetujui memberikan informasi tentang batasan yang berlaku pada transaksi, sementara pengenal unik menghubungkan informasi tersebut dengan maksud pembelian yang direkam.
Bozian mengatakan pendekatan Amex memasukkan niat pengguna lebih awal ke dalam alur transaksi dibandingkan penerapan lain. Menurutnya, pemeriksaan sejak awal dapat membantu mengurangi risiko sebelum risiko itu terjadi. Ia memberi contoh pelanggan yang meminta agen membeli sepatu Nike putih ukuran 9, tetapi agen justru mengajukan pembelian sepatu Adidas. Dalam keadaan seperti itu, Amex dapat mencegah transaksi berlanjut karena permintaan agen tidak sesuai dengan instruksi pelanggan.
Contoh tersebut memperlihatkan fungsi batasan produk dalam kerangka. Nama merek, warna, dan ukuran dapat menjadi bagian dari maksud belanja yang direkam, sehingga sistem memiliki acuan untuk membandingkan permintaan awal dengan barang yang diajukan agen. Amex menyampaikan bahwa tujuan pemeriksaan ini adalah menjaga transaksi tetap berada dalam batas izin yang diberikan pengguna, bukan sekadar memastikan pembayaran dapat diproses.
Bozian juga melihat kemungkinan agen di masa mendatang bertindak lebih mandiri dalam situasi tertentu. Saat ini, banyak agen meminta persetujuan pelanggan sebelum melakukan pembelian. Namun, pengguna dapat memberi izin kepada agen untuk memesan ulang kebutuhan rumah tangga, seperti tisu kertas atau tisu toilet. Untuk kategori tersebut, batasan yang paling penting mungkin hanya harga dan ukuran, bukan pedagang atau merek tertentu.
Baca juga: Meta Luncurkan Muse Wonder, Model Frontier Pertamanya
Dalam skenario pemesanan ulang seperti itu, teknologi tetap dapat melakukan pemeriksaan tambahan untuk memastikan transaksi sesuai dengan maksud pengguna. Artinya, tingkat batasan yang dicatat dapat mengikuti jenis permintaan: sejumlah pembelian mungkin bergantung pada merek atau pedagang, sementara pembelian lain lebih bertumpu pada harga dan ukuran. Bozian menyebut pemeriksaan tersebut relevan ketika agen diberi ruang untuk bertindak lebih otonom.
Catatan mengenai agen yang melakukan transaksi, waktu pemberian izin, dan hal yang disetujui juga berpotensi membantu menangani penipuan yang dilakukan atas nama agen, kata Bozian. Informasi itu melengkapi penggunaan Intent ID dan token dalam pencegahan penipuan serta penyelesaian sengketa, tanpa mengubah prinsip utama kerangka: transaksi harus dapat ditautkan dengan niat yang telah disahkan pelanggan.
Amex saat ini berdiskusi dengan para mitra di ekosistem pembayaran untuk menerapkan ACE. Pembahasan mencakup token agen yang memuat kredensial pembayaran Amex serta bagian lain dari perangkat pengembangan tersebut. Perusahaan menyatakan akan terus mengembangkan ACE seiring perubahan ekosistem perdagangan berbasis agen.
Pada 13 Oktober, Hannah Bozian dijadwalkan membahas Intent Intelligence Framework secara lebih terperinci di Industry Stage dalam acara TechCrunch Disrupt 2026. Agenda itu juga akan membahas arti kerangka tersebut bagi perkembangan perdagangan berbasis agen.