Integrasi teknologi agentic AI ke dalam fungsi bisnis secara otonom memicu kekhawatiran sistemik terkait potensi kebocoran data sensitif perusahaan ke model bahasa besar (LLM) publik di Jakarta pada Kamis (23/4/2026). Fenomena ini dinilai mengancam kerahasiaan informasi strategis jika tidak disertai sistem proteksi memadai.
Sebagaimana dilansir dari Teknologi, tantangan utama muncul saat perusahaan menghubungkan basis data internal dengan ekosistem kecerdasan buatan pihak ketiga. Risiko ini mencakup penguapan investasi perlindungan data bernilai miliaran dolar akibat interaksi yang tidak terkontrol antara sistem korporasi dan model AI eksternal.
Vice President and CTO Solutions Salesforce ASEAN, Gavin Barfield, menegaskan bahwa aspek keamanan data merupakan risiko eksistensial bagi kelangsungan bisnis. Masalah muncul saat agen AI beroperasi tanpa batasan akses yang jelas antar departemen atau profil pengguna.
Gavin Barfield menjelaskan bahwa manajemen peran serta izin akses sangat krusial dalam operasional teknologi ini. Guna mengatasi kerumitan tersebut, perusahaan memperkenalkan arsitektur pengaman bertajuk Einstein Trust Layer yang memiliki fitur penyamaran data dan deteksi konten berbahaya.
"Karena itu, trust layer yang merupakan hal pertama yang kami bangun sebelum mengembangkan apa pun yang bersifat agentic dibuat untuk menciptakan koneksi yang aman dan terkelola dengan baik antara LLM, lingkungan eksternal, dan data perusahaan yang tepercaya," kata Gavin Barfield, Vice President and CTO Solutions Salesforce ASEAN.
Gavin Barfield menambahkan bahwa manajemen izin akses wajib diwarisi sesuai profil asli pengguna. Hal ini bertujuan untuk memitigasi risiko halusinasi AI serta konten beracun yang dapat berdampak fatal pada sektor kesehatan dan telekomunikasi.
Di sisi lain, kepatuhan terhadap regulasi kedaulatan data nasional masih menjadi pertimbangan utama bagi korporasi di Indonesia. President Director Salesforce Indonesia, Andreas Diantoro, menyampaikan bahwa ketersediaan infrastruktur fisik lokal menjadi solusi atas keraguan tersebut.
Andreas Diantoro mengungkapkan kehadiran pusat data Hyperforce Indonesia telah menarik minat adopsi dari perusahaan besar seperti Indosat Ooredoo Hutchison dan Erajaya. Salesforce juga menerapkan kewajiban kontraktual dengan mitra teknologi seperti OpenAI dan Google Gemini untuk memastikan data pelanggan tidak digunakan untuk melatih model AI mereka.
