Hambatan yang dihadapi agen AI bukanlah performa model, melainkan izin
Agen AI perusahaan terhenti — bukan karena performa model, namun karena izin. Setiap alur kerja agen pada akhirnya menemui hambatan yang sama: apa yang boleh disentuh oleh agen ini, atas nama siapa, dan bagaimana sistem mengetahuinya? Jawaban Workday adalah menjadikan sistem pencatatan yang ada sebagai lapisan tata kelola bagi agen. Gerrit Kazmaier, presiden produk dan teknologi perusahaan, mengatakan kepada VentureBeat dalam sebuah wawancara bahwa pelanggan sering kali kesulitan ketika mereka menyusun solusi untuk agen mereka. “Sana memastikan integritas persetujuan dan model keamanan selalu dipatuhi,” kata Kazmaier. “Sejujurnya, di situlah kami melihat pelanggan kesulitan ketika mereka mencoba membuat AI do-it-yourself hanya dengan mengakses data mentah, sehingga kekayaan model keamanan hilang, dan hasilnya menjadi terlalu luas.” Workday, yang meluncurkan Sana pada bulan Maret, memperluas kemitraannya dengan Google untuk menghadirkan sistem pencatatan agen Sana ke Gemini Enterprise — sehingga agen yang dibangun di Sana juga dapat ditemukan di sana. Akurasi arsitekturKazmaier mengatakan rintangan terbesar yang mereka hadapi adalah memastikan akurasi agen, terutama untuk HR dan pengguna keuangan. “Hampir benar tidak bisa diterima,” kata Kazmaier. “Pikirkan tentang membayar orang dengan benar, menutup pembukuan, atau mengatur jadwal kerja dengan andal.” Akurasi lebih sulit dievaluasi di sini dibandingkan di sebagian besar konteks AI. Konfigurasi kebijakan, keamanan berbasis peran, dan hierarki organisasi saling terkait satu sama lain — kesalahan kecil bertambah. Dan tidak seperti kebanyakan keluaran AI generatif, pertanyaan tentang SDM dan keuangan sering kali tidak memiliki lingkaran koreksi. Pada saat proses gaji salah atau jadwal wawancara salah, kerusakan sudah terjadi. Workday mengatasi hal ini dengan menjadikan Gemini sebagai lapisan penalaran dasar, lalu menambahkan mesin konteks dan logika proses bisnis di atasnya. Workday juga menambahkan model verifikasi dan klasifikasi yang “menginterogasi” keluaran sebelum dieksekusi. Akurasi dan identitas, ternyata, adalah pertanyaan yang sama: apakah sistem cukup mengetahui tentang agen, manusia yang memberi otorisasi, dan status rekaman saat ini untuk bertindak dengan benar? Keuntungan Workday adalah sistem ini dapat menyimpulkan struktur organisasi pelanggannya dari data yang mereka berikan. Penyedia identitas pihak ketiga seperti Okta sudah memverifikasi informasi mereka dengan memeriksa Workday, sehingga konteksnya adalah sistem pencatatan di banyak perusahaan. Kazmaier mengatakan Agen Layanan Mandiri Sana menggunakan Gemini sebagai permukaan percakapan untuk memicu alur kerja. Pengguna kemudian diautentikasi dan diotorisasi melalui identitas dan model keamanan Workday. Agen Sana hanya akan bertindak atas nama pengguna tersebut dan bekerja sesuai izin mereka saat ini. Jalur audit mengikuti logika yang sama: Gemini hanya menyimpan log interaksi, sedangkan audit utama tetap berada dalam Workday dan pelanggannya. Bagi banyak praktisi di bidang SDM dan keuangan, lapisan izin dan tata kelola dalam sistem pencatatan agen adalah kunci dalam ruang yang diatur. “Itu harus hidup dalam sistem pencatatan, itu bukan preferensi, itu satu-satunya cara kerjanya,” kata Dan Obendorfer, direktur produk di Würk, dalam email ke VentureBeat. “Jika izin Anda ditentukan di luar tempat data sebenarnya berada, Anda sudah kalah.” Kadan Stadelmann, chief technology officer dan salah satu pendiri Compance.AI, menyampaikan hal yang sama secara terpisah. “Tanpa kepemilikan agen, kinerja, biaya atau tindakan, kekacauan akan terjadi.”
Diterbitkan : 2026-05-29 22:27:00
sumber : venturebeat.com
