Morgan Stanley memangkas separuh tugas rekonsiliasinya yang paling berisiko — dengan menjadikan agen-agennya kurang otonom
Sebagian besar penerapan AI perusahaan sejauh ini berfokus pada asisten pengkodean dan bot layanan pelanggan. Morgan Stanley telah mengerahkan agen-agen di salah satu alur kerja perbankan yang paling kritis terhadap akurasi dan ditentukan oleh tenggat waktu – rekonsiliasi laba dan rugi (P&L) – dan memotong setengah pekerjaan tersebut. Bagian yang berlawanan dengan intuisi: hal ini dicapai dengan membuat sistem menjadi kurang otonom, bukan lebih. Manusia selalu mengikuti perkembangan, dan keputusan mereka secara berulang-ulang diubah menjadi aturan yang dapat diulangi oleh sistem yang dapat diterapkan sendiri. “Ini lebih seperti rekan kerja daripada kopilot,” kata Managing Director Morgan Stanley Todd Johnson pada acara VB AI Impact baru-baru ini. Sistem agen produksi internal, yang dikenal sebagai FIXR, lebih dari sekadar tugas “gen AI 1.0” yang sederhana dan mudah dipahami. “Kami pikir di situlah peluang untuk benar-benar membuka pekerjaan yang lebih kompleks dalam organisasi.”FIXR di balik layarSetiap hari perdagangan, meja perdagangan Morgan Stanley menangani pekerjaan penting seputar transaksi seperti ekuitas tunai atau investasi utang. Dan, pada akhir setiap hari tersebut, para pengendali harus merekonsiliasi laba dan rugi di seluruh sistem Keuangan, Risiko, Operasi, dan Penangkapan Perdagangan raksasa keuangan tersebut. Semua data tersebut harus dikumpulkan, dan, mungkin tidak mengejutkan, ratusan ribu atribut sering kali gagal untuk dicocokkan. Biasanya, ini berarti pengontrol harus menyelidiki secara manual setiap ketidakcocokan (atau “kerusakan”), membuat keputusan mengenai penyesuaian, lalu idealnya menandatangani kontrak sebelum nomor tersebut dimasukkan ke dalam tabel. Dan semua ini sambil mengerjakan tenggat waktu pagi yang berat. Sebelumnya, satu buku bisa memakan waktu hingga enam jam. Kini, FIXR menyelesaikan tugasnya dalam dua hingga tiga jam, kata Johnson. Dari sekitar 100 pengontrol yang melakukan pekerjaan ini, hal ini berarti penghematan sekitar 1.500 jam per minggu. Setelah perhitungan P&L setiap malam selesai, sistem secara otomatis menganalisis “jeda” dan mengusulkan resolusi berdasarkan aturan yang dipelajari. Beberapa agen bekerja sama: Yang satu menafsirkan panduan masa lalu untuk mengembangkan resolusi di awal hari. Yang satu belajar dari perilaku pengontrol dan mendokumentasikan aturan yang diterapkan. Yang satu mengubah pola berulang menjadi logika otomatis yang tahan lama. Seiring waktu, sistem dapat secara otomatis menghapus kerusakan tertentu yang ditemui sebelumnya, menyarankan solusi untuk solusi lain yang mungkin kurang dikenal, meminta bantuan ketika tidak yakin, dan menandai untuk penyelidikan manusia. Ketika suatu permasalahan diselesaikan secara berulang-ulang melalui metode yang sama, maka dapat tercipta aturan yang tegas. Yang terpenting, manusia tidak meninggalkan lingkaran tersebut, namun tetap berada di dalamnya, katanya. Mereka meninjau, menyetujui, atau mengoreksi setiap rekomendasi, lalu memberikan keputusan tersebut kembali untuk meningkatkan proses berikutnya. Agen belajar setiap hari dari pengontrol apa yang benar dan salah dan mengkodifikasikan pengetahuan tersebut saat ia melakukan iterasi. “Anda masih mempertahankan elemen akuntabilitas manusia bahkan ketika Anda mulai melakukan otomatisasi,” kata Johnson. “Seiring waktu, Anda akan melihat semakin banyak permasalahan yang diselesaikan secara otomatis.” Ia menekankan bahwa otonomi membutuhkan kepercayaan yang besar; perusahaan tidak akan melihat peningkatan efisiensi jika semua orang memeriksa segala sesuatu yang dilakukan agen. Putaran umpan balik manusia-agen sangat penting untuk mengatasi tantangan otomatisasi yang terkendali, terukur, dan berulang. “Kami menyadari bahwa semua kecerdasan yang ada dalam pikiran seorang pengendali akan sulit untuk diterapkan sepenuhnya pada seorang agen pada hari pertama,” kata Johnson. Fokus pada proses terlebih dahulu, ekstensibilitasSangat penting untuk menetapkan proses terlebih dahulu, sebelum melibatkan AI, kata Johnson. Timnya menjalankan penilaian kecerdasan proses yang “sangat menyeluruh” yang memetakan dan menggali alur kerja untuk mengidentifikasi di mana otomatisasi akan menjadi yang paling menguntungkan: Apakah agen penjawab, otomatisasi tradisional, atau rekayasa ulang sederhana merupakan langkah yang tidak efisien? “Jika kami dapat memperbaikinya terlebih dahulu sebelum kami menambahkan agen ke dalam masalah ini, maka kami benar-benar akan mengubah peluang tersebut,” katanya. Proses penandatanganan P&L penuh dengan langkah-langkah manual yang cocok untuk otomatisasi, dan agen yang mengambil alih beberapa tugas yang memakan waktu ini membebaskan pengontrol untuk “analisis yang lebih bernilai tambah” dan “pertimbangan risiko yang lebih mendalam”, katanya. Namun, ekstensibilitas sama pentingnya dengan penghematan waktu. Tim Johnson memilih kasus penggunaan rekonsiliasi P&L khusus ini karena ratusan pengontrol melakukan pekerjaan ini secara global di seluruh bisnis (di Amerika, Eropa, Asia). Jadi, mulailah dengan sebuah kasus penggunaan, buktikan, kembangkan, “dan pada akhirnya transformasi akan terjadi ketika kami menerapkan hal ini lebih banyak lagi di seluruh organisasi,” kata Johnson. Desainnya deterministik, Johnson mengatakan tim juga sengaja membatasi seberapa besar alur kerja bergantung pada penilaian model. “Jika Anda mempunyai kesempatan untuk membuat sesuatu menjadi sangat ditentukan dan dapat diulang, hal ini akan lebih murah dalam hal konsumsi token, lebih dapat diulang dalam hal kontrol – dan biarkan LLM melakukan hal-hal yang tidak memerlukan alur kerja deterministik seperti itu,” katanya. Ketika sistem melihat lebih banyak umpan balik pengontrol pada tipe pemutusan tertentu, Morgan Stanley mengubah pola tersebut menjadi aturan tetap, bukan menyerahkannya pada model. Manusia masih memiliki perilaku tersebut. Pertanyaan menarik (dan mungkin mendasar) yang muncul pada awal era agen adalah: Apakah kode agen atau karyawan digital? Johnson berargumen bahwa “mereka mungkin merupakan bagian dari keduanya,” dan, oleh karena itu, memerlukan perbedaan dalam hal tata kelola dan pengawasan. Tim teknis tetap harus bertanggung jawab untuk menjaga perlindungan dan pagar pembatas seperti firewall atau enkripsi, misalnya. Namun ada dinamika baru seputar “elemen kinerja”: Manusia yang menggunakan agen bertanggung jawab atas elemen tersebut karena hal tersebut membantu pekerjaan bisnis mereka. Misalnya, jika pengontrol senior bekerja dengan pengontrol junior, mereka tidak melepaskan tanggung jawab begitu saja karena ada yang membantu mereka, kata Johnson. “Salah satu prinsip kuat kami dalam tata kelola AI secara umum adalah harus selalu ada akuntabilitas manusia, bahkan jika ada otomatisasi pada tingkat tertentu,” katanya. Namun biasanya tidak ada “satu orang”, dan proses ini pada akhirnya berkesinambungan. Hingga saat ini, Johnson bercanda bahwa satu hal yang “menyedihkan” tentang AI agen adalah bahwa hal itu memerlukan pelatihan berkelanjutan karena modelnya selalu berubah. “Anda tidak akan pernah bisa berkata: ‘Kita sudah melakukan semua evaluasi dan pengujian yang perlu kita lakukan. Biarkan saja.’ Anda harus memiliki pandangan yang konstan seiring perkembangannya dari waktu ke waktu.”Morgan Stanley bertujuan untuk mengatasi permasalahan perusahaan yang sebenarnya. Pengalaman Morgan Stanley mencerminkan pola yang telah ditemukan VentureBeat di seluruh penerapan AI perusahaan. Dalam survei VB Pulse yang dilakukan VentureBeat baru-baru ini, hampir tiga perempat responden melaporkan bahwa mereka hanya melihat sedikit atau bahkan tidak ada ROI dari penyempurnaan model khusus, menggambarkan “kuburan kotak pasir” proyek AI yang terbukti terlalu mahal untuk pemeliharaannya. Hal ini menunjukkan bahwa pendekatan Morgan Stanley yang mengutamakan proses, membeli dan memadukan mungkin lebih berkelanjutan dibandingkan mengejar model yang dipesan lebih dahulu. Survei ini melibatkan 87 responden dan temuannya harus dianggap terarah. Tata kelola muncul sebagai tantangan umum lainnya: 38% responden menyebutkan kurangnya satu pemilik yang akuntabel sebagai hambatan terbesar mereka terhadap produksi AI, sementara hanya dua dari 87 perusahaan yang disurvei memiliki pemantauan dan peringatan aktif untuk mendeteksi kegagalan model.
Diterbitkan : 2026-06-30 22:23:00
sumber : venturebeat.com
