Wall Street sedang memperdebatkan pengembangan AI. Perusahaan baru saja menjawab: 86% mengatakan GPU mereka berjalan dengan kapasitas setengah atau kurang
Perusahaan-perusahaan enterprise lebih mengutamakan pengendalian yang diperlukan untuk mengelola agen AI — dan mereka menerapkan hal tersebut dengan sengaja. Hal ini merupakan temuan utama dari survei VentureBeat Research pada bulan Juni terhadap 573 pemimpin teknis di perusahaan dengan 100 karyawan atau lebih, yang dilakukan dalam lima survei paralel tumpukan agen. Perusahaan kini melakukan retrofit untuk mengejar standar mereka sendiri, dan mereka menganggarkan dana untuk hal tersebut: Sekitar enam dari 10 perusahaan berencana untuk berpindah atau menambah vendor di masing-masing lima lapisan kontrol dalam 12 bulan ke depan, dan sekitar sepertiga – tergantung pada lapisan tersebut – berencana untuk berpindah dalam kuartal ini, demikian temuan penelitian. Ada lima lapisan utama di mana perusahaan sedang membangun: identitas untuk agen (agen mana yang diperbolehkan melakukan apa, di bawah mandat siapa); evaluasi keluaran agen (apakah pekerjaannya bagus); telemetri biaya (biaya yang harus dikeluarkan setiap agen); lapisan konteks (data bisnis dan agen definisi menggunakannya untuk menjawab); dan bidang kendali orkestrasi (perangkat lunak yang mengoordinasikan pekerjaan agen multi-langkah). Perusahaan sudah menanggung akibatnya jika menggunakan agen sebelum fungsi kendali dapat memadai. Lima puluh empat persen perusahaan pernah mengalami insiden keamanan agen atau kejadian nyaris celaka dalam 12 bulan terakhir. Dua puluh tujuh persen hanya melakukan kontrol reaktif atas pembelanjaan agen — mereka mengetahui berapa biaya agen ketika faktur tiba, tanpa anggaran atau batas atas per agen. Tentang data573 responden di organisasi dengan 100+ karyawan, dalam lima survei yang dilakukan pada bulan Juni 2026:101 orkestrasi · 157 keandalan/evaluasi · 107 keamanan/identitas · 107 infra/komputasi · 101 sampel konteks/RAGS dipilih sendiri; membaca temuan secara terarah. Percayai pola tersebut dibandingkan dengan persentase pastinya — setiap survei, secara independen, menunjukkan hal yang sama, dengan penerapan yang berjalan lebih dulu daripada tata kelola, visibilitas, dan pengendalian biaya. Laporan lengkap di VB Transform, 14-15 Juli di Menlo Park → Berikut adalah lima temuan yang memperkuat rangkaian tersebut — satu temuan per lapisan tumpukan teknologi — dan apa yang disarankan oleh data untuk dilakukan pertama kali pada masing-masing survei. Perangkat keras yang mahal menganggur: 86% operator GPU melaporkan pemanfaatan 50% atau kurangDelapan puluh enam persen perusahaan yang menjalankan GPU mereka sendiri melaporkan pemanfaatan 50% atau kurang. Wall Street menghabiskan kuartal ini untuk memperdebatkan apakah pembangunan AI terlalu berlebihan. Ini adalah pengukuran sisi beli, dari perusahaan yang melakukan pembelian, dan penelitian menunjukkan bahwa perangkat keras termahal di gedung-gedung perusahaan tersebut hanya beroperasi dengan kapasitas tidak lebih dari setengah kapasitasnya. Kesenjangan pengukuran memperparah hal tersebut: Sebanyak 44% dari kelompok minoritas secara cermat melacak berapa biaya dan keuntungan komputasi AI mereka. Semua orang hanya memperkirakan. Dan proses belanja perusahaan terus berlanjut: 45% dari perusahaan-perusahaan ini mengatakan bahwa opsi komputasi baru yang kemungkinan besar akan mereka evaluasi dalam 12 bulan ke depan adalah cloud khusus AI (CoreWeave, Lambda, Crusoe, Nebius). Namun, saat ini kurang dari 2% dari perusahaan tersebut melaporkan menggunakan salah satu dari neocloud tersebut. Selain itu, sekitar satu dari tiga perusahaan tampaknya mempertimbangkan untuk melakukan lindung nilai terhadap Nvidia: Ketika ditanya opsi komputasi mana yang paling mungkin mereka evaluasi dalam 12 bulan ke depan, 32% perusahaan menyebutkan akselerator non-Nvidia (AWS Trainium, Google TPU, AMD), sementara 28% menyebutkan GPU Nvidia generasi berikutnya. Data menunjukkan bahwa perusahaan harus mengukur pemanfaatan dan biaya per beban kerja dari GPU yang mereka miliki sebelum mengalokasikan anggaran untuk komputasi baru — baik itu kontrak cloud khusus AI, akselerator baru, atau lebih banyak GPU. Sebagian besar “agen” yang dikerahkan melakukan pekerjaan dengan cepat: 71% mengatakan seperempat atau kurang menyelesaikan tugas multi-langkah sendiri. Tujuh puluh satu persen perusahaan mengatakan seperempat atau kurang dari “agen” yang dikerahkan dapat menyelesaikan pekerjaan multi-langkah sendiri; sisanya adalah chatbot sekali pakai. Hanya 10% yang mengatakan bahwa agen sejati adalah mayoritas dari apa yang mereka jalankan. Yang pasti, para responden melaporkan bahwa mereka mampu mengetahui hal-hal berikut: 81% mengatakan mereka merekomendasikan atau memutuskan pembelian AI di perusahaan mereka. Temuan tersebut – bahwa sebagian besar agen sebenarnya hanyalah chatbots – berada di tengah klaim adopsi di seluruh industri yang berjalan jauh lebih maju dari apa yang sebenarnya dijalankan oleh perusahaan. Gartner memperkirakan 40% aplikasi perusahaan akan terintegrasi dengan agen AI khusus tugas pada akhir tahun 2026, naik dari kurang dari 5% pada tahun 2025. Gartner juga memperingatkan bahwa kesalahpahaman paling umum adalah menyebut asisten AI ini sebagai agen, kesalahpahaman yang dikenal sebagai “agentwashing”. Sementara itu, survei perusahaan Zapier mengatakan 72% melaporkan menerapkan atau menguji agen otonom; dan survei Writer pada tahun 2026 menunjukkan bahwa 97% eksekutif mengatakan perusahaan mereka menerapkan agen AI pada tahun lalu. Survei tersebut menanyakan apakah perusahaan telah menerapkan sesuatu yang disebut agen AI, dan perusahaan menjawab ya. Survei kami mengajukan pertanyaan yang lebih sulit kepada orang-orang yang menjalankan penerapan tersebut: Dari agen yang Anda miliki dalam produksi, berapa banyak yang dapat menyelesaikan tugas multi-langkah tanpa ada orang yang mengendalikan setiap langkahnya? Kesenjangan ini penting karena dua alasan praktis. Pertama, angka adopsi yang meningkat merupakan acuan yang digunakan oleh dewan dan vendor untuk menekan para pemimpin teknis agar bergerak lebih cepat – dan data ini menunjukkan bahwa batasan sebenarnya jauh lebih rendah daripada yang diberitakan dalam berita utama. Kedua, label menentukan tagihannya: Chatbot satu kali dengan manusia yang membaca setiap jawaban tidak memerlukan identitas, evaluasi, dan pengendalian biaya yang tercakup dalam laporan ini, sedangkan agen multi-langkah yang sebenarnya memerlukan semuanya. 66% membiarkan agen mendorong produksi hanya dengan evaluasi otomatis — atau melakukan rekayasa ke arah itu. 5% sepenuhnya mempercayai evaluasi tersebut. Dua pertiga perusahaan termasuk dalam salah satu dari dua kubu: 34% sudah mengizinkan agen AI untuk memasukkan perubahan kode atau sistem ke produksi berdasarkan hasil evaluasi otomatis saja, tanpa ada manusia yang meninjaunya, dan 33% lainnya secara aktif merekayasa jalur pipa mereka untuk memungkinkan hal tersebut dalam 12 bulan ke depan. Hanya lima persen yang sepenuhnya percaya pada evaluasi otomatis yang akan mengambil keputusan tersebut. Ketidakpercayaan pun timbul. Setengah dari perusahaan mengirimkan agen yang lulus evaluasi internal dan kemudian menyebabkan kegagalan dalam menghadapi pelanggan pada tahun lalu; seperempatnya menyaksikan hal itu terjadi lebih dari sekali. Saat diminta menyebutkan kelemahan terbesar dalam evaluasi mereka saat ini, lebih banyak perusahaan yang memilih “penyelarasan yang buruk dengan hasil di dunia nyata” dibandingkan jawaban lainnya — 29% responden. Dan sebagian besar pemeriksaan dilakukan sebelum agen mengirim, lalu berhenti. Ketika agen langsung berinteraksi dengan pengguna sebenarnya, hanya 23% perusahaan yang melakukan pemeriksaan kualitas secara real-time terhadap jawaban yang dihasilkan agen tersebut. Sebanyak 51% lainnya hanya memantau kesehatan sistem — waktu aktif, jejak permintaan, dan log gateway — yang memberi tahu mereka bahwa agen sedang berjalan, dan tidak mengetahui apakah jawabannya benar. Langkah pertama: Sebelum menghapus tinjauan manusia dari alur kerja apa pun, uji evaluasi Anda berdasarkan hasil produksi, bukan tolok ukur internal, dan kualitas jawaban instrumen, bukan hanya waktu aktif. Temuan ini dieksplorasi secara lebih mendalam dalam liputan terkait kesenjangan evaluasi yang dilakukan VentureBeat, yang menemukan bahwa perusahaan-perusahaan besar bergerak lebih cepat menuju penerapan tanpa manusia dan juga lebih sering mengalami kegagalan — dan menguraikan kerangka pengujian regresi yang dibangun berdasarkan hasil produksi, bukan tolok ukur internal. 69% menjalankan pembagian kredensial agen di suatu tempat di armada agen — dan perusahaan-perusahaan tersebut jauh lebih sering terkena serangan. Enam puluh sembilan persen perusahaan mengizinkan pembagian kredensial agen di suatu tempat di armada agen mereka selama runtime – yang berarti beberapa agen beroperasi di bawah satu kunci API atau akun layanan. Perusahaan-perusahaan tersebut jauh lebih mungkin terkena dampak: Organisasi dengan pembagian kredensial di mana pun dalam armadanya mengalami insiden keamanan atau nyaris celaka dengan tingkat 63,5% (47 dari 74), dibandingkan 40,9% (9 dari 22) ketika setiap agen memiliki cakupan identitasnya sendiri. Hal yang bisa diambil oleh perusahaan adalah: Berikan setiap agen cakupan identitasnya masing-masing, dimulai dengan agen yang berhubungan dengan sistem produksi. 57% menelusuri jawaban agen yang salah dan percaya diri terhadap konteks bisnis mereka yang tidak ada atau tidak konsisten. Lima puluh tujuh persen perusahaan menelusuri setidaknya satu jawaban agen yang salah dan yakin dalam enam bulan terakhir ke konteks bisnis yang tidak ada atau tidak konsisten: metrik yang salah, definisi yang sudah kadaluwarsa, dan dokumen yang tidak ada. Sebagian besar dari mereka menyaksikan hal ini terjadi lebih dari sekali. Sebagian besar perusahaan sedang memperbaiki hal ini, meskipun mereka telah bergerak maju dengan penerapan agen: 25% sudah menjalankan lapisan semantik yang diatur, atau satu definisi bisnis yang diatur yang menjadi dasar pembacaan setiap AI, dalam produksi. Namun, 34% masih membangunnya, dan 41% belum memulainya. Kesimpulannya: Atur definisi, metrik, dan entitas jawaban agen Anda terlebih dahulu, sebelum menskalakan agen yang bergantung padanya. Kuartal di mana “portabilitas” teknologi agen menjadi prioritas Satu perubahan lagi layak dilaporkan dengan batas-batasnya dinyatakan dengan jelas. Dalam gelombang survei orkestrasi musim semi kami, kekhawatiran utama tentang orkestrasi yang dikontrol penyedia adalah batas keamanan dan izin (32%). Pada bulan Juni, vendor lock-in memimpin sekitar sepertiga, dengan batas keamanan sebesar 28%. Itu adalah dua gambaran yang berjarak seperempat, dan inilah salah satu penjelasan mengapa portabilitas menjadi isu utama bagi perusahaan. Survei bulan Juni kami diluncurkan ke pasar setelah pesanan ekspor Departemen Perdagangan AS tanggal 12 Juni membuat Claude Fable 5 dari Anthropic offline untuk perusahaan selama kurang lebih tiga minggu. Sementara itu, perusahaan Tiongkok Z.ai merilis anak timbangan terbuka GLM-5.2 di bawah lisensi MIT pada tanggal 16 Juni dengan harga sekitar seperenam dari harga GPT-5.5; dan Hy3 Tencent tiba pada 6 Juli di bawah Apache 2.0; dan OpenAI mempratinjau GPT-5.6 pada tanggal 26 Juni kepada sekelompok kecil mitra yang diperiksa oleh pemerintah, dan membukanya secara luas pada tanggal 9 Juli setelah tinjauan pemerintah selesai. Rilisan open-weight khususnya menjanjikan kontrol yang lebih besar kepada perusahaan atas agen mereka, dan meskipun kami belum menetapkan hubungan sebab akibat di sini, waktunya patut untuk diperhatikan. Data postur tersebut sesuai dengan kondisi yang ada: 51% kini memperkirakan bidang kendali utama mereka untuk agen perusahaan adalah hybrid — penyedia-asli ditambah orkestrasi eksternal — pada akhir tahun 2026, naik dari 34% pada gelombang survei musim semi. Perusahaan yang melaporkan bahwa mereka hanya mengandalkan layanan agen yang dikelola penyedia turun dari 12% menjadi 7%.Lima lapisan, tidak ada pemain lama, 12 bulan Sintesis dari kelima survei menunjukkan jendela “pembelian” yang sangat besar. Di masing-masing dari lima lapisan kontrol, 57% hingga 64% perusahaan berencana untuk berpindah atau menambah vendor dalam waktu 12 bulan — 64% di bidang infrastruktur dan evaluasi, 59% di bidang keamanan agen, 57% di bidang pengambilan dan konteks — dan 26% hingga 38%, bergantung pada lapisannya, berencana untuk pindah dalam waktu seperempat. Tidak ada lapisan yang memiliki pemegang jabatan: Alat evaluasi yang paling umum adalah eval bawaan penyedia model, yang diikat tanpa alat khusus sama sekali (masing-masing 17%); 82% responden menyebut kontrol asli penyedia atau hyperscaler sebagai lapisan keamanan agen utama mereka; dan pengambilan asli penyedia juga memimpin lapisan teknologi konteks (RAG, dll). Saat ini, sebagian besar perusahaan sudah menggunakan alat bawaan yang dikirimkan bersama platform AI besar yang sudah mereka gunakan: Anthropic, OpenAI, Google, Microsoft, dan AWS. Hal ini berlaku di setiap lapisan teknologi agen ini: perusahaan mencari penyedia cloud dan model utama mereka untuk menyediakan solusi pagar pembatas, evaluasi, dan pengambilan yang sudah disertakan dalam penawaran penyedia tersebut. Default tersebut unggul dalam hal kenyamanan, dan hal ini juga merupakan hal yang akan diuji oleh keputusan belanja mendatang. Survei ini tidak menanyakan ke arah mana uang bergerak – ke arah alat yang ada di dalam platform atau ke arah para spesialis yang menantang mereka – itulah sebabnya setiap kontrak dalam lima lapisan ini layak untuk diperhatikan selama empat kuartal ke depan. Gelombang survei Q3 akan mengukur apakah perusahaan berhasil dalam rencana anggaran ini: apakah agen mereka memperoleh cakupan identitas, apakah evaluasi diuji terhadap hasil produksi, apakah pemanfaatan GPU meningkat, dan apakah lapisan semantik yang sedang dibangun berhasil. VentureBeat akan merilis laporan Q2 lengkap di kelima pelacak VB Pulse di VB Transform, 14-15 Juli di Hotel Nia di Menlo Park, tempat kami mengumpulkan para pemimpin teknis perusahaan yang membangun agen otonom dalam produksi. Pengungkapan: VentureBeat menghasilkan penelitian ini dan VB Transform
Diterbitkan : 2026-07-10 19:29:00
sumber : venturebeat.com
