Ketahanan digital bertambah ketika AI dan keahlian manusia ditingkatkan secara bersamaan
Dipersembahkan oleh Splunk Agentic AI membuat tim TI dan keamanan jauh lebih efisien. Namun hal ini juga menghapuskan proses magang yang telah lama menghasilkan operator berpengalaman. Ketika organisasi mengotomatiskan lebih banyak pekerjaan yang pernah dilakukan oleh analis dan insinyur junior, mereka menghadapi tantangan yang sama besarnya dengan desain tenaga kerja dan desain arsitektur: bagaimana membangun generasi ahli berikutnya ketika AI menangani pekerjaan yang pernah melatih mereka. Apa yang telah dilakukan oleh tenaga kerja junior Selama dua dekade, jalan untuk menjadi analis SecOps, SRE, atau insinyur NetOps kelas dunia harus melalui pengulangan. Melakukan triaging terhadap kesalahan positif. Berburu melalui dasbor untuk mencari konteks. Membaca log pada jam 2 pagi ternyata tidak berbahaya. Industri memperlakukan pekerjaan ini sebagai pekerjaan yang membosankan, dan dalam banyak hal memang demikian. Namun, pekerjaan ini juga berfungsi sebagai pemagangan. Ribuan jam yang dihabiskan seorang analis untuk mengamati pola lalu lintas membangun intuisi yang menjadikannya sangat berharga ketika serangan nyata tiba. Intuisi tersebut tidak diajarkan dalam satu kursus atau dituangkan dalam runbook. Itu diakumulasikan melalui paparan, pengenalan pola, kegagalan, dan eskalasi. Seiring berjalannya waktu, inilah cara orang memperoleh pengalaman analitis yang mendalam. Namun, AI agen kini mulai mengotomatiskan tugas-tugas yang pernah menjadi tempat pelatihan keahlian tersebut. Itu bukan alasan untuk memperlambat. Pekerjaan yang membosankan itu memakan biaya. Kelelahan itu nyata. Organisasi harus menggunakan agen untuk mengurangi kerja keras di mana pun mereka bisa. Pada saat yang sama, ketika kita menghapus lingkaran pemagangan, kita perlu memberikan operator sesuatu yang lebih baik sebagai penggantinya. Cara organisasi menangani masalah ini saat ini akan menentukan pemenang di masa depan. Organisasi yang melakukan pendekatan ini dengan sengaja akan menghasilkan operator yang terampil untuk berhasil dalam dekade berikutnya. Organisasi yang menerapkan hal ini mungkin saat ini mempunyai sistem yang lebih cepat, namun dengan lebih sedikit orang yang memahami sistem tersebut secara mendalam untuk mengatur sistemnya di masa depan. Ketika otomatisasi menghilangkan akuntabilitas, ada juga dimensi kedua dalam pembahasan ini yang kurang mendapat perhatian dari yang seharusnya. Dalam lingkungan yang diatur, pemagangan yang membosankan merupakan bagian dari lapisan akuntabilitas. Kerangka kerja mulai dari SOX hingga PCI DSS hingga HIPAA hingga NIS2 mengasumsikan adanya rantai penilaian manusia di balik keputusan pengendalian. Auditor tidak mewawancarai model. Mereka mewawancarai orang-orang yang dapat menjelaskan mengapa suatu sistem melakukan hal tersebut, mengapa keputusan tersebut tepat, dan apakah pengendalian yang tepat sudah diterapkan. Ketika populasi profesional yang dapat menjelaskan rantai tersebut mulai menipis, risiko mungkin tidak segera muncul. Kontrolnya mungkin masih lolos. Alur kerja mungkin masih dijalankan. Dasbornya mungkin masih terlihat hijau. Namun memori organisasi yang mendasarinya mulai melemah. Ini bukan sekadar masalah peralatan. Ini juga merupakan masalah keterampilan dan desain tenaga kerja. Dan bagi organisasi yang bergerak cepat dalam adopsi agen, risikonya lebih besar dari yang diperkirakan banyak orang. Membangun keahlian manusia untuk mengatur AI Ketika kita kehilangan sebagian lapisan akuntabilitas karena agen, manusia akan mengambil peran tata kelola yang berbeda. Mengatur sistem agen berarti menerapkan pagar pembatas otomatis yang beradaptasi dengan perilaku agen non-deterministik dan memastikan agen berperilaku tepat dalam kondisi yang tidak diantisipasi sepenuhnya oleh siapa pun. Hal ini berarti merancang kriteria eskalasi yang menangkap anomali yang tepat tanpa membuat manusia kewalahan dengan anomali yang salah. Hal ini berarti menerapkan alat, peringatan, dan proses dinamis untuk meninjau keputusan mesin guna mendeteksi penyimpangan, bias, dan kegagalan penalaran yang tidak dapat diungkapkan oleh kasus individual. Kemampuan untuk mengevaluasi dan merespons pengecualian ini memerlukan penilaian yang dibangun berdasarkan pengalaman bertahun-tahun, mempelajari pengenalan pola yang biasa dihasilkan oleh model pemagangan lama. Itulah sebabnya pertanyaan tenaga kerja dan pertanyaan arsitektur sekarang menjadi pertanyaan yang sama. Jika kita mengharapkan manusia untuk mengatur sistem yang semakin otonom, kita memerlukan jalur yang dapat membantu manusia mengelola skala dan kecepatan sistem AI sekaligus membangun intuisi dan penilaian pada operator manusia yang diperlukan untuk melakukan pekerjaan tersebut. Di era AI, platform yang paling berharga tidak akan hanya mengotomatisasi sebagian besar tugas. Hal ini akan membantu manusia menjadi lebih berkemampuan, lebih kredibel, dan lebih penting seiring dengan semakin cepat dan cerdasnya sistem di sekitar mereka. Hal ini berarti organisasi perlu berinvestasi dalam ekosistem penuh keahlian bagi para operator: komunitas yang menyebarkan praktik bersama, sertifikasi atau bukti lain yang membuat keahlian terlihat, dan penjelasan serta verifikasi yang berorientasi pada manusia dalam AI serta jalur pembelajaran yang membangun kemampuan. Pemberdayaan adalah pilihan desain arsitektur. Pemberdayaan manusia adalah bagian penting dari pembicaraan seputar penggunaan praktis AI. Namun, tanpa strategi yang disengaja untuk mendukung hal ini, hal ini berisiko menjadi ungkapan yang tidak berarti apa-apa karena bisa berarti apa saja. Pemberdayaan sistem agen tidak bisa hanya menjadi persyaratan konseptual. Ini harus berupa serangkaian pilihan desain yang dimasukkan ke dalam bagaimana sistem berperilaku. Sistem agen yang memberdayakan operator manusia dan mengembangkan keterampilan profesional mereka akan melakukan empat hal:1. Mengekspos penalaran, dengan silsilah data di baliknya. Setiap rekomendasi yang dibuat agen harus dapat ditelusuri ke data yang dipertimbangkan, logika yang diterapkan, dan asal masukan yang digunakan. Operator yang dapat melihat alasan mengembangkan penilaian tentang kapan harus memercayainya. Operator hanya menyerahkan kesimpulan tidak.2. Tingkatan otoritas berdasarkan keyakinan dan dampak Pola yang umum dan berisiko rendah dapat ditangani secara mandiri. Situasi atau tindakan baru dengan radius ledakan yang berarti akan meningkat secara otomatis. Batasannya harus jelas dan dapat dikonfigurasi oleh tim yang memiliki konsekuensi.3. Memperlakukan ketidaksepakatan sebagai sinyal koreksi Ketika seorang insinyur yang berpengalaman mengesampingkan seorang agen, mereka melakukan lebih dari sekedar ketidaksepakatan. Mereka mengoreksi sistem dengan penilaian yang tidak dimiliki model: ketergantungan yang rapuh, keunikan dalam lingkungan, kendala yang tidak pernah terlihat pada data. Sebuah sistem yang mencatat override tetapi mengabaikan alasan di baliknya tidak akan belajar apa pun dari saat manusia mengetahui lebih baik.4. Menangkap resolusi sebagai pengetahuan lintas domain. Bagaimana sebuah insiden diselesaikan adalah sebuah pelajaran yang jarang bertahan dalam satu jalur. Insiden SecOps dapat mengungkap kelemahan ITOps. Masalah jaringan mungkin disebabkan oleh dampak bisnis. Ketika koneksi itu hanya ada di dalam tiket tertutup, tim berikutnya yang mencapainya mulai dari nol. Resolusi harus menyebar ke seluruh wilayah, tidak berhenti di tempat pembuatannya. Ini bukanlah kualitas aspirasional. Itu adalah kemampuan produk yang dapat diuji. Para pemimpin yang mengevaluasi sistem agen harus dapat mengidentifikasi di mana kemampuan ini berada, apa yang terjadi jika kemampuan tersebut gagal, dan apakah keterampilan operator meningkat setelah diterapkan. Keuntungan berikutnya adalah ketika manusia dan AI dapat diskalakan bersama-sama Agar sistem AI menjadi praktis, tepercaya, dan berfungsi sesuai skala, titik desain yang penting adalah agar AI dapat bekerja secara mendalam bersama dan memberdayakan operator manusia. Oleh karena itu, era agen bukanlah sebuah cerita tentang penggantian manusia. Ini adalah kisah tentang mendesain ulang sistem yang dioperasikan manusia sehingga operasi ini dapat terjadi pada kecepatan dan skala mesin, sementara keahlian manusia berkembang pada saat yang bersamaan. Bersama-sama, bukan dengan mengorbankan satu sama lain. Hasil tersebut tidak bisa dipastikan. Hal ini hanya akan terjadi jika para pemimpin menganggap pengembangan operator sebagai prioritas, bukan sekedar renungan. Untuk mencapai hal ini, sistem agen harus sengaja dirancang untuk mengungkap penalaran, menangkap pembelajaran, dan mengarahkan pekerjaan kembali ke manusia dengan cara yang membangun keterampilan dan karier, bukan mengikis keduanya. Agen akan semakin pintar dan cepat. Kemampuan operator yang bekerja sama dengan mereka untuk belajar dan tumbuh secara bersamaan, akan menentukan apakah ketahanan digital dekade berikutnya benar-benar merupakan milik organisasi, atau sesuatu yang mereka sewa dari keahlian yang kian berkurang. Pelajari lebih lanjut tentang bagaimana Cisco Data Fabric yang didukung oleh Platform Splunk membantu tim mempercepat operasi agen. Kamal Hathi adalah SVP dan GM Splunk, sebuah Perusahaan Cisco. Artikel bersponsor adalah konten yang diproduksi oleh perusahaan yang membayar postingan tersebut atau memiliki hubungan bisnis dengan VentureBeat, dan artikel tersebut selalu ditandai dengan jelas. Untuk informasi lebih lanjut, hubungi sales@venturebeat.com.
Diterbitkan : 2026-07-01 12:00:00
sumber : venturebeat.com
