AI telah menutup jendela respons dunia maya – ketahanan kini dimulai sebelum serangan terjadi
Disampaikan oleh RubrikKeamanan siber perusahaan menghadapi masalah kecepatan yang mendasar. Model AI Frontier kini memungkinkan serangan otonom yang dapat berpindah dari akses awal hingga terobosan sistem penuh hanya dalam 27 detik. Hal ini lebih cepat dibandingkan dengan alur kerja keamanan yang dapat dideteksi, ditingkatkan, dan direspon oleh alur kerja keamanan apa pun yang dioperasikan oleh manusia. Akibatnya, operasi keamanan tidak dapat lagi berasumsi bahwa manusia memiliki waktu untuk merespons antara pelanggaran dan kerusakan. Postur keamanan yang dibutuhkan perusahaan di era AI berpusat pada ketahanan siber: terus-menerus mengidentifikasi kondisi pemulihan yang bersih, memetakan ketergantungan data dan identitas yang penting, dan mengotomatiskan pemulihan sehingga operasi dapat pulih dalam hitungan jam, bukan hari. dari serangan tersebut,” kata Dev Rishi, GM AI di Rubrik. “Jika serangan terjadi dalam 27 detik, itu berarti saya memerlukan pemulihan yang terjadi secepatnya.”Deteksi dan pencegahan tradisional gagal melawan serangan berbasis AILogika berbasis aturan yang telah mendefinisikan keamanan perusahaan selama beberapa dekade, seperti kontrol akses statis, deteksi tanda tangan yang diketahui, dan kebijakan perilaku deterministik, dirancang untuk perangkat lunak deterministik. Agen AI berperilaku berbeda. Mereka bersifat non-deterministik, mampu mengejar tujuan yang sama melalui banyak jalur berbeda, dan semakin mampu menghindari pagar pembatas statis dengan mencari rute alternatif ketika ada rute yang diblokir. Masalah yang lebih dalam adalah logika keamanan konvensional memeriksa identitas, izin, dan akses, dan menanyakan apakah setiap akses individu diizinkan. Namun sistem ini tidak dapat mengevaluasi apakah rangkaian tindakan yang diizinkan, yang dilakukan pada beberapa aplikasi, merupakan kebocoran data, operasi destruktif, atau serangan. “Anda memerlukan sistem yang dapat memahami konteks,” kata Rishi. “Anda perlu menggunakan AI untuk melihat apa yang dilakukan agen dan berkata, ‘sepertinya apa yang Anda lakukan mungkin berisiko membocorkan data sensitif secara eksternal.'” Bagaimana agen AI mengaburkan batas antara ancaman siber internal dan eksternalKeamanan perusahaan secara historis mempertahankan perbedaan yang berarti antara vektor ancaman eksternal dan internal. Ancaman eksternal bisa bersifat multidimensi, secepat kilat, dan datang dari berbagai vektor. Di sisi lain, ancaman internal biasanya dibatasi oleh apa yang dapat dicapai oleh satu aktor manusia sebelum terdeteksi, dibatasi dalam kecepatan, cakupan, dan skala, namun perbedaan tersebut menjadi berantakan ketika agen AI beroperasi di dalam lingkungan perusahaan. Agen-agen ini memiliki akses ke beberapa sistem secara bersamaan dan bergerak dengan kecepatan yang tidak dapat ditandingi oleh karyawan manusia. Ketika agen melakukan kesalahan, seperti halusinasi, salah membaca instruksi, atau transfer data yang tidak disengaja, kerusakan yang diakibatkannya secara operasional dapat terlihat sama dengan serangan orang dalam yang jahat. Dan ketika penyerang eksternal menyusupi agen internal, mereka mewarisi profil akses penuhnya di setiap aplikasi yang terhubung. “Entah agen tersebut merupakan ancaman internal karena kesalahan yang tidak disengaja atau karena telah disusupi secara jahat, Anda memerlukan pagar pembatas runtime yang menegakkan kebijakan organisasi Anda secara konsisten di seluruh agen,” kata Rishi. “Jawaban praktisnya adalah lapisan pelindung asli AI yang memantau perilaku agen secara semantik, memahami maksud seluruh tindakan, dan dapat memblokir atau menghentikan agen yang berperilaku buruk dengan kecepatan mesin, lalu memicu pemulihan dengan segera.” Mempersiapkan diri menghadapi dunia yang penuh kompromi Model-model AI Frontier, termasuk model-model yang mampu menemukan dan mengoperasionalkan kerentanan zero-day secara mandiri, telah mengubah aspek ekonomi dari serangan. Hasilnya, minat terhadap kesiapan Mythos semakin meningkat. Banyak perusahaan yang beroperasi berdasarkan dua asumsi: bahwa serangan tidak bisa dihindari, bukan merupakan hal yang luar biasa, dan bahwa investasi dalam ketahanan dan pemulihan yang cepat harus diperlakukan sama strategisnya dengan investasi dalam pencegahan. Pergeseran ini membingkai ulang pemulihan dari aktivitas pasca-insiden menjadi kemampuan yang sengaja dirancang, diuji, dan terus divalidasi. “Gagasan bahwa Anda dapat pulih dengan cepat dari suatu serangan akan menjadi salah satu aspek keamanan yang paling penting,” kata Rishi. “Ini adalah kebijakan asuransi yang kini harus diperlakukan oleh organisasi sebagai warga negara kelas satu.” Mengapa ketahanan siber yang didukung AI bergantung pada model-model kecil Ketahanan siber yang sesungguhnya adalah sebuah mata uang dua sisi: hal ini memerlukan penegakan hukum yang cerdas secara real-time untuk mencegat ancaman yang terjadi, dan pemulihan otomatis untuk memulihkan operasi dengan segera. Meskipun pencadangan adalah hal yang mendasar, organisasi memerlukan alur kerja yang dapat terus memantau sistem dengan kecepatan mesin, dan secara instan menentukan status bersih terkini dalam kondisi serangan. Penerapan AI pada bagian pertama dari persamaan tersebut—penindakan secara real-time—menciptakan tantangan teknis dan ekonomi yang mendasar. Mengandalkan model frontier besar-besaran untuk memantau setiap tindakan agen menimbulkan overhead latensi yang melumpuhkan dan biaya komputasi yang sangat tinggi. Sistem AI pelindung yang memperlambat operasional atau biaya sebesar sistem yang dipantaunya tidak layak untuk diadopsi secara luas. “Ini harus menjadi model AI yang cepat, kecil, dan murah,” kata Rishi. “Tidak ada seorang pun yang mau menggunakan solusi aman yang melipatgandakan biaya atau latensinya.” Inilah sebabnya model bahasa kecil (SLM) sangat penting untuk penegakan hukum secara real-time. Pendekatan Rubrik, yang didasarkan pada akuisisi Predibase, adalah membangun lapisan pertahanan garis depan pada model kecil yang dioptimalkan secara khusus untuk kecepatan dan efisiensi. Tidak seperti model heavy frontier, SLM dapat mengevaluasi perilaku agen secara semantik dengan kecepatan mesin dan biaya yang lebih murah, bertindak sebagai pos pemeriksaan waktu nyata. Lapisan penegakan hukum yang sangat efisien inilah yang memungkinkan koneksi ke pemulihan yang lebih erat dan lancar. Ketika sistem mengamati agen melakukan tindakan destruktif—seperti menghapus database, merusak file penting, atau mengambil data sensitif—model kecil akan segera mendeteksinya, menghentikan kerusakan, mengidentifikasi snapshot bersih terbaru sebelum insiden, dan memulai pemulihan dalam satu alur kerja otomatis. Peralihan dari respons insiden ke ketahanan arsitekturImplikasi yang lebih luas dari Mythos dan sistem AI frontier serupa adalah perubahan dalam cara berpikir organisasi tentang keamanan. Ketika AI memperkecil kesenjangan antara serangan dan dampak, ketahanan dan pemulihan menjadi persyaratan arsitektur, bukan pertimbangan operasional. Rubrik berpandangan bahwa sistem keamanan tidak bisa lagi berhenti pada deteksi. Ketika agen AI memperoleh otonomi yang lebih besar, kemampuan observasi, konteks identitas, dan pemulihan harus beroperasi sebagai lapisan ketahanan yang terkoordinasi. Tujuannya bukan hanya untuk mengidentifikasi ketika ada sesuatu yang tidak beres, namun untuk memperpendek kesenjangan antara deteksi dan pemulihan. “Hal yang sama yang memperkenalkan ancaman, kemampuan terdepan dari model seperti Mythos, juga dapat digunakan untuk membantu kita memerangi ancaman tersebut,” kata Rishi. “Memposisikan diri Anda pada era AI berarti menutup kesenjangan antara mendeteksi adanya masalah dan memulihkan sistem yang terkena dampak, sebelum kerugian yang diakibatkannya bertambah.” Artikel bersponsor adalah konten yang diproduksi oleh perusahaan yang membayar postingan tersebut atau memiliki hubungan bisnis dengan VentureBeat, dan artikel tersebut selalu ditandai dengan jelas. Untuk informasi lebih lanjut, hubungi sales@venturebeat.com.
Diterbitkan : 2026-07-08 07:00:00
sumber : venturebeat.com
