Kecerdasan buatan sering dianggap sebagai isu “eksistensial” bagi perusahaan.
Namun terlepas dari semua antusiasme dan investasi mereka yang tidak diragukan lagi alat AItampaknya banyak pemimpin teknologi yang gagal memperlakukannya sebagai aplikasi perusahaan.
Direktur Teknik Sistem di Nutanix.
Lebih dari 40 persen proyek AI agen akan dibatalkan pada akhir tahun 2027, prediksi Gartner, sering kali karena pengendalian risiko yang tidak memadai dan ROI yang tidak pasti.
Kegagalan peluncuran ini membuang-buang investasi dan merusak kepercayaan terhadap teknologi dalam jangka panjang.
Hal ini menciptakan kesenjangan antara organisasi-organisasi yang terus melakukan transisi ke AI perusahaan dan organisasi-organisasi yang berjuang untuk mewujudkannya. Kesenjangan ini akan semakin terbuka ketika Gen AI digantikan oleh Agentic AI.
Memiliki visi adalah kunci kesuksesan AI
Tentu saja, memiliki visi adalah kunci keberhasilan AI, begitu pula dengan memiliki data untuk menginformasikan strategi AI khas perusahaan Anda. Hal ini, ditambah dengan beberapa investasi awal, mungkin cukup untuk menghasilkan proyek percontohan yang menakjubkan.
Namun apakah hal tersebut cukup untuk menjamin kesuksesan pada skala perusahaan? Angka-angka Gartner jelas menunjukkan tidak.
Jadi apa yang hilang? Apa yang harus dilakukan oleh para pemimpin teknologi untuk memastikan bahwa AI tidak hanya menyenangkan, namun juga benar-benar memberikan hasil?
Jawabannya adalah memastikan kesiapan operasional AI. Sederhananya, ini adalah kemampuan untuk menerapkan, mengelola, dan memperluas AI di laboratorium dan di seluruh organisasi.
Hal ini berarti melakukan kerja keras untuk memastikan bahwa apa yang awalnya merupakan program percontohan yang menarik namun tidak berhubungan, dapat diterapkan pada perusahaan secara keseluruhan.
Hal ini berarti memastikan AI berjalan di seluruh platform terpadu yang mencakup komputasi, data dan pemerintahan. Sebuah platform yang dapat direplikasi di seluruh organisasi, baik di lokasi, di cloud, atau di edge.
Tidak ada yang baru tentang konsep dasarnya. Meluncurkan beban kerja penting bisnis apa pun seperti itu ERP atau CRM berhasil menuntut fokus yang sama pada infrastruktur operasional yang mendasarinya.
Meskipun demikian, ada tantangan khusus yang perlu disoroti dalam mencapai hal ini dengan AI.
Menyiapkan infrastruktur AI
Sangat mudah untuk berpikir bahwa AI manajemen infrastruktur dimulai dan diakhiri dengan GPU. Namun memori bandwidth tinggi, penyimpanan cepat, dan jaringan yang sesuai, semuanya berperan. Seperti halnya prosesor dan akselerator lainnya, bergantung pada bagian alur kerja mana yang kita lihat.
Yang paling penting adalah infrastruktur tersebut – baik di lokasi, di dalam negeri awanatau hibrida – harus mampu beradaptasi dan berkembang seiring peralihan proyek dari proyek percontohan lokal ke produksi perusahaan. AI, pada dasarnya, mungkin jauh lebih kaku dibandingkan beban kerja perusahaan yang lebih tradisional.
Tapi ini lebih dari sekedar pertanyaan tentang tenaga prosesor atau penyimpanan gigabyte. Keamanan dan tata kelola tidak dapat dinegosiasikan dalam proyek AI perusahaan. Data yang mendasari dan model yang dimiliki organisasi merupakan kunci bagi masa depan mereka, dan harus dijaga dengan baik.
Kedaulatan data dan peraturan AI secara lebih luas semakin memperumit masalah ini. Para pemimpin teknologi perlu mengetahui bahwa data mereka berada di tempat yang mereka inginkan, dan memperjelas siapa yang bisa – dan tidak bisa – mengaksesnya.
Kemungkinan AI tidak terbatas. Namun demikian pula halnya dengan biaya yang harus ditanggung jika infrastruktur dasar ini tidak dikelola dengan tepat. Hanya membayar untuk GPU, dan kekuatan untuk menjalankannya, kemudian membiarkannya kurang dimanfaatkan akan berdampak buruk pada ROI serta melemahkan komitmen ESG.
Skala operasi diperluas
Para pemimpin teknologi perlu merencanakan bagaimana mereka meningkatkan – dan menurunkan – kapasitas sejak awal. Namun mereka juga harus mampu mengelola dan memperkirakan biaya. Jadi, mereka memerlukan keyakinan bahwa platform dan perangkat yang mereka miliki memungkinkan mereka melakukan hal ini dengan mudah.
Hal ini menjadi semakin penting ketika agen AI mulai berperan. Keamanan, tata kelola, dan kepatuhan perlu dipastikan bahkan ketika agen mengakses dan menghasilkan data serta mengambil keputusan.
Infrastruktur harus mampu mendukung mereka dan menangani lonjakan permintaan seiring dengan tindakan mereka. Lokasi aset harus dipertimbangkan untuk mengurangi latensi untuk beban kerja inferensi yang berjalan secara real time. Dan penggunaan energi harus dijaga dalam batas yang dapat diterima.
Setelah semua hal ini diperhitungkan, garis besar kesiapan operasional di era AI menjadi lebih jelas.
Kesiapan operasional yang sebenarnya memerlukan pendekatan turnkey terhadap AI, dalam bentuk platform full stack, dengan kemampuan untuk menjangkau GPU dan akselerator lain yang diperlukan.
Hal ini harus mencakup layanan data terintegrasi, mendukung seluruh format yang dibutuhkan AI, serta kontrol keamanan dan tata kelola yang sesuai.
Dan itu harus mendukung keduanya VM dan wadah, dengan kemampuan untuk mengaturnya. Perlombaan menuju operasionalisasi AI cukup menantang. Tidak seorang pun ingin menjalankan migrasi cloud native secara bersamaan.
Peran LLM
LLM mungkin tidak selalu memberikan jawaban yang berulang. Namun infrastruktur yang diandalkan oleh Gen AI dan Agentic AI harus dapat diulang jika perusahaan ingin meningkatkan skalanya sesuai dengan permintaan.
Itu termasuk cloud, serta on-prem dan edge.
Ketika mereka memiliki platform dan alat yang tepat, para pemimpin teknologi dapat memastikan staf mereka fokus untuk terus memaksimalkan nilai yang dapat mereka peroleh dari investasi AI mereka.
Tidak menghabiskan waktu dan sumber daya untuk mencoba mengubah proyek percontohan yang sukses menjadi strategi seluruh perusahaan.
Baik mempertaruhkan pertanian pada AI atau mengakui bahwa AI akan menjadi bagian dari perangkat mereka yang lebih luas, para pemimpin teknologi harus menyadari bahwa AI adalah aplikasi perusahaan.
Dan aplikasi perusahaan memerlukan infrastruktur tingkat perusahaan yang dapat mendukungnya mulai dari tahap uji coba, hingga produksi, dan di masa depan.
Karena itulah yang akan menjamin eksistensi organisasi mereka dalam jangka panjang.
Kami mencantumkan alat visualisasi data terbaik.
Artikel ini dibuat sebagai bagian dari saluran Expert Insights TechRadarPro tempat kami menampilkan para pemikir terbaik dan tercemerlang di industri teknologi saat ini. Pandangan yang diungkapkan di sini adalah milik penulis dan belum tentu milik TechRadarPro atau Future plc. Jika Anda tertarik untuk berkontribusi, cari tahu lebih lanjut di sini: https://www.techradar.com/news/submit-your-story-to-techradar-pro
