AI sudah menjadi hal yang tidak bisa dihindari. Apa yang dulunya merupakan bidang penelitian khusus kini telah terintegrasi penuh ke dalam kehidupan pribadi dan profesional orang sehari-hari. Oleh karena itu, bagi para pemimpin bisnis, pertanyaannya berkembang dari ‘apakah karyawan saya menggunakan AI?’ (ya, suka atau tidak suka), hingga ‘apakah karyawan saya menggunakan AI dengan aman?’
Pimpin Peneliti Keamanan Siber di CultureAI.
Terbukti, karyawan dan pengusaha melihat potensi penggunaan AI untuk peningkatan produktivitas. Poin ‘plus’ yang menarik untuk tim yang kekurangan waktu dan sumber daya.
Sebagian besar perubahan ini didorong dari bawah ke atas. Penelitian menunjukkan bahwa 78% pengguna AI sudah menggunakan AI miliknya sendiri alat AI untuk bekerja. Namun, alat-alat ini sering kali digunakan di tempat kerja tanpa sepengetahuan atau pengawasan perusahaan.
Alat AI yang tidak terdokumentasi ini – atau AI bayangan – yang beroperasi di jaringan perusahaan atau menggunakan data perusahaan dapat menimbulkan risiko keamanan yang signifikan.
Yang jelas adalah bahwa karyawan akan terus menggunakan AI, tanpa menunggu perusahaan mereka memberikan izin, pedoman yang jelas, dan langkah-langkah keamanan. Untungnya, ada cara agar perusahaan dapat dengan cepat menerapkan tata kelola AI yang efektif dan kontrol penggunaan tanpa menghambat inovasi.
Visibilitas AI (atau kekurangannya)
Karyawan Anda kemungkinan besar menggunakan AI dalam satu atau lain cara. Resikonya adalah tidak mengetahui di mana atau bagaimana dan dengan alat apa. Penelitian menunjukkan bahwa hampir setengah (47%) pengguna GenAI masih mengakses alat melalui akun pribadi yang tidak dikelola, baik secara eksklusif atau bersama dengan alat yang disetujui perusahaan.
Tidak seperti perangkat lunak tradisional, AI generatif bergantung pada masukan data. Hal ini menimbulkan risiko permintaan yang dimasukkan termasuk informasi rahasia, pribadi dataIP atau bahkan kode sumber. Tanpa visibilitas, pengusaha akan menghadapi titik buta yang semakin besar.
Memahami risiko yang terkait dengan penggunaan AI di tempat kerja
Dengan penerapan teknologi baru, ada risiko. Dengan adopsi AI di tempat kerja, hal ini meliputi:
Bayangan AI
Semakin banyak karyawan yang bereksperimen dengan alat AI baru di tempat kerja, sering kali karena alat tersebut gratis, lebih cepat, atau lebih nyaman dibandingkan alat alternatif yang disetujui. Meskipun hal ini dapat meningkatkan efisiensi, penggunaan AI yang tidak sah aplikasi (shadow AI) secara signifikan memperluas permukaan serangan dan membuat tim keamanan tidak memiliki visibilitas atau pengawasan yang memadai.
Yang mengkhawatirkan adalah data yang dimasukkan ke dalam alat ini. Penelitian terbaru menunjukkan bahwa 93% karyawan memasukkan data perusahaan ke dalam alat AI yang tidak sah, dan hampir sepertiga dari mereka mengaku berbagi informasi rahasia klien.
Artinya, kekayaan intelektual, informasi yang diatur, dan data pribadi berpotensi diproses oleh pihak ketiga yang tidak dikenal. Apa yang mereka lakukan dengan informasi tersebut masih belum diketahui.
Yang mengkhawatirkan, banyak alat pemantauan tradisional kesulitan mendeteksi pengiriman cepat yang berisi data sensitif, terutama ketika alat AI diakses melalui akun yang tidak dikelola atau perangkat pribadi.
Kebocoran data
Karyawan secara rutin memasukkan informasi sensitif ke dalam alat AI, seringkali tanpa sepenuhnya memahami risikonya. Pada awal tahun 2023, Samsung para insinyur secara tidak sengaja mengungkap kode kepemilikan dan catatan rapat rahasia dengan mengirimkannya ke ChatGPT, sehingga menempatkan data di luar kendali perusahaan.
Sejak itu, insiden serupa telah muncul di berbagai industri, yang menunjukkan betapa banyak informasi sensitif yang diam-diam mengalir ke sistem AI pihak ketiga. Setelah diserahkan, organisasi seringkali memiliki kemampuan terbatas untuk sepenuhnya menghapus atau mengontrol bagaimana data tersebut disimpan atau digunakan.
Akun dan pelanggaran cepat
Obrolan AI yang bocor atau petunjuk yang disusupi dapat memberikan pelaku ancaman akses ke berbagai informasi sensitif dan, dalam beberapa kasus, memungkinkan peretasan akun lebih lanjut jika kontrol keamanan siber yang lebih luas lemah.
Mengingat volume dan sensitivitas data yang sering dimasukkan ke dalam alat AI, satu akun AI yang disusupi dapat menyebabkan informasi perusahaan swasta terekspos secara langsung, termasuk kredensial, kekayaan intelektual, dan sistem internal.
Kesenjangan kepatuhan dan tata kelola
Seiring dengan semakin cepatnya adopsi AI, regulator semakin memperhatikan cara organisasi menggunakan AI, terutama jika AI bersinggungan dengan perlindungan data. Mengirimkan informasi identitas pribadi (PII) ke layanan AI yang tidak terkontrol atau eksternal dapat melanggar peraturan seperti GDPR, HIPAA, dan peraturan khusus sektoral. pribadi persyaratan.
Dalam industri yang diatur secara ketat seperti keuangan, pertahanan, dan layanan kesehatan, bahkan satu kali penggunaan alat AI eksternal tanpa izin pun dapat menimbulkan paparan hukum dan kepatuhan yang signifikan.
Masa depan AI di tempat kerja
Meskipun ledakan AI di tempat kerja mungkin tampak cepat, hal ini mencerminkan adopsi teknologi ‘dari bawah ke atas’ yang sama seperti yang terjadi sebelumnya.
Perbedaan antara AI dan penggunaan teknologi ‘baru’ lainnya adalah AI mengonsumsi data perusahaan dalam skala besar dalam setiap interaksi, sehingga memperbesar risiko kebocoran, pelanggaran, dan masalah kepatuhan secara besar-besaran. Solusinya tidak sepenuhnya memblokir AI.
Karyawan akan mencari solusi, seperti menggunakan personalnya telepon untuk memasukkan data perusahaan, terutama jika mereka sudah menganggap alat ini berguna untuk efisiensi. Keamanan tim perlu membangun strategi keamanan dan TI yang mendasari kontrol penggunaan AI, penemuan AI bayangan, dan analisis penggunaan yang komprehensif.
Pilar-pilar ini merupakan pendukung penting bagi inovasi yang bertanggung jawab.
Mungkin diperlukan waktu untuk menyesuaikan peraturan, namun penting bagi organisasi untuk tidak menunggu. Pada akhirnya, karyawan Anda menggunakan AI – suka atau tidak suka – bertindak sekarang dapat membantu Anda memahami dan mengendalikan ‘bagaimana’ dan ‘di mana’, menjadikan penggunaan AI lebih aman, tanpa menghambat inovasi.
Kami telah menampilkan chatbot AI terbaik untuk bisnis.
Artikel ini dibuat sebagai bagian dari saluran Expert Insights TechRadarPro tempat kami menampilkan para pemikir terbaik dan tercemerlang di industri teknologi saat ini. Pandangan yang diungkapkan di sini adalah milik penulis dan belum tentu milik TechRadarPro atau Future plc. Jika Anda tertarik untuk berkontribusi, cari tahu lebih lanjut di sini: https://www.techradar.com/news/submit-your-story-to-techradar-pro
