Ingatlah percakapan jam 2 pagi yang Anda lakukan dengan seorang Ditayangkan tentang alergimu? Atau pertanyaan yang Anda ajukan tentang laporan bank terbaru Anda? Apa yang terasa pribadi pada saat itu seringkali tidak berarti apa-apa.
Laporan terbaru menunjukkan bahwa kontraktor Meta, yang dipekerjakan oleh perusahaan untuk meninjau interaksi AI, terkadang melihat detail pribadi yang tidak disunting seperti informasi kesehatan, catatan keuangan, dan bahkan data identifikasi, yang dianggap rahasia oleh kebanyakan orang.
Pendiri dan CEO Redactable.
Ini adalah isu yang tidak terlalu umum dan menjadi inti perlombaan AI saat ini. Chatbots diterapkan dalam skala besar di perbankan, layanan kesehatan, pemerintahan, dan lainnya. Mereka cepat, nyaman, dan semakin mampu menangani pertanyaan yang rumit dan terkadang sensitif. Namun kenyamanan seharusnya tidak pernah datang sebelumnya keamanan. Setiap perintah, setiap transkrip, dan setiap log backend membawa data yang dapat bertahan lebih lama dari yang diinginkan pengguna.
Sebelum menjadi pendiri teknologi, saya menghabiskan waktu bertahun-tahun dikelilingi oleh laporan pajak, nomor Jaminan Sosial, laporan inspeksi, dan laporan rekening. Saat itu, “perlindungan” berarti menggambar kotak di atas teks dan berharap teks itu aman. Ternyata tidak. Rasa frustrasi itu menjadi sebuah peluang ketika saya menyadari bahwa solusi sebenarnya bukanlah menyembunyikan data, namun menghapusnya secara permanen.
Chatbots dan sistem AI adalah arena terbaru di mana permasalahan ini terungkap. Jika kita ingin melindungi pribadi dan membangun kepercayaan di era baru ini, kita tidak bisa mengandalkan perbaikan kosmetik saja. Baik pelaku bisnis maupun pengguna perlu memikirkan kembali apa artinya berkomunikasi dengan AI. Berikut lima hal yang perlu diingat.
1. Chatbot jangan lupa
Kebanyakan orang mengobrol dengan AI seolah-olah itu adalah percakapan pribadi, namun rekaman tersebut sering kali bertahan jauh lebih lama dari yang kita sadari. Pertanyaan kesehatan singkat, log pemecahan masalah, atau permintaan TI internal dapat disimpan, ditinjau, dan bahkan digunakan untuk melatih model masa depan. Jika informasi tidak dibersihkan, informasi tersebut dapat tetap berada dalam model tersebut tanpa batas waktu.
Bagi bisnis, ini berarti kebijakan retensi harus eksplisit, bukan tersirat. Jika transkrip disimpan demi kualitas layanan pelanggan, transkrip tersebut harus memiliki tanggal kedaluwarsa yang jelas. Jika log digunakan untuk pelatihan, detail sensitif harus dihapus sebelum terlihat oleh manusia.
Pengguna individu juga rentan. Bagi mereka, asumsi paling aman adalah tidak ada yang dibagikan dengan a chatbot selalu benar-benar pribadi. Orang tua mungkin meminta asisten virtual untuk membuat draf email ke sekolah tentang pengobatan anak. Seorang pelari maraton mungkin meminta saran dari aplikasi kesehatan untuk mengobati pergelangan kaki yang terkilir.
Setiap contoh terdengar seperti permintaan sederhana, namun setiap kata dapat disimpan di server selama berbulan-bulan atau bertahun-tahun. Tidak semua nomor sensitif, tetapi nomor rekening, nomor Jaminan Sosial, dan pengenal lainnya sensitif. Simpan itu untuk portal aman atau panggilan telepon.
2. Redaksi bukanlah suatu pilihan
Kesalahpahaman yang paling umum mengenai perlindungan data adalah bahwa mengaburkan informasi sama dengan menghilangkannya. Pada kenyataannya, menyembunyikan kolom, menutupi input, atau menghitamkan teks hanya menutupi informasi di layar. Data yang mendasarinya sering kali masih ada dalam file dan mudah diungkap.
Hal ini sangat berbahaya dalam percakapan chatbot, karena detail sensitif mungkin tertanam jauh di dalam transkrip atau log kesalahan. Bisnis yang mengandalkan perbaikan dangkal menciptakan ilusi keamanan dan rentan terhadap pelanggaran dan kebocoran.
Redaksi yang sebenarnya adalah penghapusan permanen. Tanpa hal ini, perusahaan berisiko kehilangan kepatuhan dan kepercayaan pelanggan.
3. Minimalkan data berarti penghapusan
Beberapa organisasi bangga karena mengumpulkan lebih sedikit datayang merupakan awal yang baik. Namun data yang lebih sedikit tidak menyelesaikan masalah jika data yang dikumpulkan disimpan tanpa batas waktu.
Transkrip Chatbot adalah contoh sempurna. Banyak yang bertahan untuk melatih ulang model, menganalisis sentimen pelanggan, atau menyelesaikan perselisihan. Artinya, semakin banyak arsip informasi sensitif yang menjadi tanggung jawab setiap harinya.
Regulator mulai memberikan respons, mulai dari undang-undang perlindungan data anak di tingkat negara bagian hingga kerangka privasi internasional. Dunia usaha juga harus proaktif. Perusahaan yang menerapkan penghapusan permanen sekarang akan berada di posisi terdepan dalam kurva kepatuhan yang tidak bisa dihindari.
Konsumen juga perlu meminimalkan. Rata-rata pengguna sering kali berbagi secara berlebihan dalam percakapan chatbot tanpa menyadarinya. Misalnya, pelanggan yang mencoba memahami tagihan internet mungkin mengetikkan nomor rekening lengkap, atau pasien mungkin mengunggah laporan laboratorium lengkap, bukan hanya beberapa rincian yang diperlukan.
Perusahaan dapat membantu dengan mendorong pengguna untuk meminimalkan atau membersihkan data sebelum mengunggah, sehingga kedua belah pihak berbagi tanggung jawab untuk mengurangi paparan.
Sebelum mengetik di chatbot, ada baiknya untuk berhenti sejenak dan bertanya: apakah ini sesuatu yang nyaman bagi saya untuk menyimpannya di log yang dapat dicari? Jika tidak, maka risikonya tidak sepadan. Banyak aplikasi perpesanan dan ekstensi browser kini memungkinkan pengguna menghapus riwayat secara otomatis. Alat-alat ini bukan pengganti redaksi sebenarnya, namun mengurangi paparan.
4. Transparansi membangun kepercayaan pengguna
Rata-rata orang lebih cenderung menggunakan sistem AI jika mereka tahu bagaimana informasi mereka akan ditangani. Menyembunyikan mekanisme penyimpanan data akan menimbulkan kecurigaan dan merusak kepercayaan. Komunikasi yang jelas tentang apa yang disimpan, berapa lama disimpan, dan apakah detail sensitif disunting akan sangat membantu.
Bagi dunia usaha, ini bukan hanya masalah etika namun juga keunggulan kompetitif. Pelanggan akan memberi penghargaan kepada perusahaan yang menjelaskan praktik mereka dalam bahasa yang sederhana dan memberikan kendali yang berarti kepada pengguna. Transparansi mengubah privasi menjadi fitur yang dicari.
Cara lain untuk memperkuat kepercayaan adalah dengan perusahaan yang membangun atau menggunakan chatbots untuk secara aktif menyarankan sanitasi data sebelum diunggah. Bahkan pengingat sederhana pun dapat memberikan harapan yang tepat. Bisnis yang melakukan upaya ekstra dengan membantu pelanggan mendidik diri mereka sendiri tentang privasi data mendapatkan keunggulan kompetitif di pasar saat ini.
5. Privasi adalah keunggulan kompetitif
Asumsi bahwa pengguna hanya peduli pada kecepatan tidaklah benar. Pada kenyataannya, banyak orang yang juga peduli terhadap cara data mereka ditangani. Menurut survei Cisco baru-baru ini, 75% responden tidak akan membeli data dari perusahaan yang tidak mereka percayai.
Di pasar yang semakin ramai, privasi menjadi pembeda merek. Perusahaan yang memperlakukannya sebagai fitur, bukan sekedar renungan, akan menonjol. Mereka yang mengabaikannya akan mengambil risiko tindakan regulasi dan kehilangan loyalitas pelanggan. Dalam teknologi bisnis, kepercayaan bertambah lebih cepat dibandingkan hal baru.
Perusahaan yang membersihkan data pelanggan dan terbuka serta transparan akan lebih menonjol.
Jalan ke depan
Chatbot AI dan model dasar di baliknya tidak akan hilang, dan juga tidak akan hilang. Teknologi ini menawarkan efisiensi, aksesibilitas, dan skala yang nyata. Namun hal ini hanya akan berkembang jika pelaku bisnis dan pengguna menyadari risiko yang timbul akibat kemudahan tersebut dan mengetahui cara mengamankan diri mereka sendiri.
Sama seperti saya pernah mengetahui bahwa membatasi data sensitif tidak melindungi klien saya, bisnis saat ini harus belajar bahwa privasi sejati memerlukan pendekatan bijaksana yang disesuaikan dengan organisasi mereka. Apa pun yang kurang dari itu hanyalah angan-angan.
Sebagian besar perusahaan masih merespons kebocoran setelah kerusakan terjadi. Pergeseran nyata akan terjadi ketika kita berhenti memperlakukan privasi sebagai respons darurat dan mulai merancang sistem yang memperhatikan privasi sejak awal. Begitulah cara AI mendapatkan hak untuk menangani percakapan kita yang paling sensitif.
