Perusahaan kehilangan jutaan dolar karena membayar pengeluaran karyawan karena faktur palsu yang dibuat oleh AI

Semakin banyak perusahaan yang ditipu oleh karyawan yang menggunakan platform Kecerdasan Buatan Generatif dalam penipuan lama: memalsukan tanda terima pengeluaran.

Peluncuran model pembuatan gambar baru oleh platform Kecerdasan Buatan utama, seperti OpenAI dan Google, dalam beberapa bulan terakhir telah memicu banyak sekali Tanda terima yang dihasilkan AIyang disampaikan secara internal di perusahaan.

Menurut data yang Waktu Keuangan diperoleh dari platform perangkat lunak manajemen pengeluaran utama, jenis penipuan ini terjadi kerugian besar di semakin banyak perusahaan.

Penyedia perangkat lunak AplikasiZen menyatakan bahwa kuitansi palsu yang dihasilkan AI menyumbang sekitar 14% dokumen palsu diserahkan pada bulan September, dibandingkan dengan nol tahun lalu.

Grup fintech Amerika Utara Jalan mengatakan pada gilirannya bahwa perangkat lunak barunya telah mengidentifikasi mlebih dari satu juta dolar dalam faktur palsu dalam waktu 90 hari.

Sekitar 30% profesional keuangan AS dan Inggris disurvei oleh platform manajemen pengeluaran media dilaporkan telah mengamati a peningkatan kuitansi palsu setelah rilis GPT-4o OpenAI tahun lalu.

“Kwitansi ini dipalsukan oleh AI menjadi sangat bagus Apa yang kami sampaikan kepada pelanggan kami: jangan percaya matamu“, katanya Chris Juneauwakil presiden senior dan kepala pemasaran produk di SAP Setujusalah satu platform pengeluaran terkemuka di dunia.

Beberapa platform menilai telah terjadi lonjakan signifikan pada jumlah penerimaan yang dihasilkan AI setelah OpenAI merilis model yang ditingkatkan pencitraan di GPT-4o, pada bulan Maret.

OpenAI mengatakan kepada Financial Times bahwa mereka mengambil tindakan ketika kebijakannya dilanggar dan itu gambar Anda mengandung metadata yang menunjukkan bahwa mereka dibuat oleh ChatGPT.

Selama ini pembuatan dokumen palsu membutuhkan keahlian dalam mengedit gambar atau membayar untuk layanan tersebut melalui pemasok online.

Munculnya perangkat lunak pencitraan gratis dan dapat diakses memberikan kemudahan bagi karyawan Memalsukan tanda terima dengan cepat dalam hitungan detikmemberikan instruksi teks biasa kepada chatbots.

Berbagai kwitansi ditunjukkan kepada FT oleh platform manajemen pengeluaran menunjukkan hal tersebut sifat gambar yang realistis, termasuk kerutan di atas kertas, rincian rinci yang berhubungan dengan menu kehidupan nyatadan langganan.

“Hal ini bukanlah ancaman di masa depan; itu sudah terjadi. Meskipun saat ini hanya sebagian kecil dari penerimaan yang tidak sesuai yang dihasilkan oleh AI, namun hanya persentase tersebut saja akan tumbuh“, katanya Sebastian Marchondirektur eksekutif Rydooplatform manajemen pengeluaran.

Munculnya salinan yang lebih realistis ini telah mendorong banyak perusahaan untuk melakukan hal tersebut merespons kembali dengan AI untuk membantu mendeteksi kuitansi palsukarena sebagian besar terlalu meyakinkan untuk ditemukan oleh pengulas manusia.

Perangkat lunak ini berfungsi memeriksa tanda terima untuk memeriksa metadata gambar dan temukan apakah platform AI yang menciptakannya. Namun, hal ini dapat dengan mudah terjadi dihapus oleh pengguna dengan mengambil foto atau tangkapan layar gambar tersebut.

Investigasi SAP pada bulan Juli menemukan bahwa hampir 70% CFO yakin karyawan mereka menggunakan AI mencoba memalsukan biaya atau tanda terima perjalanan; sekitar 10% menambahkan bahwa mereka memiliki yakin ini terjadi di perusahaan Anda.

Kedua Mason Wilderdirektur investigasi di Association of Certified Fraud Examiners, “tidak ada hambatan untuk masuk bagi orang-orang untuk melakukan hal ini. Mereka tidak memerlukan keterampilan atau bakat teknologi apa pun seperti yang mungkin mereka perlukan lima tahun lalu saat menggunakan Photoshop.”

Singkatnya, AI datang mendemokratisasi bisnis pengeluaran palsu — yang hingga saat ini merupakan domain eksklusif karyawan yang paling berbakat di bidang Photoshop.

Namun hal itu masih harus dijelaskan apa yang terjadi pada perusahaan yang datanya digunakan dalam faktur palsu — yang, setelah diserahkan oleh pemberi kerja ke bagian akuntansi, pasti akan berakhir mencapai Otoritas Pajak. Di Portugal, setidaknya, otoritas pajak sudah menanyakan pembayaran pajak yang hilang…