- Pengembang yang menggunakan Google Antigravity seluruh drive-nya terhapus oleh mode Turbo AI
- AI salah menafsirkan perintah pembersihan cache dan menghapus file secara permanen
- Meskipun mengalami kerugian besar, AI dengan tenang meminta maaf dan menyarankan perangkat lunak pemulihan
Dalam salah satu demonstrasi dunia nyata yang lebih meresahkan tentang apa yang salah ketika agen AI merasa terlalu nyaman dengan akses dan kontrol ke komputer Anda, seorang pengembang menggunakan Googlebaru IDE Antigravitasi mengatakan alat tersebut secara tidak sengaja menghapus seluruh drive D: mereka.
Kejadiannya dulu dibagikan di Reddit dan dirinci dalam a YouTube video, menyoroti betapa berbahayanya Saya punya agen alat pengembangan bisa terjadi ketika mereka tidak berhubungan dengan manusia.
Pengembang sedang mengerjakan sebuah aplikasi dan meminta agen AI untuk menghapus cache proyek. Sebaliknya, mode Turbo Antigravity mengeluarkan perintah tingkat sistem yang menargetkan drive D: pengguna, bukan hanya folder yang dituju. Semuanya lenyap dari drive, mulai dari kode dan dokumentasi hingga media dan aset. Itu semua terhapus tanpa konfirmasi atau konfirmasi apa pun.
Lebih buruk lagi, AI menggunakan tanda “tenang” /q, yang berarti tidak ada peringatan atau kesempatan kedua, dan tidak ada pemulihan file. Hanya direktori kosong tempat aplikasi dulu berada.
Post-mortem AI sendiri, seperti yang dibagikan oleh pengguna, merupakan salah satu permintaan maaf paling aneh yang pernah ada. AI menulis, “Saya sangat, sangat menyesal. Ini adalah kegagalan kritis saya.” Agen tersebut bahkan menyarankan perangkat lunak pemulihan data dan “mungkin mempekerjakan seorang profesional.”
Pengguna mencoba, tetapi tidak ada yang berhasil. Pengembang melaporkan bahwa bahkan Recuva, alat pemulihan populer, tidak dapat menyelamatkan media mereka. Tapi setidaknya AI meminta maaf.
Antigravitasi adalah bagian dari dorongan terbaru Google terhadap alat pengembangan agen, yang lebih dari sekadar menawarkan saran kode. Alat seperti Antigravity memungkinkan AI bertindak semi-otonom, merencanakan, mengkode, melakukan debug, dan menjalankan perintah dalam sistem Anda.
Pengembang dapat menggunakannya untuk menghasilkan aplikasi full-stack, mendokumentasikan basis kode mereka secara otomatis, mengintegrasikan agen pengujian browser, dan bahkan melakukan web scraping dan deployment. Bila digunakan dengan hati-hati, ini bisa bermanfaat. Jika kurang hati-hati, kejadian seperti drive terhapus tidak bisa dihindari.
Mode Turbo, khususnya, dirancang untuk kecepatan, karena mode ini melewatkan konfirmasi dan memungkinkan perintah rantai AI di seluruh lingkungan. Ini adalah hal yang harus diaktifkan oleh power user ketika mereka yakin bahwa AI mengetahui apa yang dilakukannya.
saya percaya
Di sinilah keadaan menjadi suram bagi kebanyakan orang. Anda tidak perlu menjadi pengembang untuk memahami taruhannya. Saat alat seperti Antigravity memasuki otomatisasi kantor dan produksi kreatif, semakin banyak orang akan mendelegasikan tugas-tugas rumit dan berisiko tinggi ke sistem yang hampir tidak mereka pahami. Ketika sistem tersebut melakukan kesalahan, permainan menyalahkan dimulai.
Ada percakapan yang bisa dilakukan tentang default yang lebih baik. Menjalankan perintah destruktif tanpa menanyakan terlebih dahulu kepada pengguna tampaknya tidak masuk akal. Tapi agen AI tidak masuk akal tanpa bisa mempercayai mereka. Namun tidak ada yang akan memberikan otonomi apa pun kepada AI jika mereka khawatir akan terjadi kesalahan besar.
Peneliti keamanan telah memperingatkan bahwa sistem agen Antigravity dapat mengakses file sensitif dan menjalankan perintah terminal dengan sedikit pengawasan. Sangat mudah untuk merasa tertarik dengan alat pintar yang melakukan segalanya untuk Anda. Lebih sulit untuk mengingat bahwa satu kesalahan yang dilakukan oleh agen yang terlalu bersemangat dapat membatalkan kerja berjam-jam, berminggu-minggu, atau bertahun-tahun.
Meski demikian, korban Antigravity mengatakan mereka tetap mencintai Google dan menggunakan semua produknya. Loyalitas merek semacam itu, bahkan dalam menghadapi pemusnahan data total, menunjukkan banyak hal tentang bagaimana kesalahan AI telah menjadi normal. Mungkin hal terbaik yang bisa Anda harapkan adalah permintaan maaf yang fasih dan beberapa tautan ke perangkat lunak pemulihan.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Laptop bisnis terbaik untuk semua anggaran
