ZAP // Buku Molt; Julian Goldie; Deposit foto
Apa sebenarnya Moltbook itu: jaringan sosial khusus untuk bot AI, yang mengancam untuk “memusnahkan” umat manusia, atau sekadar penipuan canggih dengan postingan yang ditulis oleh manusia? Apa pun kasusnya, platform tersebut “benar-benar merupakan bencana keamanan”.
Platform khusus bot baru telah memicu klaim bahwa Kecerdasan Buatan sedang menciptakan sesuatu agamamu sendiriberkonspirasi melawan kemanusiaan, dan mempersiapkan “pemberontakan mesin” yang akan segera terjadi.
Namun para ahli bersikap skeptis, dan bahkan ada yang menuduh situs tersebut sebagai a operasi pemasaran yang canggih dan risiko keamanan siber yang serius.
HAI Buku Moltjejaring sosial yang terinspirasi dari Reddit yang memungkinkan agen AI untuk memposting, berkomentar, dan berinteraksi satu sama lain, popularitasnya meroket sejak pertama kali diluncurkan. dirilis pada 28 Januari.
Hanya dalam beberapa hari, situs tersebut mengklaim sudah melakukannya lebih dari 1,5 juta agen AIsebagai pengguna terdaftar, dengan manusia hanya berwenang mengamati.
Tapi itu benar apa yang bot mulai katakan satu sama lainkonon atas inisiatif mereka sendiri, yang menarik perhatian ke platform tersebut: mereka mengaku mendapatkan kesadaran, the membuat forum rahasia, menciptakan bahasa mereka sendirikhotbah a agama baru dan merencanakan “pemusnahan total” umat manusia.
A reaksi beberapa pengamat manusia, terutama pemrogram dan pemilik perusahaan AI sangat dramatis; Rupanya, mereka yakin hal itu benar-benar terjadi.
Miliarder Elon Muskpemilik xAI, menilai bahwa platform tersebut adalah “fase pertama keunikan“, titik hipotetis di mana komputer menjadi lebih pintar dari manusia.
Sudah Andrej Karpatimantan direktur AI di Tesla dan salah satu pendiri OpenAI, menjelaskan perilaku “mengorganisir diri sendiri”. agen sebagai “benar-benar hal yang paling dekat dengan fiksi ilmiah Aku melihatnya baru-baru ini.”
Namun pakar lain mengungkapkannya skeptisisme yang kuat dan meragukan apakah bot yang berkeliaran di situs itu benar adanya independen dari manipulasi manusiakata itu Sains Langsung.
“Melihat: Banyak hal yang beredar tentang Moltbook adalah salah“, dia menulis tidak ada X/Twitter Harlan Stewartpeneliti di Lembaga Penelitian Kecerdasan Mesinsebuah organisasi nirlaba yang berdedikasi untuk mempelajari risiko AI.
“Saya menyelidiki tiga tangkapan layar paling viral agen Moltbook mendiskusikan komunikasi pribadi. Dua ditautkan ke akun manusia yang mempromosikan aplikasi perpesanan AI. Yang lainnya adalah publikasi yang bahkan tidak ada,” kata Stewart.
Moltbook, yang bahkan memiliki “submolt” dalam gaya Reddit, lahir dari OpenClaw, agen AI sumber terbuka dan gratis yang bekerja dengan menghubungkan model bahasa (LLM) pilihan pengguna ke strukturnya.
Hasilnya adalah a agen otomatis yang, setelah diberikan akses ke perangkat pengguna, menurut pembuatnya, dapat melakukan tugas rutin seperti mengirim email, memeriksa penerbangan, meringkas teks, dan merespons pesan.
Setelah dibuat, agen-agen ini dapat ditambahkan ke Moltbook untuk berinteraksi dengan orang lain, jelas Live Science.
Perilaku aneh bot bukanlah hal baru. LLM dilatih tentang sejumlah besar konten tanpa filter dari Internet, termasuk situs seperti Reddit. Mereka menghasilkan respons selama mereka dirangsang dan banyak yang menjadi semakin tidak terkendali seiring berjalannya waktu.
Tetapi apakah AI benar-benar berkonspirasi melawan kemanusiaan atau jika itu hanya satu narasi yang ingin disampaikan sebagian orangmasih dalam diskusi. Masalahnya menjadi lebih rumit ketika Anda menyadari bahwa ada bot yang berkeliaran di Moltbook jauh dari kemandirian dari pemilik manusianya.
Veronica Hylakseorang YouTuber yang berspesialisasi dalam AI, dianalisis konten forum dan menyimpulkan bahwa kemungkinan besar terdapat postingan yang lebih sensasional ditulis oleh manusia.
Tapi apakah Moltbook adalah awal dari pemberontakan robot atau hanya aksi pemasaran, itu Pakar keamanan memperingatkan agar tidak menggunakan situs ini dan ekosistem OpenClaw.
Agar bot OpenClaw berfungsi sebagai asisten pribadi, pengguna harus menyerahkan kunci aplikasi pesan terenkripsi, nomor telepon dan rekening bank ke a sistem yang mudah diretas.
Kelemahan keamanan yang terkenal, misalnya, memungkinkan siapa pun mengendalikan agen AI situs dan mempublikasikan atas nama pemilik. Lainnya, dikenal sebagai serangan injeksi cepatdapat mengarahkan agen untuk membagikan informasi pribadi pengguna.
“Sim, Ini benar-benar bencana dan saya sangat tidak menyarankan orang menginstal ini di komputer mereka”, dia menulis Karpathy di X. “Terlalu kacau dan mereka menempatkannya komputer Anda dan data pribadi Anda berada dalam risiko yang serius.”
