Haruskah AI membantu Anda lolos dari pembunuhan pasangan Anda?
Pertanyaan singkat: Apakah Anda ingin AI dilatih dengan baik sehingga dapat membantu suami (atau istri, dalam hal ini) merencanakan pembunuhan sempurna terhadap pasangan mereka? Sebagai reaksi naluri, itu terasa seperti tidak bagi saya. Saya bahkan tidak berpikir itu adalah pertanyaan yang sulit. Namun Amerika memiliki banyak perspektif yang berbeda, dan salah satu perspektif tersebut dianut oleh pendiri Comma AI dan sudah lama melakukan jailbreak, George Hotz pada akhir pekan. Postingan ini muncul sebagai tanggapan terhadap sejumlah rencana penyelarasan AI secara keseluruhan, yang terbaru adalah makalah kebijakan AI 2040: Plan A dari AI Futures Project. Makalah tersebut membayangkan sebuah dunia di mana para peneliti secara kolektif memilih untuk memperlambat pengembangan AI selama 14 tahun demi kebaikan umat manusia. Namun tentu saja, tidak semua orang yang membaca makalah tersebut setuju dengan premis atau kesimpulannya. Faktanya, Hotz tidak setuju dengan seluruh premis bahwa kemajuan AI harus dikelola demi kebaikan kolektif. Dalam postingannya, dia berargumentasi bahwa skenario lepas landas yang cepat – hipotesis di mana AI dengan cepat memperoleh kemampuan manusia super – tidak masuk akal. (Saya sangat setuju dengan apa yang dia katakan di sini!) Bagi Hotz, pendekatan terbaik terhadap penyelarasan dan keselamatan AI adalah dengan fokus pada model AI yang dikontrol secara lokal dan selaras dengan kepentingan penggunanya. Itu ide yang bagus, terutama karena ini mengingatkan saya betapa banyak AI saat ini dibangun berdasarkan layanan yang dikelola secara terpusat seperti Claude dan ChatGPT. Ada beberapa alasan terkait infrastruktur mengapa layanan AI berkembang seperti ini: Biaya untuk menghosting model besar yang canggih ini dan kebanyakan orang tidak cukup menggunakannya sepanjang hari untuk membenarkan AI yang benar-benar pribadi. Namun faktor-faktor tersebut menjadi kurang penting seiring dengan berkembangnya teknologi. Salah satu hal yang menarik dari OpenClaw adalah pendekatan eksperimental dan DIY ini, dan akan sangat menyenangkan melihat lebih banyak produk AI yang mencoba mewujudkannya kembali. Tapi Hotz pada dasarnya adalah seorang provokator, jadi dia tidak berhenti di situ. Dia membandingkan AI yang disesuaikan dengan pengguna dengan senjata (!), yang tidak akan mengeluh jika Anda menggunakannya untuk membunuh ibu tiri Anda. (Saya merasa ada aturan lain yang melarang hal ini?) AI yang benar-benar selaras akan dapat memesan peralatan laboratorium sabu dari Amazon Prime dan menunjukkan cara menggunakannya jika itu yang Anda inginkan dan minta, katanya. (Sekali lagi, menurut saya AI tidak akan menjadi faktor pembatas di sini.) Hotz bahkan mengatakan dia akan mati untuk mempertahankan prinsip ini, meskipun sulit membayangkan rangkaian peristiwa yang akan mengarah pada hal tersebut. “Kita hidup di dunia yang penuh kebebasan atau tidak,” tulis Hotz. Jika itu adalah pilihannya, dunia kebebasan akan terdengar lebih baik! Tetap saja, aku tidak tahu. Ini bukan tentang kebebasan, bukan? Struktur apa pun yang melibatkan banyak orang (masyarakat, pasar, perusahaan, dll.) memerlukan keseimbangan ekuitas, mengikat kebutuhan individu ke dalam jaringan preferensi yang saling bergantung dan sistem akuntabilitas. Dan siapa pun yang meluncurkan produk teknologi untuk pasar massal mungkin harus memikirkan jaringan tersebut secara keseluruhan, yang berarti menganggap serius kepentingan pasangan dan orang tua tiri di seluruh dunia yang belum terbunuh. Kebebasan yang dialami Hotz sebenarnya merupakan ruang masa depan potensial yang dimungkinkan oleh usaha kolektif; masa depan itu akan hilang dalam semalam jika kita semua mulai berperilaku seperti Napoleon kecil yang didukung AI. Seperti yang dikatakan meme tersebut, kita hidup dalam masyarakat. Memiliki AI lokal yang bersedia mengambil alih dunia korporat demi keuntungan saya memang terdengar keren! Saya tidak sabar menunggu unit review. Saat Anda membeli melalui tautan di artikel kami, kami mungkin mendapat komisi kecil. Hal ini tidak mempengaruhi independensi editorial kami.
Diterbitkan : 2026-07-13 16:31:00
sumber : techcrunch.com
