- John Carmack telah berbagi ide untuk menggunakan fiber daripada RAM
- Ini adalah visi masa depan untuk menggantikan modul RAM pada beban kerja AI
- Meskipun hal ini masih bersifat teoritis dan masih jauh dari harapan, ada kemungkinan solusi jangka pendek lainnya untuk mengurangi kebutuhan AI akan RAM.
John Carmack telah mengutarakan ide untuk menggunakan secara efektif serat kabel sebagai ‘penyimpanan’ dibandingkan modul RAM konvensional, yang merupakan visi masa depan yang sangat menarik mengingat krisis memori saat ini dan semua kekacauan yang ditimbulkannya.
Perangkat Keras Tom menyadarinya salah satu pendiri postingan id Software di X di mana Carmack mengusulkan bahwa kabel serat optik yang sangat panjang – dan kita berbicara sepanjang 200 km – dapat secara efektif mengisi RAM sistem, setidaknya ketika bekerja dengan model AI.
Carmack mengamati: “Kecepatan data 256Tb/s pada jarak 200 km telah ditunjukkan pada serat optik mode tunggal, yang menghasilkan 32GB data dalam penerbangan, ‘disimpan’ dalam serat, dengan bandwidth 32TB/s. Inferensi dan pelatihan jaringan saraf [AI] dapat memiliki pola referensi bobot deterministik, jadi menarik untuk mempertimbangkan sistem tanpa DRAM, dan bobot terus dialirkan ke cache L2 melalui loop serat daur ulang.”
Artinya, panjang serat tersebut adalah sebuah loop di mana data yang diperlukan (biasanya disimpan dalam RAM) “dialirkan terus-menerus” dan menjaga agar prosesor AI selalu diumpankan (karena bobot model AI dapat diakses secara berurutan – jika tidak, hal ini tidak akan berhasil). Ini juga merupakan cara yang sangat ramah lingkungan dan hemat daya untuk menyelesaikan tugas-tugas ini, dibandingkan dengan RAM tradisional.
Seperti yang ditunjukkan Carmack, ini adalah “persamaan modern dari kenangan tabung gema merkuri kuno”, atau memori garis tundadi mana data disimpan dalam gelombang melalui kumparan kawat.
Ini bukanlah sebuah ide yang bisa dilakukan saat ini, tapi sebuah konsep untuk masa depan, seperti yang telah disebutkan – dan apa yang Carmack perdebatkan adalah bahwa ini adalah sebuah jalan ke depan yang mungkin memiliki “lintasan pertumbuhan yang lebih baik” dibandingkan dengan yang kita lihat saat ini dengan DRAM tradisional.
Analisis: flash ke depan
Ada sangat masalah yang jelas dengan RAM saat ini dalam hal pasokan dan permintaan, yang terakhir jauh melampaui yang sebelumnya berkat kebangkitan AI dan kebutuhan memori yang besar di dalamnya. (Tidak hanya untuk server di pusat data yang mengirimkan kueri model AI populertapi juga RAM video di papan akselerator AI.)
Jadi apa yang Carmack bayangkan adalah cara berbeda untuk beroperasi dengan model AI yang menggunakan jalur fiber. Secara teori, hal ini dapat membuat kita semua bebas untuk tidak lagi mengkhawatirkan RAM yang menghabiskan banyak uang (atau bahkan PCatau a kartu grafisdan daftarnya berlanjut dengan dampak krisis memori terhadap harga).
Masalahnya adalah ada banyak masalah dengan proposisi fiber seperti itu, seperti yang diakui Carmack. Hal ini mencakup banyaknya serat yang dibutuhkan dan kesulitan dalam mempertahankan kekuatan sinyal melalui loop.
Namun, ada kemungkinan lain dalam hal ini, dan orang lain telah membicarakan konsep serupa selama beberapa tahun terakhir. Carmack menyebutkan: “Lebih praktisnya, Anda seharusnya bisa menyatukan memori flash murah untuk menyediakan hampir semua bandwidth baca yang Anda perlukan, asalkan dilakukan halaman demi halaman dan disalurkan jauh ke depan. Hal ini seharusnya dapat dilakukan untuk melayani inferensi saat ini jika vendor flash dan akselerator dapat menyepakati antarmuka berkecepatan tinggi.”
Dengan kata lain, ini adalah sekumpulan modul memori flash murah yang digabungkan, bekerja secara paralel secara besar-besaran, tetapi seperti yang dicatat oleh Carmack, kuncinya adalah menyetujui antarmuka di mana chip ini dapat bekerja secara langsung dengan akselerator AI.
Ini adalah proposisi jangka pendek yang menarik, namun bergantung pada produsen terkait (GPU AI dan penyimpanan) yang bertindak bersama dan merancang sistem baru dalam hal ini.
Krisis RAM diperkirakan akan berlangsung pada tahun ini, dan mungkin juga pada tahun depan, dan berpotensi berlangsung lebih lama lagi dengan segala macam dampak yang merugikan konsumen. Jadi, mencari solusi alternatif untuk memori dalam hal model AI bisa menjadi upaya berharga untuk memastikan krisis RAM ini adalah episode terakhir yang harus kita alami.
Laptop terbaik untuk semua anggaran
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja, Anda juga dapat mengikuti TechRadar YouTube Dan TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
