- SPHBM4 memotong jumlah pin secara dramatis sekaligus mempertahankan kinerja bandwidth kelas hyperscale
- Substrat organik mengurangi biaya pengemasan dan mengurangi kendala perutean dalam desain HBM
- Serialisasi menggeser kompleksitas ke dalam lapisan silikon pensinyalan dan logika dasar
Memori bandwidth tinggi telah berevolusi di sekitar antarmuka paralel yang sangat luas, dan pilihan desain tersebut telah menentukan batasan kinerja dan biaya.
HBM3 menggunakan 1024 pin, sebuah angka yang telah melampaui batas interposer silikon padat dan kemasan canggih.
Asosiasi Teknologi Solid State JEDEC sedang mengembangkan alternatif yang dikenal sebagai Paket Standar Memori Bandwidth Tinggi 4 (SPHBM4), yang mengurangi lebar antarmuka fisik sambil mempertahankan total throughput.
Antarmuka HBM4 menggandakan HBM3
Spesifikasi standar HBM4 menggandakan lebar antarmuka HBM3 menjadi 2.048 pin, dengan sinyal digital melewati setiap kontak untuk meningkatkan throughput agregat.
Pendekatan penskalaan ini meningkatkan bandwidth, namun juga meningkatkan kompleksitas perutean, kebutuhan substrat, dan biaya produksi, yang menjadi perhatian perancang sistem.
Perangkat SPHBM4 yang direncanakan menggunakan 512 pin dan mengandalkan serialisasi 4:1 saat beroperasi pada frekuensi sinyal yang lebih tinggi.
Dalam hal bandwidth, satu pin SPHBM4 diharapkan membawa beban kerja yang setara dengan empat pin HBM4.
Pendekatan ini mengalihkan kompleksitas dari jumlah pin ke arah teknologi persinyalan dan desain logika dasar.
Mengurangi jumlah pin memungkinkan jarak yang lebih lebar antar kontak, yang secara langsung memengaruhi pilihan pengemasan.
JEDEC menyatakan bahwa bump pitch yang santai ini memungkinkan koneksi ke substrat organik daripada interposer silikon.
Substrat silikon mendukung kepadatan interkoneksi yang sangat tinggi dengan pitch di atas 10 mikrometer, sedangkan substrat organik biasanya beroperasi mendekati 20 mikrometer dan biaya produksinya lebih murah.
Oleh karena itu, interposer yang menghubungkan tumpukan memori, logika dasarnya, dan akselerator akan berpindah dari desain berbasis silikon ke desain substrat organik.
Perangkat HBM4 dan SPHBM4 diharapkan menawarkan kapasitas memori per tumpukan yang sama, setidaknya pada tingkat spesifikasi.
Namun, pemasangan substrat organik memungkinkan panjang saluran yang lebih panjang antara akselerator dan tumpukan memori.
Konfigurasi ini memungkinkan lebih banyak tumpukan SPHBM4 per paket, yang dapat meningkatkan total kapasitas memori dibandingkan dengan tata letak HBM4 konvensional.
Untuk mencapai hasil ini memerlukan cetakan logika dasar yang didesain ulang, karena tumpukan memori SPHBM4 melibatkan pengurangan jumlah pin empat banding satu dibandingkan dengan HBM4.
HBM bukanlah memori tujuan umum dan tidak ditujukan untuk sistem konsumen.
Kasus penggunaannya tetap terkonsentrasi pada akselerator AI, komputasi berkinerja tinggi, dan GPU di dalam pusat data dioperasikan oleh hyperscaler.
Pembeli ini bekerja pada skala di mana bandwidth memori secara langsung mempengaruhi efisiensi pendapatan, yang membenarkan investasi berkelanjutan pada teknologi memori yang mahal.
SPHBM4 tidak mengubah model penggunaan ini, karena mempertahankan bandwidth dan kapasitas kelas HBM sekaligus mengoptimalkan struktur biaya tingkat sistem yang terutama penting untuk penerapan skala besar.
Meskipun terdapat referensi mengenai biaya yang lebih rendah, SPHBM4 tidak menunjukkan jalur menuju konsumen RAM pasar.
Bahkan dengan substrat organik, SPHBM4 tetap menyimpan memori dengan logika dasar khusus dan sambungan erat ke akselerator.
Karakteristik ini tidak selaras dengan arsitektur memori konsumen berbasis DIMM, ekspektasi harga, atau desain motherboard.
Pengurangan biaya apa pun berlaku dalam ekosistem HBM itu sendiri, bukan di pasar memori yang lebih luas.
Namun, agar SPHBM4 menjadi standar yang layak, diperlukan dukungan dari pemasok besar.
“Anggota JEDEC secara aktif membentuk standar yang akan menentukan modul generasi berikutnya untuk digunakan di pusat data AI…” kata Mian Quddus, ketua Dewan Direksi JEDEC.
Pemasok utama, termasuk Micron, Samsungdan SK Hynix, adalah anggota JEDEC dan sudah mengembangkan teknologi HBM4E.
“Solusi #NuLink D2D/D2M #interconnect kami telah menunjukkan kemampuan untuk mencapai bandwidth 4TB/dtk dalam kemasan standar, yang berarti hingga 2x bandwidth yang dibutuhkan oleh…standar HBM4, jadi kami berharap dapat memanfaatkan pekerjaan yang telah dilakukan JEDEC dengan SPHBM4…” kata Eliyan, perusahaan semikonduktor logika dasar.
Melalui Blok & File
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
