JEDEC merilis standar SPHBM4 baru untuk memangkas biaya memori AI — Antarmuka 512-bit yang sempit memungkinkan penghapusan interposer yang mahal untuk substrat organik
JEDEC telah merilis spesifikasi barunya yang bertujuan untuk menurunkan harga HBM ultra-mahal yang mendukung prosesor AI tercepat. Meskipun standar baru ini tidak akan membantu meringankan kekurangan DRAM karena menggunakan perangkat DRAM HBM4 yang besar, standar baru ini dapat membuat memori bandwidth tinggi sedikit lebih murah karena memungkinkan pemasangan tumpukan memori SPHBM4 tanpa pengemasan lanjutan dan menggunakan substrat organik yang murah. Badan standar menerbitkan spesifikasi SPHBM4, Memori Bandwidth Tinggi Paket Standar (JESD330-4), yang menggabungkan IC DRAM HBM4 dengan kemasan standar dan antarmuka 512-bit ‘sempit’ yang cepat. Berikut detailnya.Kinerja HBM4 dengan antarmuka lebar 512-bitMeskipun antarmuka 1024-bit dan 2048-bit yang digunakan oleh memori HBM3 dan HBM4 memberikan kinerja yang tidak ada duanya, antarmuka lebarnya mengonsumsi area silikon yang signifikan di dalam prosesor, memerlukan interposer yang mahal, dan teknologi pengemasan canggih dengan kapasitas terbatas, seperti CoWoS TSMC, untuk integrasi dengan prosesor host. Memori SPHBM4 yang akan datang tetap menggunakan tumpukan DRAM HBM4 yang sama seperti JESD270-4, namun menukar cetakan dasar HBM konvensional dengan cetakan PHY/buffer SPHBM4 baru yang menampilkan antarmuka 512-bit yang lebih sempit yang memungkinkan pemasangan pada substrat organik standar tanpa menggunakan metode pengemasan yang canggih untuk integrasi. Untuk mengimbangi efek antarmuka yang lebih sempit, SPHBM4 mendukung kecepatan transfer data yang jauh lebih tinggi mulai dari 22,4 GT/s hingga 46,0 GT/s. Video Terbaru Dari Daripada menyambung ke prosesor host menggunakan antarmuka memori 2048-bit seperti HBM4, SPHBM4 menggunakan 32 saluran DDR 16-bit independen yang disusun menjadi delapan Saluran Quad. Karena ‘Quad Channel’ adalah istilah baru, mari kita jelaskan cara kerjanya. Secara internal, tumpukan HBM4 berisi 32 saluran memori, masing-masing lebarnya 64 bit, dengan total lebar antarmuka eksternal 2048 bit. SPHBM4 perlu ‘mengonversi’ I/O internal 2048-bit ke antarmuka eksternal 512-bit, itulah sebabnya ia mengelompokkan setiap empat saluran HBM4 ke dalam Quad Channel. Hasilnya, secara eksternal, Saluran Quad memaparkan 64 pin data (4 × 16 bit), yang menggantikan 256 pin data (4 × 64 bit) yang biasanya dibutuhkan oleh keempat saluran HBM4 tersebut. Untuk menghemat bandwidth, 64 pin ini beroperasi pada kecepatan data empat kali lipat dari antarmuka HBM4 asli. Meskipun SPHBM4 secara dramatis meningkatkan bandwidth I/O, hal ini tidak membuat array DRAM itu sendiri lebih cepat. Inti memori HBM4 mempertahankan arsitektur dan pengaturan waktu dasar yang sama, termasuk frekuensi inti, aktivasi baris, pengisian awal, dan operasi penyegaran, meskipun PHY tambahan diperkirakan akan menimbulkan beberapa latensi. Misalnya, inti DRAM hanya berjalan pada seperempat frekuensi antarmuka eksternal, yang berarti 2 GHz dalam kasus SPHBM4 dengan speed bin 32 GT/s. Anda mungkin menyukai Perubahan besar adalah base die baru, yang mengimplementasikan PHY mirip SerDes berkecepatan tinggi yang memetakan setiap saluran eksternal 16-bit ke empat saluran HBM4 64-bit konvensional. Hasilnya, SPHBM4 memperkenalkan pemerataan, pelatihan jalur, persyaratan BER, dan fitur pensinyalan berkecepatan tinggi lainnya yang tidak diperlukan dalam antarmuka paralel lebar HBM4 yang lebih lambat. Untuk mendukung kecepatan transfer hingga 46,0 GT/s/s per pin, setiap Quad Channel menggunakan antarmuka perintah/alamat bersama yang dilindungi oleh koreksi kesalahan maju (FEC), sementara transfer data mengandalkan jam tulis diferensial khusus (WCK) dan baca (RCK), serta ECC dan sinyal pelaporan kesalahan. Dalam hal kapasitas, SPHBM4 dapat menggunakan tumpukan yang berisi 4, 8, 12, atau 16 DRAM dies yang menampilkan 24 Gb atau Kepadatan 32 Gb, jadi konfigurasi SPHBM4 standar terbesar adalah tumpukan memori 64 GB yang dibuat dari enam belas DRAM 32 Gb, identik dengan kapasitas maksimum yang didukung oleh HBM4E. Dapatkan berita terbaik dan ulasan mendalam dari Tom’s Hardware, langsung ke kotak masuk Anda. HBM murah akhirnya? Standar ini mendukung bump pitch yang lebih besar dari 90 µm dan jangkauan saluran hingga 20 mm, yang merupakan dua fitur yang memungkinkan menjatuhkan interposer mahal dan menggunakan perutean substrat organik yang lebih murah. Namun, menghilangkan interposer dan kemasan CoWoS (atau serupa) tidak secara otomatis membuat SPHBM4 menjadi murah. SPHBM4 masih memerlukan IC DRAM HBM4 yang sangat besar, kemasan 2.5D, cetakan dasar yang kompleks (yang mungkin lebih mahal daripada yang digunakan oleh HBM4 konvensional), dan perakitan paket tingkat lanjut dengan via silikon tembus. Selain itu, antarmuka SPHBM4 yang sempit menggunakan perimeter die dan area silikon di dalam prosesor yang jauh lebih sedikit, sehingga membuatnya lebih menarik bagi perusahaan yang berusaha memasang lebih banyak kemampuan komputasi dan/atau berniat memasang lebih banyak tumpukan memori di sekitar prosesor mereka. Namun, kita masih berbicara tentang teknologi memori berkinerja tinggi khusus yang akan menangani aplikasi tertentu dan hampir tidak dapat menyaingi HBM4 secara langsung. Dalam hal kinerja maksimum, HBM4 memindahkan data dengan kecepatan 8 GT/dtk (meskipun sebagian besar pengontrol dan chip mendukung kecepatan data yang lebih tinggi), sehingga satu tumpukan HBM4 dapat menawarkan bandwidth 2 TB/dtk. HBM4E diatur untuk meningkatkan kecepatan transfer data menjadi 12 – 12,8 GT/s, sehingga meningkatkan bandwidth puncak menjadi 3 – 3,3 TB/s per tumpukan. Sebaliknya, satu SPHBM4 dengan antarmuka 46 GT/s dapat mencapai 2,944 TB/s, namun jangan berharap SPHBM4 versi awal mencapai kecepatan maksimum. Oleh karena itu, kemungkinan besar HBM4, HBM4E, dan C-HBM4E akan mempertahankan keunggulan kinerja dalam hal bandwidth dibandingkan SPHBM4 di masa mendatang. Latensi HBM4 mungkin masih memiliki keunggulan dibandingkan SPHBM4. HBM4 pada dasarnya terhubung ke prosesor hostnya hampir secara langsung melalui antarmuka yang sangat sederhana. Sebaliknya, SPHBM4 menyisipkan PHY yang jauh lebih canggih yang melakukan serialisasi/deserialisasi, pelatihan jalur, penanganan FEC, dan operasi lain yang dapat menambahkan latensi beberapa nanodetik. Ini mungkin bukan masalah besar untuk beberapa aplikasi, tetapi inferensi mendapat banyak manfaat dari latensi rendah. Apa yang harus dibaca selanjutnya Dalam hal daya dan voltase, HBM4 dan SPHBM4 berbagi voltase inti DRAM yang sama karena SPHBM4 menggunakan kembali tumpukan DRAM HBM4 standar. Namun, I/O berbeda: HBM4 menyerahkan tegangan antarmuka ke vendor memori dan memungkinkan implementasi pada 0,7V, 0,75V, 0,8V, atau 0,9V, bergantung pada keseimbangan yang diinginkan antara daya, kecepatan, dan integritas sinyal. Sebaliknya, SPHBM4 menstandarkan I/O eksternal pada 0,75V. Selain itu, HBM4 memindahkan data melalui antarmuka yang sangat luas dengan banyak tautan paralel lambat yang cenderung sangat hemat energi. Sebaliknya, SPHBM4 memindahkan jumlah data yang sama melalui seperempat jumlah kabel, yang berjalan kira-kira empat kali lebih cepat. Transfer data berkecepatan tinggi cenderung kurang hemat energi dibandingkan transfer data ‘lambat’ melalui antarmuka yang luas. Mengingat PHY SPHBM4 yang agak canggih yang mengubah antarmuka lebar menjadi antarmuka sempit, yang kemungkinan merupakan proses yang haus daya. Meskipun demikian, jumlah driver dan receiver yang 4X lebih rendah dapat mengurangi konsumsi daya SPHBM4 secara nyata. Meskipun demikian, tanpa rincian implementasi dari pembuat DRAM atau pengembang prosesor, mustahil untuk menyimpulkan jenis memori mana yang memiliki konsumsi daya lebih rendah. Yang terakhir, SPHBM4 pada dasarnya menggantikan tantangan manufaktur yang timbul dari penggunaan interposer silikon dengan tantangan teknis dalam mengembangkan base die/PHY yang sangat canggih. Mengembangkan dan memproduksi cetakan dasar seperti itu seharusnya tidak menjadi masalah bagi pabrik pengecoran logam. Namun, masih harus dilihat apakah pembuat DRAM dapat merancang dan memproduksi SPHBM4 dengan efisiensi daya yang layak. Bagaimanapun, Micron dan SK hynix bekerja dengan TSMC untuk membuat cetakan dasar C-HBM4E dan HBM4E, sedangkan divisi memori Samsung menggunakan cetakan dasar yang diproduksi oleh Samsung Foundry. Faktor TiongkokSalah satu aspek menarik dari SPHBM4 adalah apakah pengembang akselerator AI Tiongkok dapat memperoleh manfaat dari teknologi ini. Secara teori, pengembang Tiongkok seperti Biren, Huawei, Moore Threads, dan perusahaan-perusahaan lain yang masuk dalam daftar hitam yang tidak dapat menggunakan layanan manufaktur atau pengemasan chip TSMC dapat menjadi salah satu penerima manfaat terbesar dari SPHBM4, bahkan mungkin lebih dari AS. Kedua, OSAT Tiongkok saat ini tidak menawarkan teknologi mirip CoWoS, sehingga menghilangkan interposer dan menggunakan substrat organik canggih adalah suatu keuntungan. Namun, SPHBM4 masih memerlukan tumpukan DRAM HBM4, dan saat ini, Samsung, SK hynix, dan Micron adalah satu-satunya perusahaan yang mampu memproduksinya, sementara CXMT yang berbasis di Tiongkok hampir tidak dapat membuat HBM2E. Selain itu, membangun PHY 46 GT/s sangatlah sulit dan kemungkinan akan menjadi tantangan bagi pengembang IC Tiongkok. Meskipun demikian, merakit paket SPHBM4 pada substrat organik bisa dibilang lebih selaras dengan basis manufaktur Tiongkok yang sudah ada, sehingga jika pembuat DRAM lokal pada akhirnya mengembangkan memori kelas HBM4 yang kompetitif, SPHBM4 dapat secara signifikan mengurangi salah satu kesenjangan infrastruktur yang tersisa di negara tersebut. Ringkasan SPHBM4 dari JEDEC tampak seperti standar menjanjikan yang berpotensi mengatasi kesenjangan infrastruktur yang lebih luas. berbagai aplikasi daripada HBM4 itu sendiri karena biaya integrasi yang lebih rendah. Meski begitu, HBM4, HBM4E, dan C-HBM4E akan mempertahankan keunggulan performanya, yang akan menjadikannya pilihan yang lebih baik untuk akselerator AI andalan di tahun-tahun mendatang. Ikuti Tom’s Hardware di Google Berita, atau tambahkan kami sebagai sumber pilihan, untuk mendapatkan berita, analisis, & ulasan terkini di feed Anda.
Diterbitkan : 2026-07-08 15:03:00
sumber : www.tomshardware.com
