- Biaya pendinginan melonjak karena Nvidia mendorong batas daya pada generasi rak berturut-turut
- Baki komputasi mendominasi biaya karena meningkatnya kebutuhan pelat dingin dan kepadatan termal
- Penghematan switch tray tidak dapat mengimbangi meningkatnya permintaan dari GPU tray berdaya tinggi
Biaya pemeliharaan NvidiaSistem rak kelas atas yang keren terus meningkat seiring setiap generasi mendorong lebih dalam ke tingkat daya ekstrem.
Laporan Morgan Stanley diperoleh oleh @Jukanlosreve mengungkapkan perangkat keras pendingin cair di dalam GB300 NVL72 berharga $49,860, kira-kira cukup untuk membeli yang baru Tesla Model Y.
Laporan tersebut lebih lanjut memperkirakan sistem pendingin cair yang diperlukan untuk konfigurasi Vera Rubin NVL144 yang lebih baru akan mendekati $55.710, meningkat 17%.
Keekonomian pendinginan tingkat baki
Platform ini bergantung pada Rubin yang lebih keren GPU diberi nilai hingga 1.800W per unit, bersama dengan komponen NVSwitch 6.0 generasi berikutnya.
Biaya untuk mendinginkan sistem ini dikaitkan dengan masing-masing baki komputasi, dan setiap baki komputasi memerlukan pelat dingin berkapasitas lebih tinggi.
Biaya per baki komputasi diperkirakan akan meningkat sebesar 18% menjadi sekitar $2.660 – dan karena sistem Vera Rubin NVL144 memiliki 18 baki, total biaya pendinginan sisi komputasi mencapai sekitar $47.880.
Peningkatan ini berasal dari pelat dingin berkapasitas lebih tinggi, yang naik menjadi $400 per unit CPU dan GPU melampaui batas termal.
Sementara itu, pendinginan switch tray tampaknya tidak terlalu memberatkan, turun menjadi $870 per tray dan total $7,830 per rak.
Namun, ini Pengurangan ini dibayangi oleh lonjakan yang jauh lebih besar pada sisi komputasi, karena lintasan biaya mengikuti suatu pola: transisi dari GB200 NVL72 menyebabkan peningkatan sebesar 20% dalam permintaan pendinginan untuk GB300 NVL72.
Demikian pula, perpindahan dari GB300 NVL72 ke Vera Rubin NVL144 menambah 17% lagi. Tingkat kekuatan menjelaskan tren ini.
Setiap Blackwell Ultra pusat data GPU menggunakan 1.400W, Grace CPU membutuhkan 300W, dan memori menyumbang 200W per soket.
Ketika beban kerja meningkat, nilai pendinginan presisi juga meningkat dengan cepat, namun sistem di masa depan akan semakin memperparah hal ini. Nvidia merencanakan peralihan ke GPU Rubin Ultra yang mungkin mencapai daya desain termal 3.600W per paket, dan memenuhi persyaratan tersebut mungkin memerlukan pelat dingin jenis baru atau teknik pendinginan yang lebih agresif.
Nvidia juga mempersiapkan sistem NVL576 “Kyber” berpendingin cairan, yang akan mencakup 144 paket GPU, dan akan memberikan kinerja lebih tinggi daripada Vera Rubin NVL144, sekaligus membawa tagihan pendinginan yang lebih besar.
Meskipun jumlah dolar akhir belum dikonfirmasi, pelat berkapasitas tinggi yang mampu menghilangkan 3,6kW panas jelas akan melebihi $400 per unit saat ini.
Hal ini mengirimkan sinyal bahwa instalasi pusat data di masa depan akan menghadapi biaya termal yang lebih besar.
Melalui Perangkat Keras Tom
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
