Nvidia memuji kinerja single-threaded CPU Vera sebagai keunggulan AI agennya, mengungkapkan inti CPU ‘Rigel’ Arm generasi berikutnya — membingkai chip sebagai ‘CPU single-threaded maksimal dalam skala besar,’ bukan monster paralel
Beberapa waktu yang lalu, Phoronix mendapat kesempatan untuk menguji coba salah satu CPU Vera berbasis Arm Nvidia yang akan datang. Dalam beban kerja tertentu yang disetujui, chip ini menunjukkan performa yang mengesankan, mengalahkan pesaing Xeon dan Epyc x86. Dalam skenario single-thread tertentu, Vera “benar-benar memenangkan persaingan” (kata-kata kami). Namun AMD menyampaikan beberapa hal mengenai pengujian Phoronix, dengan menggunakan metriknya sendiri yaitu peningkatan kinerja sebesar 3,3x dibandingkan Vera untuk output yang diproyeksikan dari rak perangkat kerasnya yang berkapasitas 100 kW. Dan Nvidia sudah memikirkan masa depan ini. Diungkapkan bahwa inti CPU Rigel Arm v9.2 generasi berikutnya, yang dikirimkan sebagai bagian dari CPU Rosa, akan memberikan kinerja per-inti yang lebih tinggi daripada inti Olympus Vera dalam jejak silikon yang sama melalui “pengiriman instruksi yang lebih baik”, cache L2 yang lebih banyak, dan penanganan memori yang lebih baik. Kini, Nvidia menegaskan kembali keunggulan Vera untuk pekerjaan AI dengan mendeskripsikannya dalam kategori produk baru: “CPU thread tunggal maksimal dalam skala besar” daripada monster pemrosesan paralel. Alih-alih sekadar memaksimalkan jumlah inti per soket, Nvidia mengatakan desain 88-inti monolitik Vera dimaksudkan untuk memberikan kinerja yang kuat per inti di bawah beban, bandwidth memori per inti yang cukup untuk menjaga inti aktif tetap disuplai dengan data, dan latensi yang dapat diprediksi. Video Terbaru DariNvidia menggambarkan beban kerja inferensi AI terikat oleh kecepatan thread tunggal. Misalnya, AI penalaran akan menjalankan model tersebut untuk satu langkah, dan akan menjalankan model tersebut lagi sebanyak yang diperlukan hingga jawabannya dihasilkan. Karena setiap langkah memerlukan keluaran dari langkah sebelumnya, paralelisme sebanyak apa pun tidak akan membantu — kecepatan di mana satu thread dapat berjalan adalah yang paling penting. Situasi serupa terjadi pada beban kerja agen, karena agen B tidak dapat memulai pekerjaannya tanpa mengetahui apa yang terjadi dengan agen A. (Kredit gambar: Nvidia) Oleh karena itu, desain Vera tampaknya ditujukan untuk memiliki dan memakan kue pepatah: kecepatan thread tunggal yang tinggi dengan sejumlah besar thread yang tersedia. Vera adalah desain 88-inti dengan dukungan SMT untuk total 176 thread. Dan untuk memasok masing-masing inti tersebut dengan bandwidth yang memadai, Nvidia mengatakan Vera berkomunikasi dengan RAM LPDDR5X dengan kecepatan 1,2 TB/dtk, dan bahwa komputasi monolitiknya menjaga inti tetap terisi dengan baik dan menghindari kemacetan berkat bandwidth inti-ke-inti sebesar 3,4 TB/dtk. Perusahaan mengatakan angka terakhir adalah 3x lipat dari “CPU pusat data lainnya”. Anda mungkin menyukai Ada banyak cara untuk mengukur bandwidth antar inti, jadi perbandingan langsung memang rumit, namun mengingat desain khusus Vera untuk tugas inferensi AI, klaim tersebut setidaknya masuk akal. Posting blog terbaru perusahaan tentang silikon baru menegaskan kembali poin ini, mengklaim bahwa silikon barunya memberikan kinerja 1,8x lebih tinggi dibandingkan pesaing x86 dalam “beban kerja CPU yang dimuat yang mewakili eksekusi agen,” kinerja 1,5x lebih tinggi dalam alur kerja pengkodean, dan 3x lebih cepat bekerja dalam analisis basis data. Dapatkan berita terbaik dan ulasan mendalam dari Tom’s Hardware, langsung ke kotak masuk Anda. Angka-angka yang digembar-gemborkan oleh Nvidia konon berasal dari skenario dunia nyata, dimulai dengan skenario dari Perplexity, yang penggunaan Vera dalam pekerjaan agen pengkodean menghasilkan peningkatan kinerja yang diklaim sebesar 1,5x dibandingkan x86, dan peningkatan kecepatan 1,9x saat menjalankan kotak pasir secara bersamaan. Peningkatan kecepatan yang diklaim masih lebih luas dalam beban kerja basis data, dengan Starburst (basis data gabungan firma) mencatat peningkatan 3x dalam analitik SQL skala besar, sementara analitik real-time Redpanda diklaim mengalami penurunan latensi 6x. Menurut Nvidia, semua kinerja yang diklaim ini dihasilkan oleh arsitektur khusus Vera, yang bertujuan untuk memberikan kinerja single-thread maksimal dengan jumlah thread yang tinggi. Kita harus mencatat bahwa tolok ukur yang disetujui vendor harus selalu diambil dengan hati-hati, terutama untuk perangkat keras di bidang yang dapat menghasilkan triliunan dolar dalam satu hari. Perusahaan tidak menyebutkan chip x86 mana yang diuji oleh Vera, tetapi dapat diduga bahwa chip tersebut adalah model Intel Xeon dan AMD Epyc kelas menengah hingga atas. Apa yang harus dibaca selanjutnya Namun demikian, dalam posting blognya, Nvidia menjelaskan sebuah teka-teki yang akrab bagi sebagian besar administrator server mana pun: chip server yang sangat besar dapat mengemas sejumlah inti, menjadikannya ideal untuk memproses banyak tugas sekaligus. Namun, semakin banyak inti yang Anda tambahkan, semakin lambat inti tersebut untuk menjaga kinerja termal dan penggunaan daya tetap terkendali. Namun skala tersebut merupakan hambatan untuk tugas-tugas yang perlu dilakukan saat ini, terkutuklah paralelisasi. Dan keputusan arsitektural yang terlibat dalam penggunaan chiplet untuk menskalakan ke jumlah inti yang tinggi juga tidak bebas. Nvidia menyebutnya sebagai “pajak chiplet”, dan dikatakan bahwa penskalaan menggunakan chiplet menciptakan inkonsistensi akses memori dan kinerja yang secara khusus ingin dihindari oleh desain monolitik Vera. Kami telah lama menekankan pentingnya kinerja single-thread yang tinggi untuk pengalaman yang cepat dan responsif pada PC klien, dan sepertinya agen AI pada akhirnya akan memberikan tuntutan serupa pada perangkat keras saat mereka melakukan tugasnya. Jika masa depan AI agen memang seperti itu, pengoptimalan desain khusus Nvidia untuk Vera lebih masuk akal daripada memprioritaskan jumlah inti di atas segalanya, karena mungkin ini untuk chip server tujuan umum yang dimaksudkan untuk memenuhi permintaan ekonomi dan pelanggan yang berbeda-beda. Kita harus melihat apakah Intel dan AMD merespons dengan “CPU single-threaded maksimal dalam skala besar” milik mereka sendiri. Ikuti Tom’s Hardware di Google Berita, atau tambahkan kami sebagai sumber pilihan, untuk mendapatkan berita, analisis, & ulasan terkini di feed Anda.
Diterbitkan : 2026-07-08 11:00:00
sumber : www.tomshardware.com
