OpenAI dan Broadcom mengumumkan chip yang dirancang untuk inferensi LLM dalam skala besar
OpenAI, perusahaan di balik ChatGPT dan Codex serta model yang digunakan alat-alat tersebut, dan Broadcom, pemasok silikon terkemuka, telah mengumumkan chip baru bernama Jalapeño, yang dirancang khusus untuk inferensi model bahasa besar di pusat data. Chip ini dimaksudkan untuk digunakan di pusat data besar, kedua perusahaan mengklaim ini hanyalah generasi pertama dalam proyek jangka panjang yang akan menyempurnakan chip seiring waktu. Broadcom mengatakan bahwa ASIC (Sirkuit Terpadu Khusus Aplikasi) ini dirancang dari awal untuk inferensi LLM, berdasarkan “wawasan mendetail” dari percakapan perusahaan dengan para peneliti di OpenAI, dan bahwa pengembangan chip tersebut diinformasikan oleh peta jalan OpenAI sendiri untuk model dan produk masa depan. Desain dan produksi chip tersebut memakan waktu sembilan bulan. Harapannya adalah bahwa chip ini lebih dikhususkan untuk kebutuhan LLM saat ini dibandingkan dengan sistem inferensi yang saat ini dijalankan di pusat data yang ada. OpenAI mengklaim bahwa “pengujian awal menunjukkan bahwa Jalapeño akan memberikan kinerja per watt yang jauh lebih baik daripada yang canggih saat ini,” namun mencatat bahwa hal ini tidak dilakukan untuk mengukur kinerja, dan bahwa “laporan teknis terperinci akan disajikan dalam beberapa bulan mendatang.”
Diterbitkan : 2026-06-24 22:28:00
sumber : arstechnica.com
