Teknologi memori yang didukung Intel mendukung model 26 miliar parameter pada PC hanya dengan RAM 16 GB
Phison mengatakan teknologi ekstensi memori barunya dapat menjalankan model bahasa 26 miliar parameter pada PC hanya dengan RAM 16 GB, sehingga berpotensi memungkinkan perangkat lunak pintar yang lebih canggih untuk beroperasi secara lokal tanpa terlalu bergantung pada infrastruktur cloud. Perusahaan meluncurkan teknologi tersebut, yang disebut aiDAPTIV, di Computex 2026 di Taipei sebagai bagian dari kolaborasi dengan Intel. Sistem ini menggabungkan prosesor Intel Core Ultra Series 3 dengan platform ekstensi memori berbasis penyimpanan Phison untuk mendukung model yang lebih besar dan beban kerja yang berjalan lebih lama pada PC konsumen. Seiring dengan semakin mumpuninya aplikasi cerdas, aplikasi tersebut semakin memerlukan lebih banyak memori untuk menangani model yang lebih besar, memelihara riwayat sesi, dan menjalankan tugas multi-langkah. Banyak PC saat ini kekurangan DRAM untuk menjalankan beban kerja ini secara efisien, sehingga memaksa pengguna untuk bergantung pada layanan berbasis cloud. Phison mengatakan aiDAPTIV mengatasi keterbatasan ini dengan memperluas memori kerja melampaui DRAM tradisional dan ke dalam penyimpanan flash NAND berkinerja tinggi. Teknologi ini menggunakan apa yang disebut perusahaan Pascari aiDAPTIV Cache Memory untuk menyediakan sumber daya memori tambahan untuk beban kerja lokal. Mendobrak batas memori Menurut Phison, pengujian internal menunjukkan bahwa model dengan 26 miliar parameter dapat berjalan pada sistem yang dilengkapi dengan DRAM 16 GB ketika aiDAPTIV diaktifkan. Beban kerja yang sama memerlukan DRAM 32 GB tanpa teknologi dalam kondisi pengujian yang sama. Perusahaan mengatakan platform tersebut juga mendukung fitur runtime seperti penggunaan kembali cache KV, yang membantu menyimpan informasi dari interaksi sebelumnya dan mengurangi kebutuhan untuk memproses data yang sama berulang kali. Kolaborasi dengan Intel difokuskan untuk mengaktifkan aiDAPTIV pada platform Intel AI PC yang didukung oleh prosesor Core Ultra. Perusahaan-perusahaan tersebut juga berupaya untuk mendukung toolkit Intel OpenVINO dan mengevaluasi beban kerja yang dioptimalkan untuk demonstrasi kinerja di masa depan. “AI PC berkembang menjadi platform untuk beban kerja AI lokal yang lebih canggih, termasuk aplikasi agen dan model MoE yang lebih besar yang semakin menuntut kapasitas memori dan daya tanggap,” kata KS Pua, CEO dan Pendiri Phison Electronics. “Melalui kolaborasi kami dengan Intel, aiDAPTIV membantu memperluas ketersediaan memori yang diperlukan untuk beban kerja AI pada platform Intel AI PC, memungkinkan OEM, pengembang, dan pengguna akhir untuk menjalankan aplikasi AI yang lebih mumpuni secara lokal sambil menjaga privasi dan efisiensi infrastruktur.” Model lokal berkembang Di Computex, perusahaan mendemonstrasikan antarmuka obrolan lokal yang menjalankan model campuran ahli yang biasanya melebihi memori sistem yang tersedia. Phison juga memamerkan sistem perutean model bahasa besar hybrid yang dibangun di atas OpenClaw, kerangka kerja agen sumber terbuka. Demonstrasi ini memungkinkan model yang lebih besar untuk berjalan secara lokal sambil menggunakan sumber daya berbasis cloud hanya ketika permintaan yang lebih kompleks memerlukan pemrosesan tambahan. Intel mengatakan memori tetap menjadi salah satu hambatan utama untuk menjalankan model canggih pada perangkat keras klien. “Semakin banyak pengguna dan bisnis yang ingin menjalankan AI secara lokal — lebih cepat, lebih privat, dan tanpa biaya pengiriman semuanya ke cloud,” kata Jim Johnson, Senior Vice President dan General Manager, Client Computing di Intel. “Kolaborasi kami dengan Phison memungkinkan platform Intel AI PC mendukung beban kerja AI lokal yang lebih besar dengan konfigurasi memori yang lebih sederhana, sehingga pelanggan dapat mengubah data mereka menjadi aplikasi berguna dan nilai bisnis nyata dengan total biaya lebih rendah.” Pengumuman tersebut dibuat di Computex 2026 di Taipei.
Diterbitkan : 2026-06-02 17:55:00
sumber : interestingengineering.com
