Startup Perancis yang populer, ZML, merilis produk gratis untuk mempercepat inferensi di banyak chip AI
Hari-hari dominasi pasar Nvidia yang tak tertandingi belum berakhir, namun tantangan dan pilihan bermunculan dari segala arah. ZML, startup AI Perancis yang didukung oleh pemenang Turing Award Yann LeCun, telah merilis perangkat lunak berkinerja inferensi yang memungkinkan berbagai model bahasa besar sumber terbuka dijalankan pada berbagai chip — termasuk Nvidia, AMD, TPU Google, Apple Metal, dan Intel Arc. Dengan ZML/LLMD, server inferensi LLM yang baru diluncurkan, ambisi perusahaan adalah mendobrak silo yang ada dan menyediakan chip berbeda untuk kasus penggunaan AI dengan kecepatan maksimum yang tersedia, dan terkadang lebih cepat, kata pendiri ZML Steeve Morin kepada TechCrunch. Ketika AI terintegrasi ke dalam pekerjaan dan kehidupan kita sehari-hari, pengoptimalan inferensi — alias, pemrosesan perintah — telah melampaui kepentingan pelatihan model, namun sering kali terasa tidak merata di belakang layar, dengan hambatan perangkat lunak dan arsitektur yang menyebabkan penguncian vendor, kata Morin. Janji untuk mencapai kinerja puncak pada berbagai chip merupakan prestasi teknologi, namun hal ini juga bisa menjadi pengganggu pasar, di tengah meningkatnya kekhawatiran atas biaya terkait AI. ZML berharap dapat memberikan pilihan bagi perusahaan dan cloud untuk menggunakan campuran chip, yang beberapa di antaranya mungkin lebih murah atau mengonsumsi lebih sedikit energi. “Idenya adalah memberikan kembali kemampuan kepada masyarakat untuk menciptakan sistem mereka sendiri dan mencapai peningkatan efisiensi nyata yang memungkinkan (AI) disebarluaskan,” kata Morin. Bantuan perangkat lunak semacam itu dapat membantu pembuat chip AI baru, yang banyak di antaranya berasal dari Eropa, kata Morin, mengutip Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud, dan VSORA. Namun lebih dari sekadar wilayah asal mereka, yang penting baginya adalah ZML dapat bekerja sama dengan mereka dalam “hal-hal yang belum pernah dilakukan sebelumnya di mana pun di dunia.” Itu tidak berarti Morin bersikap kasar terhadap Nvidia. Namun, hal tersebut tidak terjadi, sebagian karena pasokan yang ada. Dia mengatakan kepada TechCrunch bahwa ZML memiliki hubungan baik dengan raksasa chip AI, yang sedang bersiap untuk kebangkitan inferensi. Inferensi telah menjadi area dengan investasi yang begitu besar, sehingga tren ini disebut sebagai “demam emas inferensi.” Jadi ZML memiliki pesaing seperti Baseten, yang baru-baru ini bernilai $13 miliar; Inferact, dari pencipta proyek sumber terbuka vLLM; serta RadixArk, perusahaan komersial di belakang SGLang. Baik vLLM maupun SGLang sebagian bersaing dengan LLMD, namun ambisi Morin untuk ZML mencakup spektrum yang lebih luas. “Kami telah mencapai titik di mana kami merancang silikon bersama,” katanya. Dia lebih lanjut memuji tim ramping ZML yang terdiri dari 20 orang sebagai alasan mengapa startup yang berbasis di Paris ini mampu bergerak cepat, dengan rencana rilis lebih banyak. Hal ini juga membantu tim kecil ini mendapatkan pendanaan yang cukup untuk ukurannya. Berkat rekam jejaknya sebagai VP teknik Zenly, yang diakuisisi Snapchat sebesar sembilan digit pada tahun 2017, Morin mengumpulkan $20 juta dari perusahaan ventura termasuk 20VC milik Harry Stebbings, >commit, AALVC, Drysdale Ventures, Kima Ventures milik Xavier Niel, Kindred Capital, LocalGlobe, dan Puzzle Ventures. Berbeda dengan proyek publik pertama ZML, kerangka kerja ML yang berfokus pada inferensi dirilis pada tahun 2024 dan diperbarui pada bulan Maret, ZML/LLMD bukanlah open source. Namun diluncurkan sebagai produk gratis dengan tujuan mempelajari penggunaan. “Saya lebih suka mengukur dan (kemudian menghasilkan pendapatan) di tempat yang paling efektif tanpa menghalangi pertumbuhan saya secara bodoh karena saya sudah terlalu serakah sejak awal,” kata Morin. Masih terlalu dini untuk mengatakan kapan ZML/LLMD akan menjadi produk berbayar, dan seperti apa penerapannya. Namun tabel batas startup menegaskan bahwa pendiri lain juga menaruh perhatian, termasuk pendiri Dagger dan Docker Solomon Hykes, Clément Delangue dan Julien Chaumond dari Hugging Face, serta LeCun, yang sekarang bekerja di AMI Labs. Hal ini juga membuktikan bahwa startup AI di Eropa kini dapat membangunnya dari rumah. “Saya tidak bisa melakukan ZML di mana pun kecuali di Paris,” kata Morin. Saat Anda membeli melalui tautan di artikel kami, kami mungkin mendapat komisi kecil. Hal ini tidak mempengaruhi independensi editorial kami.
Diterbitkan : 2026-07-08 08:00:00
sumber : techcrunch.com
