Bisakah perusahaan teknologi belajar menyukai model AI yang lebih murah?
Perkembangan AI dibangun berdasarkan asumsi dasar: model yang lebih besar akan lebih bertenaga, dan model yang paling kuatlah yang akan menang. Kini, industri ini akan mempelajari apa yang terjadi jika asumsi tersebut mulai dilanggar. Biaya pemasangan telah menekan pengguna untuk melihat kembali model yang lebih kecil dan lebih murah. Model belanja yang sadar biaya ini merupakan hal baru dan belum jelas bagaimana dampaknya terhadap industri, namun dampaknya kemungkinan besar akan signifikan. Salah satu prediksi, yang diungkapkan dengan baik oleh salah satu pendiri Coinbase, Brian Armstrong, adalah bahwa hal ini akan mengakibatkan sebagian besar tugas beralih ke model yang lebih murah. “Permintaan akan kecerdasan hampir tidak terbatas, namun 80% beban kerja akan dijalankan pada model yang 99% lebih murah dalam waktu 12-18 bulan,” tulis Armstrong di X. “20% beban kerja akan tetap dijalankan pada model generasi terbaru yang mengutamakan peningkatan IQ.” Sulit untuk melebih-lebihkan perubahan signifikan yang akan terjadi pada industri AI jika prediksi Armstrong menjadi kenyataan. Sebelumnya, sebagian besar perusahaan AI bersaing dalam hal kualitas, yang berarti mereka harus memilih model tercanggih yang tersedia. Jika pekerjaan-pekerjaan tersebut dapat ditangani dengan model yang lebih murah tanpa mempengaruhi kualitas, hal ini berarti adanya perubahan besar dalam bidang ekonomi AI. Dan yang terpenting, sebagian besar penghematan akan disalurkan ke laboratorium besar, sehingga memberikan pukulan finansial bagi OpenAI dan Anthropic saat mereka sedang menuju IPO. Hal ini berpotensi menimbulkan perubahan besar dalam industri, dan bertumpu pada satu pertanyaan mendasar: Apakah perusahaan siap beralih ke model yang lebih kecil? Pengujian awal menunjukkan bahwa, ketika sistem diatur dengan benar, model yang lebih murah dapat digunakan tanpa mengorbankan kualitas. Dalam pengujian terbaru yang dilakukan oleh alat AI legal Harvey, perusahaan mampu mengurangi biaya inferensi sebesar 3x tanpa mengurangi kualitas. Pengujian tersebut, dilakukan dalam kemitraan dengan platform inferensi Fireworks AI, menggabungkan Claude Opus dan GLM 5.1 Fireworks, dan dialihkan ke Opus untuk tugas yang paling intensif. Hasilnya adalah beban yang jauh lebih rendah dalam hal waktu server dan biaya keseluruhan. “Kualitas adalah yang utama, dan dalam bidang hukum, hal itu akan selalu terjadi,” salah satu pendiri Harvey, Gabe Pereyra, mengatakan kepada TechCrunch, mengacu pada layanan hukum AI yang disediakan oleh startupnya. “Namun, definisi kualitas terus berkembang dari sekedar menggunakan model yang paling kuat untuk segala hal, menjadi menggunakan model terbaik yang memberikan jawaban yang tepat dengan cara yang paling efisien.” Tren ini sering kali dibingkai dalam laboratorium besar versus model Tiongkok atau laboratorium terbuka, namun hal ini melenceng dari permasalahan yang lebih besar. Kesenjangan sebenarnya bukanlah antara model berpemilik dan model terbuka; itu antara model besar dan model kecil. Anda dapat menghemat uang dengan beralih dari GPT-5.5 ke V4 Flash DeepSeek, namun beralih ke GPT-5.4-mini juga bisa berfungsi. Ada perang harga aktif yang terjadi antara inferensi internal dari laboratorium besar dan model bobot terbuka yang disajikan secara independen. Untuk pertanyaan yang lebih besar tentang kecil versus besar, tidak masalah model kecil mana yang menang. Semua ini mungkin tampak jelas — tentu saja Anda tidak boleh menggunakan komputasi lebih dari yang diperlukan — tetapi hal ini bertentangan dengan pendekatan yang mengutamakan penskalaan yang mendominasi industri hingga saat ini. Terinspirasi oleh pelajaran pahit ini, laboratorium telah berupaya keras untuk melatih model-model dengan komputasi paling intensif, sehingga mendorong batas kemampuan model AI. Dengan harga yang disubsidi secara besar-besaran oleh investor, klien tidak punya alasan untuk memilih apa pun kecuali opsi yang paling canggih. Dengan meningkatnya harga token dan melambatnya subsidi, pengguna menghadapi tekanan biaya untuk pertama kalinya. Kami tidak tahu apakah tekanan biaya baru ini benar-benar akan mendorong pengguna perusahaan ke model yang lebih kecil. Mereka dapat dengan mudah melakukan penghematan dengan melakukan lebih sedikit panggilan, menggunakan lebih sedikit konteks, atau menyerah begitu saja pada penerapan yang paling tidak menjanjikan. Namun jika ternyata sebagian besar penerapan dapat dijalankan dengan baik pada model yang lebih kecil, hal ini dapat mengurangi permintaan inferensi yang terus meningkat – dan menimbulkan pertanyaan baru tentang bagaimana membenarkan biaya pelatihan model frontier. Saat Anda membeli melalui tautan di artikel kami, kami mungkin mendapat komisi kecil. Hal ini tidak mempengaruhi independensi editorial kami.
Diterbitkan : 2026-06-09 18:56:00
sumber : techcrunch.com
