Saya mengganti Gemma 4 dengan LLM coding berusia dua tahun, dan pengaturan AI lokal saya bekerja lebih baik dari sebelumnya
Model lokal dengan tujuan umum adalah hal yang diinginkan kebanyakan orang, dan itu termasuk saya. Mereka menangani segala sesuatu yang bukan kode, yang pada dasarnya memakan waktu sepanjang hari jika Anda bukan seorang pengembang. Yang saya perlukan sebagian besar waktu hanyalah mengobrol, melakukan riset singkat, mengerjakan ide dengan lantang, sintesis dokumen, dan sebagainya. Namun menjalankan dua atau tiga model yang sama secara bergiliran selama berbulan-bulan mulai terasa agak membosankan, seperti makan siang yang sama setiap hari. Dan ini bukan hanya sekedar rutinitas, saya mulai menyadari bahwa mereka gagal pada titik-titik tertentu. Desain getaran sebenarnya adalah area di mana hal ini mulai muncul. Model umum saya dapat berbicara tentang desain dengan baik, tetapi ketika saya menghubungkannya ke alat desain lokal dan meminta keluaran aktual, hasilnya kasar. Model yang disesuaikan dengan pengkodean menanganinya dengan lebih baik. Itulah hal yang membuat saya penasaran untuk menjalankannya secara penuh waktu. Ingin terus mengikuti perkembangan AI terkini? Buletin XDA AI Insider terbit setiap minggu dengan penjelasan mendalam, rekomendasi alat, dan liputan langsung yang tidak akan Anda temukan di tempat lain di situs ini. Berlangganan dengan mengubah preferensi buletin Anda! Mengapa model pengkodean sebenarnya masuk akal Bagi seseorang yang tidak membuat kode Jika Anda pernah membaca artikel saya yang berhubungan dengan AI, Anda pasti tahu bahwa saya tidak tahu banyak tentang kode atau alur kerja pengembangan. Saya belum pernah menulis skrip, tidak tahu banyak istilahnya, dan separuh waktu ketika jejak tumpukan muncul, saya hanya menempelkannya di suatu tempat dan berharap yang terbaik. Apa yang saya miliki adalah banyak hal di komputer saya yang berbentuk seperti kode. Jadi di sini saya berbicara tentang hal-hal seperti frontmatter YAML di seluruh catatan Obsidian saya, file konfigurasi JSON untuk setiap alat AI yang saya jalankan, penurunan harga yang harus tetap diformat dengan cara tertentu, log dump yang aneh ketika sesuatu di Docker menolak untuk memulai, dan hal-hal seperti itu. Semua itu memiliki aturan: lekukan harus sejajar dan kunci serta nilai harus cocok. Model obrolan umum memperlakukan aturan lebih sebagai saran karena dioptimalkan agar terdengar bermanfaat. Model pengkodean memperlakukan aturan sebagai inti permasalahannya. Qwen 2.5 Coder dilatih pada 5,5 triliun token, tetapi hanya sekitar 45% di antaranya yang merupakan kode sumber. Selebihnya adalah bahasa alami, jadi bukan robot yang hanya bisa berbicara Python. Dan selain dari sisi kode, penting juga di sini bahwa Qwen 2.5 secara khusus disetel untuk keluaran terstruktur seperti JSON dan instruksi berikut, karena Coder mewarisinya. Lalu ada sisi desain, yang sebenarnya mendorong saya. Model yang disesuaikan dengan pengkodean lebih baik dalam mengeluarkan kode komponen yang dapat digunakan ketika saya bekerja di alat desain getaran lokal, dan saya tidak akan terus berpura-pura Gemma memotongnya di sana. Saya menggunakan Instruksi Qwen 2.5 Coder 3B. Ini dimulai pada bulan November 2024, yang merupakan waktu yang agak kuno di zaman AI. Pada Q4_K_M ukurannya sekitar 1,9 GB, yang berarti RTX 3070 saya dengan VRAM 8 GB dapat membongkar semuanya dan masih memiliki ruang untuk konteks. Versi GGUF mendukung konteks 32K, dan modelnya sendiri disesuaikan untuk tugas terstruktur yang sama dengan produk andalan 32B, hanya saja diperkecil. Penggunaan terbaik untuk varian kecil adalah apa yang saya cari. Tugas-tugas lokal yang membutuhkan ketelitian lebih dari sekedar kedalaman dan penyelesaian cepat pada masukan terstruktur. Terkait Saya akhirnya menemukan LLM lokal yang sebenarnya ingin saya gunakan untuk coding Qwen3-Coder-Next adalah model yang hebat, dan bahkan lebih baik lagi dengan Claude Code sebagai harness. Apa yang sebenarnya saya lakukan dengan Qwen Coder 2.5 Tugas-tugas kecil yang mengganggu, kebanyakan saya tidak menggunakan ini untuk skrip atau pengembangan perangkat lunak, melainkan sebagian besar hal-hal menjengkelkan yang mengisi hari saya di depan komputer. Contoh terbaik adalah file konfigurasi. Hampir setiap alat AI yang saya gunakan berjalan pada beberapa jenis konfigurasi, baik itu file JSON untuk server MCP Claude Desktop, pengaturan LM Studio, atau file penulisan yang saya kumpulkan dari berbagai eksperimen hosting mandiri. Ketika saya perlu menambahkan server baru, menukar jalur, atau memperbaiki sesuatu yang rusak karena salin-tempel, saya menyerahkan file tersebut dan membersihkannya kembali. Hal ini memastikan tidak ada koma yang terlewat dan juga tidak ada penjelasan cerewet tentang apa yang berubah. Frontmatter obsidian adalah satu lagi. Gudang saya telah berkembang selama beberapa waktu, dan YAML di bagian atas catatan saya tidak pernah konsisten; beberapa memiliki tag, tanggal, dan kolom yang sudah saya lupakan. Menstandardisasinya secara massal, atau menambahkan properti baru dalam satu batch, adalah hal yang mudah ditangani oleh model pengkodean. Lalu ada kategori “ada yang rusak”. Ini bisa berupa wadah yang tidak dimulai, atau alat berbasis Python yang menampilkan jejak tumpukan, atau file log yang memiliki tiga ribu baris dan hanya satu yang menjadi alasan semuanya tidak berfungsi. Saya menempelkannya dan bertanya apa yang terjadi. Bunyinya kekacauan terstruktur untuk mencari nafkah, jadi ia benar-benar menemukan masalahnya. Pembersihan data kecil juga dilakukan di sini. Ekspor CSV yang aneh, respons API yang saya ingin ubah menjadi tabel yang dapat dibaca, semacam itu. Satu-satunya kode yang sah menggunakan lingkaran untuk kembali ke beberapa karya desain saya. Saya telah menguji alat lokal seperti Open Design dan Open CoDesign akhir-akhir ini, dan alat tersebut memungkinkan Anda menyambungkan model lokal Anda. Alur kerja desain getaran ini adalah yang paling dekat dengan “menulis” kode, dan meskipun demikian sebenarnya bukan saya yang menulisnya, saya hanya menjelaskan apa yang saya inginkan. Terkait Saya akhirnya menemukan LLM lokal sumber terbuka yang benar-benar bersaing dengan cloud AI Sumber terbuka sedang mengejar Dimana Gemma 4 masih mendapatkan tab Bukan pertukaran penuh, tetapi tambahan Saya tidak bermaksud untuk menyingkirkan Gemma. Itu masih ada di mesin saya dan masih menjadi apa yang saya raih hampir setiap hari, hanya saja bukan untuk hal-hal terstruktur karena saya menyadari bahwa itu bukanlah keunggulannya. Percakapan sebenarnya adalah tempat yang menang. Memikirkan sesuatu atau mencari sudut pandang untuk sebuah ide, misalnya. Bolak-balik saat Anda belum benar-benar mencari jawaban, Anda hanya mencoba mencari tahu apa yang Anda tanyakan. Model pengkodean adalah perusahaan yang sangat buruk untuk itu. Visi adalah hal besar lainnya. Qwen 2.5 Coder hanya berupa teks, jadi tidak ada input gambar sama sekali. Gemma 4 menangani gambar secara asli, yang bagi saya merupakan masalah besar karena saya terus-menerus mengambil informasi dari tangkapan layar, dari tangkapan UI yang perlu saya jelaskan atau diagram yang ingin saya rangkum menjadi sesuatu yang telah saya tandai dan ingin mendapat masukan. Pengetahuan umum dan penelitian ringan juga tetap berada di pihak Gemma. Ini lebih luas, lebih banyak bicara, dan ketika saya ingin mengetahui sesuatu yang tidak banyak saya ketahui, itu adalah perhentian pertama yang lebih baik. Dan khususnya pada kode, saya ingin bersikap adil di sini. Gemma tidak buruk dalam hal itu, hanya saja tidak terspesialisasi untuk itu. Untuk pertanyaan “apa fungsi baris ini”, tidak masalah. Namun untuk sesuatu yang lebih terstruktur, Qwen Coder adalah pilihan yang lebih baik. Terkait Saya menggunakan Meta Llama 4, Qwen 3-Coder dan Gemma 4 untuk mengembangkan aplikasi Python, dan hanya satu model yang layak dipertahankan untuk pengembang. Menguji beberapa model lokal terbaik untuk pengujian pengembangan. Bukan model yang saya harap akan terus bekerja dengan hal-hal yang beraroma kode terasa tidak terlalu menakutkan sejak saya mulai menggunakan Claude Code, jadi mencoba model yang disesuaikan dengan pengkodean secara lokal adalah langkah berikutnya yang cukup alami. Dan ternyata sangat cocok, hampir seperti memiliki Claude Code versi lokal untuk analisis dan tugas terstruktur. Ukuran 3B juga berjalan lancar di PC saya, yang merupakan alasan lain mengapa ukurannya macet.
Diterbitkan : 2026-07-10 20:30:00
sumber : www.xda-developers.com
