Gemma 4 melihat, mendengar, dan membaca di laptop 16GB saya, dan tidak pernah menelepon ke rumah
Namun, sejak lama, AI multimodal memiliki pola di mana semua hal mengesankan biasanya terjadi di cloud. Tangkapan layar, catatan suara, dan dokumen Anda harus dikirim ke server pihak ketiga, diproses oleh model orang lain, dan dikembalikan dengan tanggapan. Implikasi privasi hanyalah harga dari kenyamanan yang Anda dapatkan. Semua ini wajar jika Anda hanya mengatur beberapa catatan acak yang ingin Anda pahami, namun bagi siapa pun yang bekerja dengan kekayaan intelektual, informasi kesehatan, dan data identitas pribadi, cloud AI menghadirkan risiko yang tidak mereka inginkan. Yang terakhir secara khusus adalah kelompok orang yang saya rekomendasikan untuk keluarga model Gemma. Model terbuka Google dapat melakukan hampir semua hal yang Anda harapkan dari LLM. Mereka dapat melihat gambar, memahami ucapan, mengurai dan memindai dokumen, dan mungkin yang paling mengesankan, mereka hadir dalam berbagai ukuran, yang berarti mereka dapat digunakan hampir terlepas dari perangkat apa pun yang dimiliki. Inilah mengapa Gemma 4 adalah “jack of all trade” pribadi saya. Terkait Saya akhirnya menemukan LLM lokal sumber terbuka yang benar-benar bersaing dengan cloud AI Sumber terbuka sedang mengejar Gemma 4 mungkin satu-satunya model lokal yang Anda perlukan. Bagi sebagian besar pengguna, ia melakukan segalanya, dan melakukan segalanya dengan baik Google telah membuat banyak kemajuan di bidang AI dalam beberapa tahun terakhir. Dari NotebookLM, lalu model Gemini pertama, lalu Google Opal, disusul Gemini Omni. Berdasarkan pencapaian ini, keluarga Gemma tampaknya mengambil DNA inti dari setiap inovasi dan mengemasnya untuk pelaksanaan lokal, yang, menurut saya, menjadikannya pengembangan paling menarik dari Google. Ketika saya mengatakan Gemma 4 unggul dalam sebagian besar tugas yang Anda lakukan, saya terutama mengacu pada kemampuan penglihatannya, yang sulit untuk dimiliki dalam model bahasa apa pun di zaman sekarang ini. Ketika saya mengatakan bahwa ia melakukan sebagian besar tugas dengan baik, tentu saja yang saya maksud adalah kemampuannya dan juga sumber daya yang dibutuhkan dari pengguna. Secara konvensional, model yang dilengkapi dengan kemampuan visi perlu menempati memori di VRAM Anda sambil menambahkan latensi ke setiap gambar yang Anda masukkan ke dalam obrolan, karena model tersebut memerlukan encoder visi untuk dapat “melihat” apa yang Anda bagikan. Gemma 4 tidak benar-benar membutuhkan overhead sama sekali, dan alasan di baliknya adalah keputusan arsitektur yang cerdas. Gambar dapat mengalir langsung ke tulang punggung model melalui lapisan penyematan yang ringan, sehingga menghemat pajak memori yang dipungut model serupa lainnya. Kurangnya overhead ini memungkinkan saya menjalankan model pada Lenovo Legion 5 saya yang dilengkapi dengan ponsel RTX 3070 dengan VRAM 8GB, yang, seperti yang sudah Anda duga, menyisakan sedikit ruang untuk overhead apa pun. Dalam penggunaan saya, saya memberinya tangkapan layar halaman BIOS, data benchmark, grafik kinerja, dan menyerahkannya kepada model untuk mengambil angka sebagai tabel bersih yang dapat saya masukkan ke model lain untuk diekspor sebagai spreadsheet Excel. Namun tentu saja, dengan faktor privasi tambahan dari semua data yang ada di PC Anda, Anda boleh menambahkan apa pun yang tidak Anda inginkan di server cloud. Ini adalah model lokal yang mendengarkan Anda Dan saya tidak hanya bermaksud secara metaforis. Setiap orang memiliki cara yang mereka sukai dalam menggunakan model bahasa yang terkait langsung dengan alur kerja mereka. Terkadang berupa PDF, terkadang berupa spreadsheet, dan terkadang berupa rekaman percakapan selama beberapa jam yang tidak ingin diputar ulang oleh siapa pun dari awal hingga akhir. Ini bisa berupa rapat, wawancara, kuliah di universitas, dan catatan suara yang sering kali berisi lebih banyak informasi daripada yang kita ingat, namun menyalinnya secara manual menjadi sesuatu yang dapat dicari dan diindeks adalah hal yang membuat alur kerja sering kali menemui jalan buntu. Masalah itulah yang kini dapat diatasi oleh kemampuan audio Gemma 4. Alih-alih memperlakukan pengenalan ucapan sebagai langkah terpisah yang memaksa Anda untuk beralih ke model lain atau membayar sejumlah uang ke layanan transkripsi online, ia dapat mendengarkan rekaman secara langsung dan mempertimbangkan apa yang didengarnya. Anda dapat memintanya untuk meringkas informasi, mengingat item yang dapat ditindaklanjuti, mengidentifikasi tema utama atau tema yang berulang, atau menjawab pertanyaan tentang rekaman tanpa terlebih dahulu menerjemahkannya ke dalam teks terlebih dahulu. Meskipun saya baru menemukan fitur ini baru-baru ini, hal itulah yang mendorong saya untuk menjulukinya sebagai model “pisau tentara Swiss”. Tentu saja, saya dapat dengan mudah menggunakan model cloud untuk mengatasi masalah ini, namun hal ini berarti memaparkan rekaman pengarahan ke server cloud orang lain dan mungkin berakhir di area abu-abu karena melanggar kebijakan kepatuhan data, sehingga hal ini bukanlah pilihan bagi siapa pun yang berada di sektor dengan regulasi ketat. Meskipun Anda mengabaikan kewajiban hukum, Anda masih akan menemukan pengguna yang tidak bersedia membiarkan data pribadi mereka digunakan untuk melatih model lain. Dalam artian, Gemma memberikan kemudahan tanpa biaya. Untuk model Gemma 4, saat ini hanya model E2B dan E4B yang menawarkan pengenalan ucapan otomatis asli. Memorinya mengubah cara saya bekerja Jendela konteks 256K menjadikan AI lokal sangat praktis. Varian 12B dari Gemma 4 hadir dengan jendela konteks 256K, yang berarti saya dapat menyerahkan seluruh karya William Shakespeare, catatan rapat selama satu tahun, dan bahkan repositori kode kecil dan mengharapkan jawaban berdasarkan semuanya. Sulit dipercaya bahwa, belum lama ini, model lokal yang ramah laptop masih terjebak dalam menjalankan jendela 8K dan melupakan pertanyaan pertama Anda pada pertanyaan ketiga. Di sinilah Legion 5 saya terbukti relevan dengan alur kerja saya, setidaknya enam tahun setelah dirilis dan lima tahun setelah pembelian. Model 7,6 GB tidak terlalu berat untuk VRAM 8 GB RTX 3070. Dari segi penggunaan, terlihat jelas bahwa Google mengukur model ini untuk laptop, dan klaim tersebut tetap berlaku, apa pun beban kerja Anda. Tugas membaca yang biasanya saya lakukan pada model pada dasarnya hanyalah peringkasan dan penemuan pola, terutama jika menyangkut data atau manual yang saya tidak mau repot-repot membacanya baris demi baris. Semua tugas tersebut tampaknya sesuai dengan kemampuan model, dan akan menjadi nyaman ketika saya terjebak di bandara tanpa akses internet atau di dalam taksi dalam perjalanan ke bandara. Terkait Saya menjalankan Gemma 4 dan Qwen 3.5 untuk tugas lokal yang sama, dan satu tugas melaju jauh ke depan Mengadu keduanya untuk menemukan yang terbaik untuk alur kerja saya Gemma 4 12B dibuat untuk pengalaman menggunakan laptop Ada rasa kekuatan yang aneh yang muncul karena mampu mengemas model bahasa besar yang kuat yang menghormati privasi Anda dan melakukan hal-hal yang Anda minta (di berbagai input berbeda) di ransel atau koper. Mungkin itulah yang ingin dicapai Google dengan model Gemma-nya. Mudah dijalankan, tidak mengharuskan Anda terhubung ke Wi-Fi yang lemah atau hotspot pribadi, dan membantu Anda menavigasi alur kerja bahkan saat bepergian. Ini benar-benar Steam Deck dari model bahasa besar, dan saya tidak bisa menjelaskannya dengan lebih baik.
Diterbitkan : 2026-07-11 10:00:00
sumber : www.xda-developers.com
