Ponsel Anda + model lokal seharga $0 mengalahkan pembayaran untuk Claude Pro, dan inilah yang sebenarnya saya lakukan dengannya
Jika Anda belum menyadarinya, alat AI akan menjadi semakin mahal untuk digunakan. Penggunaan yang bisa Anda dapatkan dari tingkat gratis adalah setengah dari apa yang sekarang Anda dapatkan pada paket $20, dan paket $20 semakin terasa seperti peningkatan ke tingkat $100 atau $200 yang bahkan tidak ada delapan belas bulan yang lalu. Selain alat yang semakin mahal untuk digunakan, lucunya alat tersebut semakin terbatas saat digunakan. Anda mungkin berharap membayar lebih berarti lebih sedikit tembok, bukan lebih banyak. Sayangnya, jumlah meter terus bertambah. Setiap penyedia secara diam-diam menerapkan kembali hal yang sama — hal yang Anda lakukan kemarin masih berfungsi, hanya saja biayanya lebih mahal hari ini, atau dilengkapi dengan pengukur penggunaan yang mengosongkan lebih cepat daripada yang Anda ingat bulan lalu. Inilah sebabnya, lebih dari sebelumnya, ada baiknya Anda bertanya pada diri sendiri: seberapa banyak alat yang Anda gunakan sebenarnya membutuhkan cloud? Setelah menanyakan pertanyaan ini pada diri sendiri berkali-kali, saya memutuskan untuk menginstal LLM lokal gratis di ponsel saya dan membuang kebiasaan refleksif saya untuk mengakses cloud setiap saat. Hal-hal yang saya lakukan di ponsel tidak pernah rumit pada awalnya. Pekerjaannya kecil dan sering kali bersifat pribadi. Terus terang, saya tidak terlalu sering menggunakan AI di ponsel untuk tugas sebenarnya. Pekerjaan nyata yang sebenarnya membutuhkan model yang mumpuni selalu terjadi di meja saya di mana semua fitur canggih benar-benar ada. Misalnya, pada Claude, Claude Code dan Cowork adalah dua fitur yang cukup sering saya gunakan, dan saya hanya menggunakannya di desktop. Tentu, Dispatch ada, dan Anda dapat menggunakan Claude Code di ponsel Anda melalui aplikasi seluler. Namun, melakukan pekerjaan agen di layar iPhone saya hanyalah sesuatu yang saya lakukan karena putus asa, dan saya lebih suka menunggu sampai saya kembali ke meja saya daripada memicingkan mata melalui tugas multilangkah pada layar 6 inci. Namun, ponsel saya selalu menjadi tempat AI melakukan hal-hal kecil. Saya akan menggunakannya untuk mencari definisi singkat, analisis terhadap sesuatu yang saya baca di Instagram, pertanyaan matematika singkat, mungkin pertanyaan acak yang saya miliki tentang keuangan saya, dan sebagainya. Sederhana, namun seringkali sedikit pribadi. Jenis pertanyaan sekali pakai yang tidak saya pikirkan dua kali, tetapi yang mana, setelah saya mengatakannya (maksud saya menulis) dengan lantang, saya telah mengarahkan langsung ke server orang lain setiap saat. Sebuah definisi, tentu saja, siapa yang peduli. Tapi pertanyaan setengah jadi tentang uang saya sendiri atau tangkapan layar DM yang ingin saya baca lagi? Itu adalah hal-hal yang saya lebih suka simpan di perangkat saya sendiri, dan kebetulan itu adalah hal-hal yang dapat ditangani oleh model lokal tanpa bersusah payah. Saya telah menjalankan Gemma 4 di iPhone saya, dan pengaturannya memerlukan waktu beberapa menit. LLM lokal, seperti namanya, dijalankan sepenuhnya di perangkat Anda sendiri. Laboratorium AI telah mengarahkan upaya mereka untuk membuat model ini lebih kecil dan lebih efisien tanpa mengurangi kemampuannya. Meskipun MacBook saya yang malang dengan RAM 8 GB mogok setiap kali saya mencoba menjalankan LLM lokal dengan aplikasi lain yang berjalan, saya telah menggunakan iPhone 15 Pro Max untuk menjalankan model Google Gemma 4 secara lokal. Proses penyiapannya sesederhana mungkin. Saya memasang aplikasi Galeri Edge Google melalui App Store, dan yang harus saya lakukan hanyalah mengunduh model Gemma 4 dari dalam aplikasi. Namun, Anda tidak perlu menggunakan Galeri Edge Google! Misalnya, Nolen XDA menggunakan PocketPal untuk menjalankan Gemma 4! Modelnya sendiri adalah pengunduhan yang besar, jadi saya akan melakukannya melalui Wi-Fi daripada membakar melalui data seluler, tetapi ini hanya dilakukan sekali saja! Setelah diinstal pada perangkat, ia tetap di sana, dan semuanya terjadi secara offline setelahnya. Gemma 4-E2B-it, model yang saya jalankan, adalah instalasi 2,54 GB, jadi ingatlah hal itu. Apa yang sebenarnya saya lakukan dengan LLM lokal di ponsel saya Ternyata ponsel saya terlalu memenuhi syarat untuk hal-hal kecil. Begitu saya berhenti menganggapnya sebagai hal baru, model lokal diam-diam menyerap sebagian besar pertanyaan telepon harian saya. Hal yang secara refleks saya buka Claude untuk saat ini hanya terjadi di perangkat, dan seringkali lebih cepat, karena tidak ada perjalanan bolak-balik ke server yang terlibat. Ambillah hal-hal yang membosankan terlebih dahulu. Konversi satuan, pertanyaan matematika yang dilontarkan seseorang kepada saya, “apa kata lain darinya”. Ini semua adalah pertanyaan cepat yang pernah saya gunakan untuk merutekan semuanya ke alat cloud karena kebiasaan. Sekarang Gemma 4 berjalan secara lokal, dan jawabannya mulai streaming sebelum model cloud selesai dimuat. Untuk pertanyaan dengan risiko rendah dan frekuensi tinggi, tanggapan yang saya dapatkan dari Gemma 4 bekerja dengan cukup baik! Bagian yang benar-benar mengubah perilaku saya adalah hal-hal pribadi. Katakanlah saya ingin membuat draf pesan singkat ke agen perjalanan saya, yang mencantumkan nomor paspor saya. Biasanya, mengirimkannya ke cloud LLM berarti menyensor bagian rahasia terlebih dahulu atau hanya menerima bahwa nomor paspor saya sekarang ada di server orang lain. Dengan semuanya berjalan di perangkat, seluruh masalah itu hilang. Tidak ada yang keluar dari ponsel saya, jadi tidak ada yang perlu disunting. Sama dengan tangkapan layar DM yang ingin saya baca lagi, atau pertanyaan setengah jadi tentang keuangan saya sendiri. Karena model ada di perangkat, koneksi internet sepenuhnya opsional. Saya bisa berada beberapa ribu kilometer di udara dalam penerbangan tanpa Wi-Fi dan masih meminta ponsel saya untuk memandu saya melalui proses imigrasi di mana pun saya baru saja mendarat. Terkait Saya mengganti Claude Pro dengan model 9B lokal selama seminggu, dan akhirnya mengetahui untuk apa saya membayar $20 per bulan. Kesenjangannya lebih kecil dari yang saya perkirakan. Sisi multimoda juga bertahan lebih baik dari yang saya perkirakan. Fitur Tanya Gambar di Edge Gallery memungkinkan saya mengarahkan kamera ke sesuatu atau memberinya foto dan mengajukan pertanyaan tentang hal tersebut, dan cukup baik saya berhenti menggunakan alat cloud untuk pertanyaan visual singkat — apa ini, apa isi label ini, baca tulisan tangan ini. Ini tidak akan cocok dengan model cloud frontier dalam penalaran visual yang sulit, dan saya tidak akan berpura-pura sebaliknya, tetapi untuk pertanyaan sehari-hari, ini bertahan dengan baik. Sekali lagi, karena semuanya lokal, saya tidak pernah berpikir dua kali tentang apa yang ada di foto. Ada juga Audio Scribe, yang menangani transkripsi dan terjemahan di perangkat, jadi ada satu hal lagi yang saya tidak lagi memerlukan alat AI terpisah. Melalui Keahlian Agen aplikasi, Anda dapat menambah model dengan alat seperti Wikipedia untuk peta berbasis fakta dan interaktif. Meskipun ini jelas bukan pengganti penuh Google Maps + Gemini, ini adalah cara yang tepat untuk membawanya lebih dekat ke kemampuan yang Anda harapkan dari asisten cloud. Oh, dan batasannya… tidak ada Jika Anda pengguna Claude, Anda pasti tahu betapa frustasinya batasan alat tersebut. Meskipun hampir setiap cloud LLM sekarang memiliki batasan, batasan Claude sangat mengganggu. Itulah alasan utama mengapa meningkatkan ke Pro melalui tingkat gratis bukanlah suatu kemewahan dan lebih merupakan suatu keharusan jika Anda benar-benar mengandalkannya setiap hari! Dulu ketika saya berada di tingkat Pro, saya terus-menerus mencapai batas sesi di ponsel saya (tanpa menggunakan Claude Code atau hal-hal mewah lainnya), karena saya terus mengajukan pertanyaan di jendela yang sama. Semua pertanyaan itu sekarang dialihkan ke Gemma 4, artinya tidak pernah menyentuh kuota Claude saya sama sekali! Hal-hal sepele tetap ada di ponsel saya, dan penggunaan Claude saya dicadangkan untuk pekerjaan yang benar-benar membenarkannya. Meskipun saya tidak menyindir bahwa LLM lokal lebih baik (karena memang tidak), memindahkan pertanyaan sepele ke sesuatu yang gratis dan tidak terukur berarti saya berhenti membenturkan pertanyaan yang benar-benar penting. Kuota model frontier saya bertahan lebih lama ketika saya tidak menggunakannya untuk tugas-tugas yang tidak terlalu penting, dan hal-hal kecil secara efektif tidak terbatas karena berjalan pada perangkat keras yang sudah saya miliki. Ini bukan tentang kemenangan model lokal dan lebih banyak tentang penggunaan setiap alat di tempat yang masuk akal!
Diterbitkan : 2026-07-13 14:31:00
sumber : www.xda-developers.com
