Saya memberikan akses email LLM lokal saya tanpa menyerahkan seluruh kotak masuk saya
Setiap asisten AI ingin membaca email Anda sekarang. Gemini dapat meringkas Gmail Anda, Copilot dapat menyusun balasan di Outlook, dan Apple Intelligence dapat mengungkapkan apa yang dianggap penting. Dan hampir secara universal, untuk melakukan semua ini, mereka harus memiliki akses penuh ke seluruh kotak masuk Anda. Dan itu berarti semuanya. Bahkan jika Anda ingin menggabungkan LLM berbasis cloud eksternal dengan email Anda, Anda mungkin perlu memberinya akses OAuth ke akun Anda, sehingga email tersebut juga dapat mengakses semuanya. Saya akui, saya bukan penggemar berat perdagangan itu. Saya melihat manfaat dari LLM yang dapat membantu dengan email saya, tapi saya tidak ingin memberikan kunci semuanya, dan saya pasti tidak ingin konten email saya diproses seperti itu dari penyedia AI berbasis cloud eksternal yang kemudian mungkin menggunakan konten email tersebut untuk tujuan pelatihan. Hasilnya, saya menyiapkan sistem di mana LLM lokal saya dapat membaca dan meringkas email yang saya bagikan secara eksplisit, menggunakan AgentMail dan filter penerusan. Butuh waktu sekitar dua puluh menit, dan ini jauh lebih pribadi dibandingkan alternatif lainnya. AgentMail adalah API kotak masuk email yang dibuat untuk agen AI, namun bagian terpentingnya bukanlah API ini memungkinkan LLM mengirim dan menerima email, mengingat banyak layanan sudah dapat melakukan hal itu. Sebaliknya, yang penting adalah bagaimana ia mencakup akses. Saat Anda membuat akun di AgentMail, Anda membuat token yang tercakup dalam kotak masuk, dan setiap kotak masuk adalah ruang terpisah yang dapat Anda tetapkan untuk setiap agen yang Anda sebarkan. AgentMail menggunakan JSON, bukan SMTP Data yang jauh lebih bersih untuk jendela konteks LLM Anda Ada satu hal lain yang membuat alur kerja ini jauh lebih baik untuk LLM lokal, dan itulah fakta bahwa API AgentMail mengembalikan data dalam format JSON, bukan format email mentah. Saat Anda menghubungkan LLM ke kotak masuk email tradisional melalui IMAP atau API Gmail, Anda berurusan dengan pesan berkode MIME yang penuh dengan header, batas multibagian, isi berkode base64, dan lampiran sebaris. Satu buletin dapat membengkak menjadi ribuan token metadata bahkan sebelum model Anda mencapai konten sebenarnya. Untuk LLM lokal Anda mungkin menjalankan dalam jendela konteks terbatas, itu sangat sia-sia. Titik akhir pesan AgentMail mengembalikan ini: { “inbox_id”: “inbox_id”, “thread_id”: “thread_id”, “message_id”: “message_id”, “labels”: ( “labels”, “labels” ), “timestamp”: “2024-01-15T09:30:00Z”, “from”: “from”, “to”: ( “to”, “to” ), “size”: 1, “updated_at”: “2024-01-15T09:30:00Z”, “created_at”: “2024-01-15T09:30:00Z”, “reply_to”: ( “reply_to”, “reply_to” ), “cc”: ( “cc”, “cc” ), “bcc”: ( “bcc”, “bcc” ), “subjek”: “subjek”, “pratinjau”: “pratinjau”, … } Sangat bersih, mudah dibaca oleh LLM, dan tidak ada pengkodean header, base64, atau MIME yang harus ditangani. LLM lokal Anda dapat mengambil pesan yang belum dibaca, memproses keluaran panggilan API, dan dengan mudah memahami apa yang terjadi tanpa ribuan token masukan yang terbuang percuma. Saya menjalankan Qwen 3.6 35B-A3B di server rumah saya yang saya antarmuka menggunakan Hermes, dan format JSON yang bersih berarti hampir setiap token di jendela konteks adalah konten email aktual dan bukan limbah. Filter membagikan apa yang saya butuhkan AgentMail hanya melihat apa yang saya perlukan untuk dilihat. Jika Anda tidak mempercayai AgentMail dengan email Anda, saya mengerti sepenuhnya. Saya belum pernah melihat apa pun tentang perusahaan yang menggunakan data untuk pelatihan, tetapi layanan ini juga relatif tidak dikenal (meskipun memiliki pelanggan perusahaan), dan oleh karena itu, saya tidak ingin merutekan semua email saya ke layanan tersebut. Itu sebabnya saya menggunakan filter untuk penerusan otomatis dengan alamat email AgentMail khusus. Saya sudah mengonfigurasinya dengan buletin; buletin apa pun yang masuk ke kotak masuk saya yang sebenarnya akan secara otomatis diteruskan ke alamat AgentMail tersebut. Dengan cara ini, AgentMail maupun LLM yang terhubung ke kotak masuk tersebut dapat melihat email pribadi yang saya kirimkan, karena secara harfiah tidak memiliki akses ke email tersebut. Sebaliknya, ia hanya melihat apa yang saya arahkan secara eksplisit ke sana. Selain itu, karena filter inilah yang meneruskan email ke AgentMail, meskipun layanan tersebut menggunakan data email untuk pelatihan, layanan tersebut hanya akan melihat konten yang saya pilih untuk dibagikan. Dari sana, Hermes melakukan polling ke kotak masuk AgentMail setiap pagi, dengan setiap email masuk sebagai objek JSON yang dapat dibaca oleh model. Ini sepenuhnya otomatis menggunakan cronjob, jadi saya mendapatkan ringkasan pagi khusus setiap hari dari buletin yang masuk ke kotak masuk AgentMail saya. Saya tidak menggunakan webhook untuk itu (meskipun saya bisa), tapi saya juga tidak perlu mengekspos layanan di jaringan saya agar bisa berfungsi. Polling memungkinkan saya mengontrol bagaimana informasi diambil dan seberapa sering, jadi saya memiliki kontrol lebih besar daripada mengandalkan webhook untuk mengambil informasi tersebut. Ini bukan klien email lengkap, tapi sejujurnya, saya juga tidak menginginkannya. Saya dapat menghubungkannya dengan IMAP dan menarik semua email yang masuk, atau saya dapat meneruskan setiap email yang masuk ke AgentMail, namun saya tidak ingin melakukan itu. Namun, jika saya ingin menambah kegunaannya, saya pasti bisa melakukannya di masa mendatang. Untuk saat ini, saya senang dengan hanya merangkum buletin yang masuk setiap hari, namun mengingat betapa luasnya buletin tersebut, kemungkinan besar saya akan membahas lebih banyak lagi di masa mendatang.
Diterbitkan : 2026-07-08 10:00:00
sumber : www.xda-developers.com
