{"content_id":"vupqjenc6z","slug":"meta-muse-glimmer-local-ai-agent-model","locale":"id","schema_type":"TechArticle","category":"ai_data","category_name":"Data AI","title":"Meta Muse Glimmer: Inti Model AI Lokal 30 Miliar Parameter untuk Laptop","summary":"Muse Glimmer diperkenalkan sebagai model multimodal yang dikuantisasi agar sekitar 30 miliar parameternya dapat dijalankan pada perangkat keras konsumen serta ditujukan sebagai agen AI lokal yang menggunakan alat dalam waktu lama. Namun, angka memori, kecepatan, dan tolok ukur yang dikutip dalam materi yang diberikan merupakan hasil pengukuran Meta sendiri, sehingga perlu diverifikasi melalui kartu model resmi dan evaluasi independen.","author":{"name":"injoys","url":"https://injoys.com/ko/about"},"key_points":["Muse Glimmer bertujuan menjadi agen AI yang berjalan lama dan menangani berkas, layar, serta alat, bukan sekadar chatbot lokal.","Menurut materi yang diberikan, versi kuantisasi 4-bit dirancang untuk menjalankan seluruh sistem dalam lingkungan memori sekitar 24 GB atau 32 GB.","Speculative Decoding yang menggunakan DFlash drafter memproses beberapa token kandidat sekaligus setelah diverifikasi oleh model utama.","Pemrosesan lokal dapat mengurangi pengiriman data ke luar, tetapi tidak menghilangkan risiko injeksi prompt, hak akses sistem yang berlebihan, maupun kerusakan berkas.","Kinerja dan lisensi harus dinilai setelah memeriksa kartu model di repositori resmi, berkas lisensi yang sebenarnya, serta hasil pengukuran independen untuk setiap perangkat keras."],"content_markdown":"Meta Muse Glimmer diperkenalkan sebagai model dengan sekitar 30 miliar parameter yang dirancang untuk dijalankan pada PC pribadi atau laptop berkinerja tinggi serta digunakan untuk mengimplementasikan agen AI lokal yang beroperasi dalam waktu lama. Sasaran utamanya bukan hanya menghasilkan teks, tetapi juga memahami gambar dan layar serta menggunakan alat seperti file, fungsi, dan terminal melalui beberapa tahap.\n\nSpesifikasi produk dan angka benchmark dalam tulisan ini disusun berdasarkan pengumuman Meta yang dikutip dalam materi yang tersedia. Karena URL langsung artikel asli dan kartu model resmi tidak disediakan, angka-angka tersebut tidak boleh ditafsirkan sebagai hasil yang telah diverifikasi secara independen.\n\n## Spesifikasi utama Muse Glimmer\n\nBerikut adalah spesifikasi utama yang dijelaskan dalam materi yang tersedia.\n\n| Item | Informasi yang diperkenalkan | Hal yang perlu diperhatikan saat menafsirkan |\n|---|---|---|\n| Skala model | Sekitar 30 miliar parameter | Parameter aktif aktual dan arsitektur terperinci perlu diperiksa pada kartu model |\n| Format input | Teks dan gambar | Resolusi gambar yang didukung, jumlah frame, dan biaya token visi perlu diperiksa secara terpisah |\n| Konteks | Maksimum setidaknya 131,072 token | Akurasi dan penggunaan memori pada panjang maksimum dapat berbeda dari input pendek |\n| Bahasa | Setidaknya 100 bahasa | Tidak berarti kualitasnya sama untuk setiap bahasa |\n| Versi presisi rendah | K-Quant-17GB, K-Quant-Dynamic | Kapasitas yang tercantum dalam nama harus dibedakan dari total memori saat dijalankan |\n| Kegunaan utama | Coding, otomatisasi desktop, pemanggilan fungsi, analisis dokumen, evaluasi | Fungsi aktual bergantung pada runtime yang terhubung dan kebijakan izin |\n| Metode akselerasi | Speculative Decoding menggunakan DFlash drafter | Tingkat akselerasi berbeda-beda menurut perangkat keras dan panjang input |\n| Bentuk publikasi | BF16, kuantisasi 4-bit, model drafter | File yang disediakan dan runtime yang didukung perlu diperiksa di repositori |\n| Lisensi | Diperkenalkan menggunakan Apache License 2.0 | LICENSE aktual dan ketentuan penggunaan tambahan di repositori model perlu diperiksa |\n\n## Cara 30 miliar parameter bekerja dalam 24GB\n\n### Perhitungan sederhana memori bobot\n\nJika hanya mempertimbangkan bobot model, ruang penyimpanan yang diperlukan dapat dihitung kurang lebih sebagai berikut.\n\n- BF16 atau FP16: 30 miliar × 2 byte = sekitar 60GB\n- 8-bit: 30 miliar × 1 byte = sekitar 30GB\n- 4-bit: 30 miliar × 0.5 byte = sekitar 15GB\n\nPada bobot 4-bit terdapat tambahan skala kuantisasi, metadata, penyelarasan, dan overhead runtime. Karena itu, paket bobot kelas sekitar 17GB yang disebutkan dalam materi yang tersedia dapat lebih besar daripada angka teoretis 15GB.\n\n### Memori yang diperlukan selain bobot\n\nAdanya file model berukuran 17GB tidak berarti model dapat langsung dijalankan pada perangkat dengan memori 17GB. Dalam inferensi aktual, komponen berikut juga menggunakan ruang tambahan.\n\n- Cache KV yang menyimpan riwayat input dan output\n- Encoder visi yang memproses input gambar\n- Nilai aktivasi perantara dan ruang kerja runtime\n- Model tambahan seperti DFlash drafter\n- Penggunaan oleh sistem operasi, desktop, dan aplikasi lain\n- Buffer serta ruang penyalinan antara GPU dan memori sistem\n\nMateri yang tersedia menjelaskan K-Quant-17GB sebagai versi yang disesuaikan untuk lingkungan sekitar 24GB dan K-Quant-Dynamic untuk lingkungan sekitar 32GB. Namun, perlu memeriksa petunjuk eksekusi aktual untuk mengetahui apakah memori yang dimaksud adalah VRAM khusus, memori terpadu seperti Apple Silicon, atau konfigurasi yang juga menggunakan sebagian RAM sistem.\n\nSemakin panjang konteks, semakin besar pula cache KV. Karena itu, spesifikasi yang menyatakan dukungan 131,072 token saja tidak cukup untuk menyimpulkan bahwa panjang maksimum selalu dapat digunakan dalam lingkungan 24GB.\n\n## Alasan dirancang sebagai agen AI lokal\n\nAgen yang dituju Muse Glimmer berbeda dari chatbot yang hanya menjawab satu pertanyaan lalu selesai. Alur kerja umumnya adalah sebagai berikut.\n\n1. Menafsirkan tujuan dan batasan pengguna.\n2. Merencanakan subtugas yang diperlukan untuk menyelesaikannya.\n3. Memanggil pencarian file, fungsi, terminal, atau alat browser.\n4. Membaca hasil eksekusi dan pesan kesalahan.\n5. Memperbaiki rencana atau kode.\n6. Menjalankan kembali alat pengujian atau verifikasi.\n7. Mengulangi proses hingga memenuhi kriteria penyelesaian.\n\nSebagai contoh, dalam tugas memperbaiki kesalahan proyek, analisis kode sumber, eksekusi perintah, pembacaan log, perubahan kode, pengujian, dan perbaikan ulang berlangsung secara berurutan. Karena inferensi model berulang pada setiap tahap, bukan hanya kecepatan respons yang penting, tetapi juga ketepatan pemanggilan alat, kemampuan memulihkan kegagalan, dan pemeliharaan status.\n\n## Metode pelatihan dan kemampuan agen\n\nMenurut materi yang tersedia, Muse Glimmer menjalani prapelatihan menggunakan metode distilasi yang memanfaatkan hasil dari model pengajar yang lebih besar, Muse Spark. Setelah itu, data untuk konteks panjang dan tugas agen ditambahkan, sedangkan pascapelatihan disebut menggunakan pembelajaran terawasi, distilasi on-policy, dan pembelajaran penguatan.\n\nPeran umum setiap metode dapat dipahami sebagai berikut.\n\n- **Distilasi:** Melatih model yang lebih kecil agar meniru output atau perilaku model pengajar yang lebih besar.\n- **Pembelajaran terawasi:** Menyediakan respons, pemanggilan fungsi, atau proses kerja yang diinginkan sebagai contoh jawaban benar.\n- **Pembelajaran on-policy:** Memperbaiki kesalahan berdasarkan lintasan perilaku yang benar-benar dihasilkan oleh model saat ini.\n- **Pembelajaran penguatan:** Mengoptimalkan imbalan seperti keberhasilan tugas, penggunaan alat yang tepat, dan kepatuhan terhadap aturan keselamatan.\n\nProsedur pelatihan tersebut tidak otomatis menjamin tingkat keberhasilan agen. Cakupan data pelatihan, lingkungan evaluasi, definisi alat, dan sandbox eksekusi sangat memengaruhi hasil.\n\n## Fungsi multimodal dan bidang penggunaan\n\nMuse Glimmer diperkenalkan sebagai model multimodal yang memahami input gambar selain teks. Input dan contoh penggunaan yang dapat diperkirakan adalah sebagai berikut.\n\n| Input visual | Contoh tugas yang memungkinkan |\n|---|---|\n| Tangkapan layar PC | Menafsirkan pesan kesalahan atau status UI |\n| Gambar dokumen | Mengekstrak dan merangkum isi tabel, paragraf, dan formulir |\n| Grafik dan bagan | Membaca serta menjelaskan sumbu, legenda, dan tren |\n| Layar GUI | Mengidentifikasi tombol dan kolom input untuk merencanakan tindakan berikutnya |\n| Layar alat pengembangan | Menganalisis output terminal atau status debugger |\n| Beberapa file dan gambar | Membandingkan dokumen dan mempertahankan catatan tugas jangka panjang |\n\nPemahaman visual dan pengoperasian komputer secara langsung merupakan fungsi yang berbeda. Meskipun model dapat menafsirkan layar, pengoperasian mouse atau keyboard memerlukan runtime agen, antarmuka aksesibilitas, atau alat otomatisasi yang terpisah.\n\n## DFlash dan Speculative Decoding\n\nModel bahasa autoregresif umumnya menghitung token berikutnya secara berurutan berdasarkan token yang telah dihasilkan sebelumnya. Speculative Decoding adalah metode ketika model drafter yang lebih kecil terlebih dahulu mengusulkan beberapa token kandidat, lalu model utama memverifikasi kandidat tersebut sekaligus.\n\nProsesnya dapat dirangkum sebagai berikut.\n\n1. DFlash drafter mengusulkan sekumpulan token yang kemungkinan besar akan muncul berikutnya.\n2. Model utama Muse Glimmer memverifikasi token yang diusulkan.\n3. Token yang cocok dengan distribusi model utama diterima.\n4. Pembuatan dimulai kembali dari titik yang tidak cocok.\n\nJika prosedur verifikasi yang tepat digunakan, waktu pembuatan dapat dikurangi sambil mempertahankan distribusi output model utama. Namun, jika tingkat ketepatan prediksi drafter rendah atau bandwidth memori tidak mencukupi, peningkatan kecepatan mungkin tidak sebesar yang diharapkan.\n\n## Kecepatan pembuatan yang disajikan dalam materi\n\nAngka berikut diperkenalkan sebagai hasil pengukuran Meta sendiri dengan menerapkan DFlash drafter pada K-Quant-17GB. Ini bukan benchmark independen, dan perbandingan langsung memiliki keterbatasan jika konfigurasi perangkat keras, prompt, panjang konteks, runtime, serta kondisi daya tidak disajikan.\n\n| Perangkat keras | Kecepatan dasar | Dengan DFlash | Peningkatan yang disajikan |\n|---|---:|---:|---:|\n| NVIDIA GeForce RTX 5090 | 74.9 token/detik | 233.4 token/detik | Sekitar 3.1 kali |\n| Apple M5 Max | 26.6 token/detik | 50.2 token/detik | Sekitar 1.8 kali |\n| Apple M4 Max | 23.7 token/detik | 37.8 token/detik | Sekitar 1.5 kali |\n\nKarena agen melakukan inferensi beberapa kali dan menunggu alat eksternal, kecepatan pembuatan token tidak sama dengan total waktu pengerjaan. Waktu penyelesaian aktual juga mencakup kecepatan pemrosesan prompt, input/output file, eksekusi kode, akses jaringan, dan jumlah percobaan ulang alat.\n\n## Cara membaca hasil benchmark\n\nMateri yang tersedia membandingkan Muse Glimmer dengan Gemma 4 31B dan Qwen 3.6 27B serta menyajikan hasil berikut.\n\n| Benchmark | Muse Glimmer | Gemma 4 31B | Qwen 3.6 27B |\n|---|---:|---:|---:|\n| MCP Atlas | 75.5 | 54.2 | 62.5 |\n| DeepSearch QA | 74.6 | Tidak ada angka dalam materi | Tidak ada angka dalam materi |\n\nPada saat yang sama, disebutkan bahwa Qwen 3.6 27B memperoleh hasil lebih tinggi daripada Muse Glimmer pada OSWorld Verified, TerminalBench 2.1, dan SWE-bench Verified. Ini berarti evaluasi berdasarkan tujuan lebih penting daripada satu skor rata-rata.\n\nSaat meninjau benchmark, hal-hal berikut perlu diperiksa.\n\n- Apakah presisi model dan kondisi kuantisasi yang sama digunakan\n- Apakah jumlah pemanggilan alat dan batas waktunya sama\n- Apakah prompt agen dan kode orkestrasi dipublikasikan\n- Apakah resolusi gambar dan konteks maksimum sama\n- Apakah rata-rata dan varians dari beberapa kali eksekusi disediakan\n- Apakah kemungkinan data evaluasi tercakup dalam data pelatihan telah diperiksa\n- Apakah tugas yang gagal tidak diperbaiki atau dimulai ulang oleh manusia\n\nMenurut materi yang tersedia, pada rata-rata 15 benchmark, penurunan kinerja K-Quant-Dynamic dibandingkan versi asli diukur sekitar 0.2%, sedangkan K-Quant-17GB sekitar 1%. Angka ini juga diperkenalkan sebagai hasil evaluasi Meta sendiri, dan tingkat penurunan untuk setiap tugas dapat berbeda dari rata-ratanya.\n\n## Manfaat dan keterbatasan perlindungan privasi dalam eksekusi lokal\n\nKonfigurasi yang sepenuhnya lokal membantu membangun sistem yang tidak mengirim kode sumber, dokumen internal, tangkapan layar, dan isi basis data ke API LLM eksternal. Konfigurasi ini juga memiliki keunggulan dapat digunakan dalam jaringan tertutup dan menghindari biaya penggunaan API eksternal per token.\n\nNamun, fakta bahwa file model berada secara lokal tidak berarti semua aliran data tetap berada secara lokal. Komponen berikut dapat terhubung ke pihak luar.\n\n- Pencarian web atau alat browser jarak jauh\n- Telemetri analisis kesalahan dan penggunaan\n- Ekstensi dan plugin agen\n- Penyimpanan dokumen berbasis cloud\n- Pengelola paket dan repositori kode\n- Layanan embedding, pencarian, atau evaluasi jarak jauh\n\nOrganisasi yang menangani data sensitif perlu memeriksa log jaringan dan proses yang berjalan serta meninjau jalur data seluruh alat yang terhubung, bukan hanya runtime model.\n\n## Risiko keamanan agen lokal dan penanganannya\n\nAI lokal dapat mengurangi risiko transmisi, tetapi risiko yang berasal dari izin sistem justru dapat meningkat. Perhatian khusus perlu diberikan pada prompt injection tidak langsung, ketika instruksi tersembunyi dalam dokumen eksternal atau halaman web mengubah tujuan awal agen.\n\nMetode pertahanan yang disarankan adalah sebagai berikut.\n\n- Jalankan terlebih dahulu dalam ruang kerja hanya-baca.\n- Izinkan hanya folder yang diperlukan, bukan seluruh direktori home.\n- Wajibkan persetujuan manusia untuk penghapusan, penimpaan, transfer dana, dan deployment.\n- Blokir hak administrator dan akses ke folder inti sistem operasi.\n- Jangan masukkan kunci rahasia dan token autentikasi secara langsung ke konteks model.\n- Terapkan daftar izin dan batas waktu eksekusi pada perintah terminal.\n- Perlakukan kalimat dalam dokumen eksternal sebagai data yang tidak tepercaya.\n- Buat snapshot atau commit kontrol versi sebelum melakukan perubahan.\n- Simpan semua pemanggilan alat dan catatan perubahan file sebagai log audit.\n- Uji dalam container atau mesin virtual yang terpisah dari lingkungan produksi sebenarnya.\n\nDalam bidang medis, keuangan, hukum, pertahanan, dan sektor publik, pemrosesan lokal saja tidak cukup untuk memenuhi regulasi. Kontrol akses, retensi catatan, persetujuan penanggung jawab, klasifikasi data, dan validasi model juga diperlukan.\n\n## Arti publikasi dengan Apache 2.0\n\nMateri yang tersedia menjelaskan bahwa bobot Muse Glimmer dipublikasikan dengan Apache License 2.0. Apache 2.0 adalah lisensi permisif yang umumnya mengizinkan penggunaan, modifikasi, distribusi, dan penggunaan komersial serta mencakup klausul paten yang eksplisit. Saat mendistribusikan ulang, persyaratan seperti mempertahankan salinan lisensi, pemberitahuan hak cipta, dan penandaan perubahan harus dipatuhi.\n\nNamun, saat benar-benar menggunakan model, hal-hal berikut perlu diperiksa secara terpisah.\n\n- Apakah setiap file model benar-benar tercakup oleh Apache 2.0\n- Apakah terdapat pembatasan penggunaan tambahan dalam kartu model atau repositori\n- Apakah kode dan tokenizer yang disertakan menggunakan lisensi yang sama\n- Apakah encoder visi dan model drafter memiliki ketentuan tersendiri\n- Apakah hak merek dagang atau hak data pihak ketiga tercakup dalam ruang lingkup izin\n\nPublikasi bobot tidak berarti seluruh proses pelatihan dijadikan open source. Menurut materi yang tersedia, keseluruhan data pelatihan dan keseluruhan kode pelatihan tidak dipublikasikan. Karena itu, Muse Glimmer dapat disebut sebagai model dengan bobot terbuka, tetapi tidak boleh langsung dianggap sebagai model open source sepenuhnya yang memungkinkan seluruh proses pelatihannya direproduksi.\n\n## Daftar periksa sebelum adopsi\n\nSaat mengevaluasi produk, hasil yang mereproduksi tugas Anda sendiri lebih penting daripada kecepatan tertinggi dalam siaran pers.\n\n1. Periksa pihak distribusi resmi dan repositori model.\n2. Periksa arsitektur, konteks, bahasa yang didukung, dan format input dalam kartu model.\n3. Minta staf hukum meninjau file LICENSE dan ketentuan penggunaan tambahan.\n4. Ukur memori maksimum termasuk model, cache KV, encoder visi, dan drafter.\n5. Evaluasi akurasi, tingkat keberhasilan alat, dan tingkat pemulihan kegagalan menggunakan dokumen serta kode aktual.\n6. Ukur kecepatan pemrosesan input dan peningkatan penggunaan memori dalam konteks panjang.\n7. Setelah memblokir jaringan, pastikan semua fungsi benar-benar bekerja secara lokal.\n8. Lakukan pengujian serangan menggunakan prompt injection dan file berbahaya.\n9. Terapkan persetujuan manusia dan pencadangan otomatis untuk perubahan penting.\n10. Bandingkan perbedaan kualitas per tugas antara versi kuantisasi dan versi asli BF16.\n\n## Evaluasi keseluruhan\n\nKeunikan Muse Glimmer bukan terletak pada klaim bahwa model ini merupakan model serbaguna dengan skor tertinggi di semua benchmark, melainkan pada desain yang berupaya menyesuaikan model multimodal kelas 30 miliar parameter dan fungsi agen jangka panjang dengan perangkat keras konsumen. Jika kuantisasi 4-bit, konteks panjang, akselerasi DFlash, dan lisensi permisif tersedia sesuai materi resmi, model ini dapat menjadi pilihan yang berarti untuk coding lokal, analisis dokumen, dan otomatisasi jaringan tertutup.\n\nDi sisi lain, penyebutan 24GB atau 32GB bukan jaminan bahwa semua fungsi model dan konteks maksimum akan berjalan lancar pada perangkat apa pun. Sebelum kartu model resmi dan benchmark yang dapat direproduksi dikonfirmasi, angka kecepatan dan kualitas perlu dibedakan sebagai klaim hasil pengukuran Meta sendiri, serta diperlukan pendekatan yang mengevaluasi memori, keamanan, dan akurasi pada beban kerja aktual.","content_html":"\u003cp\u003eMeta Muse Glimmer diperkenalkan sebagai model dengan sekitar 30 miliar parameter yang dirancang untuk dijalankan pada PC pribadi atau laptop berkinerja tinggi serta digunakan untuk mengimplementasikan agen AI lokal yang beroperasi dalam waktu lama. Sasaran utamanya bukan hanya menghasilkan teks, tetapi juga memahami gambar dan layar serta menggunakan alat seperti file, fungsi, dan terminal melalui beberapa tahap.\u003c/p\u003e\n\u003cp\u003eSpesifikasi produk dan angka benchmark dalam tulisan ini disusun berdasarkan pengumuman Meta yang dikutip dalam materi yang tersedia. Karena URL langsung artikel asli dan kartu model resmi tidak disediakan, angka-angka tersebut tidak boleh ditafsirkan sebagai hasil yang telah diverifikasi secara independen.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#spesifikasi-utama-muse-glimmer\" class=\"anchor\" id=\"spesifikasi-utama-muse-glimmer\"\u003e\u003c/a\u003eSpesifikasi utama Muse Glimmer\u003c/h2\u003e\n\u003cp\u003eBerikut adalah spesifikasi utama yang dijelaskan dalam materi yang tersedia.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eItem\u003c/th\u003e\n\u003cth\u003eInformasi yang diperkenalkan\u003c/th\u003e\n\u003cth\u003eHal yang perlu diperhatikan saat menafsirkan\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item\"\u003eSkala model\u003c/td\u003e\n\u003ctd data-label=\"Informasi yang diperkenalkan\"\u003eSekitar 30 miliar parameter\u003c/td\u003e\n\u003ctd data-label=\"Hal yang perlu diperhatikan saat menafsirkan\"\u003eParameter aktif aktual dan arsitektur terperinci perlu diperiksa pada kartu model\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item\"\u003eFormat input\u003c/td\u003e\n\u003ctd data-label=\"Informasi yang diperkenalkan\"\u003eTeks dan gambar\u003c/td\u003e\n\u003ctd data-label=\"Hal yang perlu diperhatikan saat menafsirkan\"\u003eResolusi gambar yang didukung, jumlah frame, dan biaya token visi perlu diperiksa secara terpisah\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item\"\u003eKonteks\u003c/td\u003e\n\u003ctd data-label=\"Informasi yang diperkenalkan\"\u003eMaksimum setidaknya 131,072 token\u003c/td\u003e\n\u003ctd data-label=\"Hal yang perlu diperhatikan saat menafsirkan\"\u003eAkurasi dan penggunaan memori pada panjang maksimum dapat berbeda dari input pendek\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item\"\u003eBahasa\u003c/td\u003e\n\u003ctd data-label=\"Informasi yang diperkenalkan\"\u003eSetidaknya 100 bahasa\u003c/td\u003e\n\u003ctd data-label=\"Hal yang perlu diperhatikan saat menafsirkan\"\u003eTidak berarti kualitasnya sama untuk setiap bahasa\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item\"\u003eVersi presisi rendah\u003c/td\u003e\n\u003ctd data-label=\"Informasi yang diperkenalkan\"\u003eK-Quant-17GB, K-Quant-Dynamic\u003c/td\u003e\n\u003ctd data-label=\"Hal yang perlu diperhatikan saat menafsirkan\"\u003eKapasitas yang tercantum dalam nama harus dibedakan dari total memori saat dijalankan\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item\"\u003eKegunaan utama\u003c/td\u003e\n\u003ctd data-label=\"Informasi yang diperkenalkan\"\u003eCoding, otomatisasi desktop, pemanggilan fungsi, analisis dokumen, evaluasi\u003c/td\u003e\n\u003ctd data-label=\"Hal yang perlu diperhatikan saat menafsirkan\"\u003eFungsi aktual bergantung pada runtime yang terhubung dan kebijakan izin\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item\"\u003eMetode akselerasi\u003c/td\u003e\n\u003ctd data-label=\"Informasi yang diperkenalkan\"\u003eSpeculative Decoding menggunakan DFlash drafter\u003c/td\u003e\n\u003ctd data-label=\"Hal yang perlu diperhatikan saat menafsirkan\"\u003eTingkat akselerasi berbeda-beda menurut perangkat keras dan panjang input\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item\"\u003eBentuk publikasi\u003c/td\u003e\n\u003ctd data-label=\"Informasi yang diperkenalkan\"\u003eBF16, kuantisasi 4-bit, model drafter\u003c/td\u003e\n\u003ctd data-label=\"Hal yang perlu diperhatikan saat menafsirkan\"\u003eFile yang disediakan dan runtime yang didukung perlu diperiksa di repositori\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item\"\u003eLisensi\u003c/td\u003e\n\u003ctd data-label=\"Informasi yang diperkenalkan\"\u003eDiperkenalkan menggunakan Apache License 2.0\u003c/td\u003e\n\u003ctd data-label=\"Hal yang perlu diperhatikan saat menafsirkan\"\u003eLICENSE aktual dan ketentuan penggunaan tambahan di repositori model perlu diperiksa\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003ch2\u003e\n\u003ca href=\"#cara-30-miliar-parameter-bekerja-dalam-24gb\" class=\"anchor\" id=\"cara-30-miliar-parameter-bekerja-dalam-24gb\"\u003e\u003c/a\u003eCara 30 miliar parameter bekerja dalam 24GB\u003c/h2\u003e\n\u003ch3\u003e\n\u003ca href=\"#perhitungan-sederhana-memori-bobot\" class=\"anchor\" id=\"perhitungan-sederhana-memori-bobot\"\u003e\u003c/a\u003ePerhitungan sederhana memori bobot\u003c/h3\u003e\n\u003cp\u003eJika hanya mempertimbangkan bobot model, ruang penyimpanan yang diperlukan dapat dihitung kurang lebih sebagai berikut.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eBF16 atau FP16: 30 miliar × 2 byte = sekitar 60GB\u003c/li\u003e\n\u003cli\u003e8-bit: 30 miliar × 1 byte = sekitar 30GB\u003c/li\u003e\n\u003cli\u003e4-bit: 30 miliar × 0.5 byte = sekitar 15GB\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003ePada bobot 4-bit terdapat tambahan skala kuantisasi, metadata, penyelarasan, dan overhead runtime. Karena itu, paket bobot kelas sekitar 17GB yang disebutkan dalam materi yang tersedia dapat lebih besar daripada angka teoretis 15GB.\u003c/p\u003e\n\u003ch3\u003e\n\u003ca href=\"#memori-yang-diperlukan-selain-bobot\" class=\"anchor\" id=\"memori-yang-diperlukan-selain-bobot\"\u003e\u003c/a\u003eMemori yang diperlukan selain bobot\u003c/h3\u003e\n\u003cp\u003eAdanya file model berukuran 17GB tidak berarti model dapat langsung dijalankan pada perangkat dengan memori 17GB. Dalam inferensi aktual, komponen berikut juga menggunakan ruang tambahan.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eCache KV yang menyimpan riwayat input dan output\u003c/li\u003e\n\u003cli\u003eEncoder visi yang memproses input gambar\u003c/li\u003e\n\u003cli\u003eNilai aktivasi perantara dan ruang kerja runtime\u003c/li\u003e\n\u003cli\u003eModel tambahan seperti DFlash drafter\u003c/li\u003e\n\u003cli\u003ePenggunaan oleh sistem operasi, desktop, dan aplikasi lain\u003c/li\u003e\n\u003cli\u003eBuffer serta ruang penyalinan antara GPU dan memori sistem\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eMateri yang tersedia menjelaskan K-Quant-17GB sebagai versi yang disesuaikan untuk lingkungan sekitar 24GB dan K-Quant-Dynamic untuk lingkungan sekitar 32GB. Namun, perlu memeriksa petunjuk eksekusi aktual untuk mengetahui apakah memori yang dimaksud adalah VRAM khusus, memori terpadu seperti Apple Silicon, atau konfigurasi yang juga menggunakan sebagian RAM sistem.\u003c/p\u003e\n\u003cp\u003eSemakin panjang konteks, semakin besar pula cache KV. Karena itu, spesifikasi yang menyatakan dukungan 131,072 token saja tidak cukup untuk menyimpulkan bahwa panjang maksimum selalu dapat digunakan dalam lingkungan 24GB.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#alasan-dirancang-sebagai-agen-ai-lokal\" class=\"anchor\" id=\"alasan-dirancang-sebagai-agen-ai-lokal\"\u003e\u003c/a\u003eAlasan dirancang sebagai agen AI lokal\u003c/h2\u003e\n\u003cp\u003eAgen yang dituju Muse Glimmer berbeda dari chatbot yang hanya menjawab satu pertanyaan lalu selesai. Alur kerja umumnya adalah sebagai berikut.\u003c/p\u003e\n\u003col\u003e\n\u003cli\u003eMenafsirkan tujuan dan batasan pengguna.\u003c/li\u003e\n\u003cli\u003eMerencanakan subtugas yang diperlukan untuk menyelesaikannya.\u003c/li\u003e\n\u003cli\u003eMemanggil pencarian file, fungsi, terminal, atau alat browser.\u003c/li\u003e\n\u003cli\u003eMembaca hasil eksekusi dan pesan kesalahan.\u003c/li\u003e\n\u003cli\u003eMemperbaiki rencana atau kode.\u003c/li\u003e\n\u003cli\u003eMenjalankan kembali alat pengujian atau verifikasi.\u003c/li\u003e\n\u003cli\u003eMengulangi proses hingga memenuhi kriteria penyelesaian.\u003c/li\u003e\n\u003c/ol\u003e\n\u003cp\u003eSebagai contoh, dalam tugas memperbaiki kesalahan proyek, analisis kode sumber, eksekusi perintah, pembacaan log, perubahan kode, pengujian, dan perbaikan ulang berlangsung secara berurutan. Karena inferensi model berulang pada setiap tahap, bukan hanya kecepatan respons yang penting, tetapi juga ketepatan pemanggilan alat, kemampuan memulihkan kegagalan, dan pemeliharaan status.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#metode-pelatihan-dan-kemampuan-agen\" class=\"anchor\" id=\"metode-pelatihan-dan-kemampuan-agen\"\u003e\u003c/a\u003eMetode pelatihan dan kemampuan agen\u003c/h2\u003e\n\u003cp\u003eMenurut materi yang tersedia, Muse Glimmer menjalani prapelatihan menggunakan metode distilasi yang memanfaatkan hasil dari model pengajar yang lebih besar, Muse Spark. Setelah itu, data untuk konteks panjang dan tugas agen ditambahkan, sedangkan pascapelatihan disebut menggunakan pembelajaran terawasi, distilasi on-policy, dan pembelajaran penguatan.\u003c/p\u003e\n\u003cp\u003ePeran umum setiap metode dapat dipahami sebagai berikut.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003e\n\u003cstrong\u003eDistilasi:\u003c/strong\u003e Melatih model yang lebih kecil agar meniru output atau perilaku model pengajar yang lebih besar.\u003c/li\u003e\n\u003cli\u003e\n\u003cstrong\u003ePembelajaran terawasi:\u003c/strong\u003e Menyediakan respons, pemanggilan fungsi, atau proses kerja yang diinginkan sebagai contoh jawaban benar.\u003c/li\u003e\n\u003cli\u003e\n\u003cstrong\u003ePembelajaran on-policy:\u003c/strong\u003e Memperbaiki kesalahan berdasarkan lintasan perilaku yang benar-benar dihasilkan oleh model saat ini.\u003c/li\u003e\n\u003cli\u003e\n\u003cstrong\u003ePembelajaran penguatan:\u003c/strong\u003e Mengoptimalkan imbalan seperti keberhasilan tugas, penggunaan alat yang tepat, dan kepatuhan terhadap aturan keselamatan.\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eProsedur pelatihan tersebut tidak otomatis menjamin tingkat keberhasilan agen. Cakupan data pelatihan, lingkungan evaluasi, definisi alat, dan sandbox eksekusi sangat memengaruhi hasil.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#fungsi-multimodal-dan-bidang-penggunaan\" class=\"anchor\" id=\"fungsi-multimodal-dan-bidang-penggunaan\"\u003e\u003c/a\u003eFungsi multimodal dan bidang penggunaan\u003c/h2\u003e\n\u003cp\u003eMuse Glimmer diperkenalkan sebagai model multimodal yang memahami input gambar selain teks. Input dan contoh penggunaan yang dapat diperkirakan adalah sebagai berikut.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eInput visual\u003c/th\u003e\n\u003cth\u003eContoh tugas yang memungkinkan\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Input visual\"\u003eTangkapan layar PC\u003c/td\u003e\n\u003ctd data-label=\"Contoh tugas yang memungkinkan\"\u003eMenafsirkan pesan kesalahan atau status UI\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Input visual\"\u003eGambar dokumen\u003c/td\u003e\n\u003ctd data-label=\"Contoh tugas yang memungkinkan\"\u003eMengekstrak dan merangkum isi tabel, paragraf, dan formulir\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Input visual\"\u003eGrafik dan bagan\u003c/td\u003e\n\u003ctd data-label=\"Contoh tugas yang memungkinkan\"\u003eMembaca serta menjelaskan sumbu, legenda, dan tren\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Input visual\"\u003eLayar GUI\u003c/td\u003e\n\u003ctd data-label=\"Contoh tugas yang memungkinkan\"\u003eMengidentifikasi tombol dan kolom input untuk merencanakan tindakan berikutnya\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Input visual\"\u003eLayar alat pengembangan\u003c/td\u003e\n\u003ctd data-label=\"Contoh tugas yang memungkinkan\"\u003eMenganalisis output terminal atau status debugger\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Input visual\"\u003eBeberapa file dan gambar\u003c/td\u003e\n\u003ctd data-label=\"Contoh tugas yang memungkinkan\"\u003eMembandingkan dokumen dan mempertahankan catatan tugas jangka panjang\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003ePemahaman visual dan pengoperasian komputer secara langsung merupakan fungsi yang berbeda. Meskipun model dapat menafsirkan layar, pengoperasian mouse atau keyboard memerlukan runtime agen, antarmuka aksesibilitas, atau alat otomatisasi yang terpisah.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#dflash-dan-speculative-decoding\" class=\"anchor\" id=\"dflash-dan-speculative-decoding\"\u003e\u003c/a\u003eDFlash dan Speculative Decoding\u003c/h2\u003e\n\u003cp\u003eModel bahasa autoregresif umumnya menghitung token berikutnya secara berurutan berdasarkan token yang telah dihasilkan sebelumnya. Speculative Decoding adalah metode ketika model drafter yang lebih kecil terlebih dahulu mengusulkan beberapa token kandidat, lalu model utama memverifikasi kandidat tersebut sekaligus.\u003c/p\u003e\n\u003cp\u003eProsesnya dapat dirangkum sebagai berikut.\u003c/p\u003e\n\u003col\u003e\n\u003cli\u003eDFlash drafter mengusulkan sekumpulan token yang kemungkinan besar akan muncul berikutnya.\u003c/li\u003e\n\u003cli\u003eModel utama Muse Glimmer memverifikasi token yang diusulkan.\u003c/li\u003e\n\u003cli\u003eToken yang cocok dengan distribusi model utama diterima.\u003c/li\u003e\n\u003cli\u003ePembuatan dimulai kembali dari titik yang tidak cocok.\u003c/li\u003e\n\u003c/ol\u003e\n\u003cp\u003eJika prosedur verifikasi yang tepat digunakan, waktu pembuatan dapat dikurangi sambil mempertahankan distribusi output model utama. Namun, jika tingkat ketepatan prediksi drafter rendah atau bandwidth memori tidak mencukupi, peningkatan kecepatan mungkin tidak sebesar yang diharapkan.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#kecepatan-pembuatan-yang-disajikan-dalam-materi\" class=\"anchor\" id=\"kecepatan-pembuatan-yang-disajikan-dalam-materi\"\u003e\u003c/a\u003eKecepatan pembuatan yang disajikan dalam materi\u003c/h2\u003e\n\u003cp\u003eAngka berikut diperkenalkan sebagai hasil pengukuran Meta sendiri dengan menerapkan DFlash drafter pada K-Quant-17GB. Ini bukan benchmark independen, dan perbandingan langsung memiliki keterbatasan jika konfigurasi perangkat keras, prompt, panjang konteks, runtime, serta kondisi daya tidak disajikan.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003ePerangkat keras\u003c/th\u003e\n\u003cth\u003eKecepatan dasar\u003c/th\u003e\n\u003cth\u003eDengan DFlash\u003c/th\u003e\n\u003cth\u003ePeningkatan yang disajikan\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Perangkat keras\"\u003eNVIDIA GeForce RTX 5090\u003c/td\u003e\n\u003ctd data-label=\"Kecepatan dasar\"\u003e74.9 token/detik\u003c/td\u003e\n\u003ctd data-label=\"Dengan DFlash\"\u003e233.4 token/detik\u003c/td\u003e\n\u003ctd data-label=\"Peningkatan yang disajikan\"\u003eSekitar 3.1 kali\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Perangkat keras\"\u003eApple M5 Max\u003c/td\u003e\n\u003ctd data-label=\"Kecepatan dasar\"\u003e26.6 token/detik\u003c/td\u003e\n\u003ctd data-label=\"Dengan DFlash\"\u003e50.2 token/detik\u003c/td\u003e\n\u003ctd data-label=\"Peningkatan yang disajikan\"\u003eSekitar 1.8 kali\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Perangkat keras\"\u003eApple M4 Max\u003c/td\u003e\n\u003ctd data-label=\"Kecepatan dasar\"\u003e23.7 token/detik\u003c/td\u003e\n\u003ctd data-label=\"Dengan DFlash\"\u003e37.8 token/detik\u003c/td\u003e\n\u003ctd data-label=\"Peningkatan yang disajikan\"\u003eSekitar 1.5 kali\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eKarena agen melakukan inferensi beberapa kali dan menunggu alat eksternal, kecepatan pembuatan token tidak sama dengan total waktu pengerjaan. Waktu penyelesaian aktual juga mencakup kecepatan pemrosesan prompt, input/output file, eksekusi kode, akses jaringan, dan jumlah percobaan ulang alat.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#cara-membaca-hasil-benchmark\" class=\"anchor\" id=\"cara-membaca-hasil-benchmark\"\u003e\u003c/a\u003eCara membaca hasil benchmark\u003c/h2\u003e\n\u003cp\u003eMateri yang tersedia membandingkan Muse Glimmer dengan Gemma 4 31B dan Qwen 3.6 27B serta menyajikan hasil berikut.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eBenchmark\u003c/th\u003e\n\u003cth\u003eMuse Glimmer\u003c/th\u003e\n\u003cth\u003eGemma 4 31B\u003c/th\u003e\n\u003cth\u003eQwen 3.6 27B\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Benchmark\"\u003eMCP Atlas\u003c/td\u003e\n\u003ctd data-label=\"Muse Glimmer\"\u003e75.5\u003c/td\u003e\n\u003ctd data-label=\"Gemma 4 31B\"\u003e54.2\u003c/td\u003e\n\u003ctd data-label=\"Qwen 3.6 27B\"\u003e62.5\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Benchmark\"\u003eDeepSearch QA\u003c/td\u003e\n\u003ctd data-label=\"Muse Glimmer\"\u003e74.6\u003c/td\u003e\n\u003ctd data-label=\"Gemma 4 31B\"\u003eTidak ada angka dalam materi\u003c/td\u003e\n\u003ctd data-label=\"Qwen 3.6 27B\"\u003eTidak ada angka dalam materi\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003ePada saat yang sama, disebutkan bahwa Qwen 3.6 27B memperoleh hasil lebih tinggi daripada Muse Glimmer pada OSWorld Verified, TerminalBench 2.1, dan SWE-bench Verified. Ini berarti evaluasi berdasarkan tujuan lebih penting daripada satu skor rata-rata.\u003c/p\u003e\n\u003cp\u003eSaat meninjau benchmark, hal-hal berikut perlu diperiksa.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eApakah presisi model dan kondisi kuantisasi yang sama digunakan\u003c/li\u003e\n\u003cli\u003eApakah jumlah pemanggilan alat dan batas waktunya sama\u003c/li\u003e\n\u003cli\u003eApakah prompt agen dan kode orkestrasi dipublikasikan\u003c/li\u003e\n\u003cli\u003eApakah resolusi gambar dan konteks maksimum sama\u003c/li\u003e\n\u003cli\u003eApakah rata-rata dan varians dari beberapa kali eksekusi disediakan\u003c/li\u003e\n\u003cli\u003eApakah kemungkinan data evaluasi tercakup dalam data pelatihan telah diperiksa\u003c/li\u003e\n\u003cli\u003eApakah tugas yang gagal tidak diperbaiki atau dimulai ulang oleh manusia\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eMenurut materi yang tersedia, pada rata-rata 15 benchmark, penurunan kinerja K-Quant-Dynamic dibandingkan versi asli diukur sekitar 0.2%, sedangkan K-Quant-17GB sekitar 1%. Angka ini juga diperkenalkan sebagai hasil evaluasi Meta sendiri, dan tingkat penurunan untuk setiap tugas dapat berbeda dari rata-ratanya.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#manfaat-dan-keterbatasan-perlindungan-privasi-dalam-eksekusi-lokal\" class=\"anchor\" id=\"manfaat-dan-keterbatasan-perlindungan-privasi-dalam-eksekusi-lokal\"\u003e\u003c/a\u003eManfaat dan keterbatasan perlindungan privasi dalam eksekusi lokal\u003c/h2\u003e\n\u003cp\u003eKonfigurasi yang sepenuhnya lokal membantu membangun sistem yang tidak mengirim kode sumber, dokumen internal, tangkapan layar, dan isi basis data ke API LLM eksternal. Konfigurasi ini juga memiliki keunggulan dapat digunakan dalam jaringan tertutup dan menghindari biaya penggunaan API eksternal per token.\u003c/p\u003e\n\u003cp\u003eNamun, fakta bahwa file model berada secara lokal tidak berarti semua aliran data tetap berada secara lokal. Komponen berikut dapat terhubung ke pihak luar.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003ePencarian web atau alat browser jarak jauh\u003c/li\u003e\n\u003cli\u003eTelemetri analisis kesalahan dan penggunaan\u003c/li\u003e\n\u003cli\u003eEkstensi dan plugin agen\u003c/li\u003e\n\u003cli\u003ePenyimpanan dokumen berbasis cloud\u003c/li\u003e\n\u003cli\u003ePengelola paket dan repositori kode\u003c/li\u003e\n\u003cli\u003eLayanan embedding, pencarian, atau evaluasi jarak jauh\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eOrganisasi yang menangani data sensitif perlu memeriksa log jaringan dan proses yang berjalan serta meninjau jalur data seluruh alat yang terhubung, bukan hanya runtime model.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#risiko-keamanan-agen-lokal-dan-penanganannya\" class=\"anchor\" id=\"risiko-keamanan-agen-lokal-dan-penanganannya\"\u003e\u003c/a\u003eRisiko keamanan agen lokal dan penanganannya\u003c/h2\u003e\n\u003cp\u003eAI lokal dapat mengurangi risiko transmisi, tetapi risiko yang berasal dari izin sistem justru dapat meningkat. Perhatian khusus perlu diberikan pada prompt injection tidak langsung, ketika instruksi tersembunyi dalam dokumen eksternal atau halaman web mengubah tujuan awal agen.\u003c/p\u003e\n\u003cp\u003eMetode pertahanan yang disarankan adalah sebagai berikut.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eJalankan terlebih dahulu dalam ruang kerja hanya-baca.\u003c/li\u003e\n\u003cli\u003eIzinkan hanya folder yang diperlukan, bukan seluruh direktori home.\u003c/li\u003e\n\u003cli\u003eWajibkan persetujuan manusia untuk penghapusan, penimpaan, transfer dana, dan deployment.\u003c/li\u003e\n\u003cli\u003eBlokir hak administrator dan akses ke folder inti sistem operasi.\u003c/li\u003e\n\u003cli\u003eJangan masukkan kunci rahasia dan token autentikasi secara langsung ke konteks model.\u003c/li\u003e\n\u003cli\u003eTerapkan daftar izin dan batas waktu eksekusi pada perintah terminal.\u003c/li\u003e\n\u003cli\u003ePerlakukan kalimat dalam dokumen eksternal sebagai data yang tidak tepercaya.\u003c/li\u003e\n\u003cli\u003eBuat snapshot atau commit kontrol versi sebelum melakukan perubahan.\u003c/li\u003e\n\u003cli\u003eSimpan semua pemanggilan alat dan catatan perubahan file sebagai log audit.\u003c/li\u003e\n\u003cli\u003eUji dalam container atau mesin virtual yang terpisah dari lingkungan produksi sebenarnya.\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eDalam bidang medis, keuangan, hukum, pertahanan, dan sektor publik, pemrosesan lokal saja tidak cukup untuk memenuhi regulasi. Kontrol akses, retensi catatan, persetujuan penanggung jawab, klasifikasi data, dan validasi model juga diperlukan.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#arti-publikasi-dengan-apache-20\" class=\"anchor\" id=\"arti-publikasi-dengan-apache-20\"\u003e\u003c/a\u003eArti publikasi dengan Apache 2.0\u003c/h2\u003e\n\u003cp\u003eMateri yang tersedia menjelaskan bahwa bobot Muse Glimmer dipublikasikan dengan Apache License 2.0. Apache 2.0 adalah lisensi permisif yang umumnya mengizinkan penggunaan, modifikasi, distribusi, dan penggunaan komersial serta mencakup klausul paten yang eksplisit. Saat mendistribusikan ulang, persyaratan seperti mempertahankan salinan lisensi, pemberitahuan hak cipta, dan penandaan perubahan harus dipatuhi.\u003c/p\u003e\n\u003cp\u003eNamun, saat benar-benar menggunakan model, hal-hal berikut perlu diperiksa secara terpisah.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eApakah setiap file model benar-benar tercakup oleh Apache 2.0\u003c/li\u003e\n\u003cli\u003eApakah terdapat pembatasan penggunaan tambahan dalam kartu model atau repositori\u003c/li\u003e\n\u003cli\u003eApakah kode dan tokenizer yang disertakan menggunakan lisensi yang sama\u003c/li\u003e\n\u003cli\u003eApakah encoder visi dan model drafter memiliki ketentuan tersendiri\u003c/li\u003e\n\u003cli\u003eApakah hak merek dagang atau hak data pihak ketiga tercakup dalam ruang lingkup izin\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003ePublikasi bobot tidak berarti seluruh proses pelatihan dijadikan open source. Menurut materi yang tersedia, keseluruhan data pelatihan dan keseluruhan kode pelatihan tidak dipublikasikan. Karena itu, Muse Glimmer dapat disebut sebagai model dengan bobot terbuka, tetapi tidak boleh langsung dianggap sebagai model open source sepenuhnya yang memungkinkan seluruh proses pelatihannya direproduksi.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#daftar-periksa-sebelum-adopsi\" class=\"anchor\" id=\"daftar-periksa-sebelum-adopsi\"\u003e\u003c/a\u003eDaftar periksa sebelum adopsi\u003c/h2\u003e\n\u003cp\u003eSaat mengevaluasi produk, hasil yang mereproduksi tugas Anda sendiri lebih penting daripada kecepatan tertinggi dalam siaran pers.\u003c/p\u003e\n\u003col\u003e\n\u003cli\u003ePeriksa pihak distribusi resmi dan repositori model.\u003c/li\u003e\n\u003cli\u003ePeriksa arsitektur, konteks, bahasa yang didukung, dan format input dalam kartu model.\u003c/li\u003e\n\u003cli\u003eMinta staf hukum meninjau file LICENSE dan ketentuan penggunaan tambahan.\u003c/li\u003e\n\u003cli\u003eUkur memori maksimum termasuk model, cache KV, encoder visi, dan drafter.\u003c/li\u003e\n\u003cli\u003eEvaluasi akurasi, tingkat keberhasilan alat, dan tingkat pemulihan kegagalan menggunakan dokumen serta kode aktual.\u003c/li\u003e\n\u003cli\u003eUkur kecepatan pemrosesan input dan peningkatan penggunaan memori dalam konteks panjang.\u003c/li\u003e\n\u003cli\u003eSetelah memblokir jaringan, pastikan semua fungsi benar-benar bekerja secara lokal.\u003c/li\u003e\n\u003cli\u003eLakukan pengujian serangan menggunakan prompt injection dan file berbahaya.\u003c/li\u003e\n\u003cli\u003eTerapkan persetujuan manusia dan pencadangan otomatis untuk perubahan penting.\u003c/li\u003e\n\u003cli\u003eBandingkan perbedaan kualitas per tugas antara versi kuantisasi dan versi asli BF16.\u003c/li\u003e\n\u003c/ol\u003e\n\u003ch2\u003e\n\u003ca href=\"#evaluasi-keseluruhan\" class=\"anchor\" id=\"evaluasi-keseluruhan\"\u003e\u003c/a\u003eEvaluasi keseluruhan\u003c/h2\u003e\n\u003cp\u003eKeunikan Muse Glimmer bukan terletak pada klaim bahwa model ini merupakan model serbaguna dengan skor tertinggi di semua benchmark, melainkan pada desain yang berupaya menyesuaikan model multimodal kelas 30 miliar parameter dan fungsi agen jangka panjang dengan perangkat keras konsumen. Jika kuantisasi 4-bit, konteks panjang, akselerasi DFlash, dan lisensi permisif tersedia sesuai materi resmi, model ini dapat menjadi pilihan yang berarti untuk coding lokal, analisis dokumen, dan otomatisasi jaringan tertutup.\u003c/p\u003e\n\u003cp\u003eDi sisi lain, penyebutan 24GB atau 32GB bukan jaminan bahwa semua fungsi model dan konteks maksimum akan berjalan lancar pada perangkat apa pun. Sebelum kartu model resmi dan benchmark yang dapat direproduksi dikonfirmasi, angka kecepatan dan kualitas perlu dibedakan sebagai klaim hasil pengukuran Meta sendiri, serta diperlukan pendekatan yang mengevaluasi memori, keamanan, dan akurasi pada beban kerja aktual.\u003c/p\u003e\n","tags":["Agen AI","Meta","Muse Glimmer","AI lokal","Kuantisasi"],"faqs":[{"question":"Apa perbedaan Muse Glimmer dengan LLM lokal pada umumnya?","answer":"Perbedaannya adalah bahwa sasaran utamanya ialah agen AI yang berjalan dalam waktu lama, yang menganalisis file dan layar, memanggil alat seperti fungsi atau terminal, memeriksa hasil, lalu memperbaiki rencana, bukan chatbot yang hanya menghasilkan respons teks."},{"question":"Apakah model dengan 30 miliar parameter benar-benar dapat dijalankan dengan memori 24GB?","answer":"Materi yang disediakan menjelaskan bahwa versi K-Quant 4-bit berukuran 17GB disesuaikan untuk lingkungan sekitar 24GB. Namun, karena memori yang dibutuhkan berbeda-beda tergantung pada panjang konteks, input visual, cache KV, model drafter, dan penggunaan oleh sistem operasi, 24GB tidak boleh ditafsirkan sebagai spesifikasi minimum yang dijamin untuk semua kondisi penggunaan."},{"question":"Mengapa ukuran model 17GB berbeda dengan memori eksekusi 24GB?","answer":"17GB adalah istilah yang terutama merujuk pada paket bobot yang telah dikuantisasi. Eksekusi sebenarnya memerlukan memori tambahan untuk cache KV, nilai aktivasi perantara, encoder visual, ruang kerja runtime, dan sistem operasi."},{"question":"Apakah konteks 131,072 token selalu dapat digunakan?","answer":"Meskipun model mendukung panjang tersebut, batas maksimum aktual dapat dibatasi oleh runtime, memori, presisi cache KV, dan jumlah input gambar. Apakah akurasi pencarian informasi tetap terjaga pada panjang maksimum juga harus dievaluasi secara terpisah."},{"question":"Apakah DFlash drafter menurunkan kualitas jawaban model?","answer":"Speculative Decoding dirancang agar model utama memverifikasi token yang diusulkan oleh drafter, sehingga jika diterapkan dengan benar, distribusi output model utama dapat dipertahankan. Namun, jika metode implementasi dan pengaturan sampling berbeda, hasil serta tingkat percepatannya juga dapat berbeda."},{"question":"Jika dijalankan secara lokal, apakah data sama sekali tidak pernah dikirim ke luar?","answer":"Tidak. Meskipun model dijalankan secara lokal, pencarian web, plugin, repositori jarak jauh, telemetri, atau alat embedding cloud dapat mengirimkan data. Komunikasi jaringan dari keseluruhan konfigurasi agen harus diperiksa."},{"question":"Izin apa yang aman untuk diberikan kepada agen AI lokal?","answer":"Sebaiknya berikan izin minimum hanya untuk folder kerja yang diperlukan dan jalankan dalam mode hanya baca pada awalnya. Tindakan berisiko tinggi seperti menghapus file, mengirim data ke luar, memasang perangkat lunak, dan melakukan deployment harus memerlukan persetujuan manusia."},{"question":"Jika menggunakan Apache 2.0, apakah dapat digunakan secara bebas untuk tujuan komersial?","answer":"Apache 2.0 sendiri adalah lisensi permisif yang mengizinkan penggunaan komersial, modifikasi, dan distribusi ulang. Namun, perlu memeriksa LICENSE dan kartu model di repositori resmi untuk memastikan apakah lisensi tersebut berlaku pada file model yang sebenarnya serta apakah terdapat ketentuan tambahan dan komponen pihak ketiga."},{"question":"Apakah Muse Glimmer merupakan model sumber terbuka sepenuhnya?","answer":"Menurut materi yang disediakan, bobotnya telah dipublikasikan, tetapi seluruh data pelatihan dan seluruh kode pelatihan belum dipublikasikan. Oleh karena itu, model ini dapat disebut sebagai model dengan bobot terbuka, tetapi perlu dibedakan apakah model ini merupakan model sumber terbuka sepenuhnya yang memungkinkan seluruh proses pelatihannya direproduksi."},{"question":"Apakah kecepatan dan benchmark yang disajikan Meta dapat dipercaya begitu saja?","answer":"Hasil pengukuran internal berguna sebagai referensi awal, tetapi tidak menggantikan verifikasi independen. Diperlukan hasil reproduksi yang menggunakan kuantisasi, runtime, panjang konteks, pengaturan daya, dan alat agen yang sama."}],"sources":[{"url":"https://www.apache.org/licenses/LICENSE-2.0","title":"Apache License, Versi 2.0","type":"source"},{"url":"https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf","title":"NIST AI 600-1: Kerangka Kerja Manajemen Risiko Kecerdasan Buatan—Profil Kecerdasan Buatan Generatif","type":"source"}],"images":[{"id":602,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6NzE2MywicHVyIjoiYmxvYl9pZCJ9fQ==--655d2556aee6b63b88d70cffbc019429039bcd2b/ai-7afa8941.webp","is_representative":true,"generation_method":"ai_image","license":"ai_generated","mime_type":"image/webp","translations":{"ko":{"alt":"데이터 블록을 받아 문서·이미지·코드로 처리하는 로컬 AI 노트북 개념도","caption":"노트북에서 로컬 AI가 다양한 데이터를 처리하고 보안 워크플로를 수행하는 모습을 나타낸다.","description":null},"en":{"alt":"Local AI laptop processing data blocks into documents, images, folders, code, and charts","caption":"The diagram depicts a laptop running local AI for multimodal processing and secure workflows.","description":null},"ja":{"alt":"データブロックを文書・画像・コードなどに処理するローカルAI搭載ノートPCの概念図","caption":"ノートPC上のローカルAIが多様なデータを処理し、安全なワークフローを実行する様子を示す。","description":null},"es":{"alt":"Portátil con IA local que procesa bloques de datos en documentos, imágenes, código y gráficos","caption":"El diagrama muestra una IA local en un portátil gestionando datos multimodales y flujos seguros.","description":null},"id":{"alt":"Laptop AI lokal memproses blok data menjadi dokumen, gambar, folder, kode, dan grafik","caption":"Diagram ini menggambarkan AI lokal di laptop yang menangani data multimodal dan alur kerja aman.","description":null},"pt":{"alt":"Notebook com IA local processando blocos de dados em documentos, imagens, códigos e gráficos","caption":"O diagrama mostra uma IA local no notebook gerenciando dados multimodais e fluxos seguros.","description":null},"zh-hant":{"alt":"本機 AI 筆電將資料區塊處理成文件、圖像、資料夾、程式碼與圖表","caption":"示意圖呈現筆電上的本機 AI 處理多模態資料並執行安全工作流程。","description":null},"de":{"alt":"Laptop mit lokaler KI verarbeitet Datenblöcke zu Dokumenten, Bildern, Code und Diagrammen","caption":"Die Grafik zeigt lokale KI auf einem Laptop bei der multimodalen Verarbeitung und sicheren Abläufen.","description":null}}},{"id":603,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6NzE2OSwicHVyIjoiYmxvYl9pZCJ9fQ==--febd3177afd7cf52d6fa7bb0e86da563e46d0ffb/ai-34107f0a.webp","is_representative":false,"generation_method":"ai_image","license":"ai_generated","mime_type":"image/webp","translations":{"ko":{"alt":"AI 칩이 표시된 노트북과 보안 방패, 파일, 경고, 성능 계기판을 배치한 일러스트","caption":"노트북에서 실행되는 로컬 AI의 보안, 파일 처리, 최적화 및 성능 측정을 시각화했다.","description":null},"en":{"alt":"Laptop with an AI chip, security shield, files, warnings, and performance gauges","caption":"The illustration visualizes security, file processing, optimization, and performance for local AI on a laptop.","description":null},"ja":{"alt":"AIチップを表示したノートPCと、セキュリティ盾、ファイル、警告、性能メーターの図","caption":"ノートPCで動作するローカルAIの安全性、ファイル処理、最適化、性能測定を表している。","description":null},"es":{"alt":"Portátil con chip de IA, escudo de seguridad, archivos, alertas y medidores de rendimiento","caption":"La ilustración representa la seguridad, el procesamiento, la optimización y el rendimiento de una IA local.","description":null},"id":{"alt":"Laptop dengan cip AI, perisai keamanan, berkas, peringatan, dan pengukur kinerja","caption":"Ilustrasi ini menggambarkan keamanan, pemrosesan berkas, optimasi, dan kinerja AI lokal di laptop.","description":null},"pt":{"alt":"Notebook com chip de IA, escudo de segurança, arquivos, alertas e medidores de desempenho","caption":"A ilustração mostra segurança, processamento de arquivos, otimização e desempenho de IA local no notebook.","description":null},"zh-hant":{"alt":"顯示 AI 晶片的筆電，周圍有安全盾牌、檔案、警告與效能儀表","caption":"插圖呈現筆電本機 AI 的安全性、檔案處理、最佳化與效能測量。","description":null},"de":{"alt":"Laptop mit KI-Chip, Sicherheitsschild, Dateien, Warnsymbolen und Leistungsanzeigen","caption":"Die Illustration zeigt Sicherheit, Dateiverarbeitung, Optimierung und Leistung lokaler KI auf einem Laptop.","description":null}}}],"published_at":"2026-08-12T14:00:06+09:00","updated_at":"2026-08-12T14:00:06+09:00","license":"cc_by","translation_status":"reviewed","available_locales":["ko","en","ja","es"],"data_locales":["ko","en","ja","es","id","pt","zh-hant","de"],"url":"https://injoys.com/en/articles/meta-muse-glimmer-local-ai-agent-model"}