在我的电脑上自动工作的 AI？认识 Meta 的新模型“缪斯微光 (Muse Glimmer)”

想象一下：只要开着笔记本电脑，AI 就会在夜里整理完积压的工作，写好所需的代码，甚至完成数据分析。到目前为止，想要完成这些工作，必须连接到庞大的云服务器并支付费用，还要担心宝贵的数据是否会泄露。但现在情况似乎有所不同了。Meta 发布了一款可以在我们自家电脑上直接运行的聪明 AI 模型——“缪斯微光 (Muse Glimmer)”。

为什么这很重要？

在“本地（Local，无需互联网连接，在设备上直接处理）”运行，对普通用户来说意义重大。第一点是隐私。业务数据无需传输到服务器，直接在电脑内部处理，安全性更高。

第二点是“始终在线 (always-on)”的便捷性。打个比方，如果说现有的 AI 是每次下达指令都要打电话询问的“远程助理”，那么缪斯微光就像是坐在你书桌旁默默工作的“专职随从”。无论网络状态或服务器状态如何，只要电脑开着，AI 就能在后台协助你。现在，我们可以在自己的设备上直接运行能够自主解决编码或复杂多步任务的 AI 代理（Agent，指能够自主制定计划并使用工具执行任务的 AI）了参考资料: Meta AI Research。

易于理解的概念

要理解缪斯微光，需要知道两个概念。

首先是“30B（300 亿参数）”的规模。参数可以理解为 AI 学习知识时使用的“可调节数值”。300 亿个参数意味着它包含了相当于韩国总人口 600 倍的信息处理单位。参数越多，AI 就越聪明；但反过来说，如果太大，普通电脑就带不动。Meta 将这个数字调整到了“既足够聪明，又不会让电脑卡顿”的水平参考资料: Meta AI Research。

其次是“蒸馏 (Distillation)”技术。如果说有一个非常聪明但体积巨大的“教师 AI”，那么缪斯微光就是从这位老师那里提取了核心“推理能力”的“学生 AI”参考资料: fonearena。虽然体积变小了，但它被设计为保留了自主制定计划和使用工具的能力。这就好比刚结束基础教育的新员工，向前辈学习了业务手册后被投入实战一样。

当前状况

目前，缪斯微光表现出了非常强劲的性能。在搭载 NVIDIA GPU 的电脑上，它的处理速度极快，每秒可处理 2 万个 token（单词片段）参考资料: NVIDIA Technical Blog。

原本要正常运行这种性能的模型，需要 55GB 以上的庞大内存。但 Meta 使用了名为“量化（Quantization，一种通过缩小 AI 模型大小，使其能在低配设备上运行的技术）”的技术，减小了模型的体积。得益于此，只需 18GB 左右的内存 (RAM) 即可运行，在 20GB 以下的环境中也能充分运作参考资料: Digg, 参考资料: digit.in。因此，在普通的高性能台式机或最新的 Mac 上完全可以执行参考资料: Threads。

未来展望

未来，我们或许可以对 AI 说：“整理一下我今天要做的工作，然后修复那个报错的代码”，然后就可以去睡觉了。因为缪斯微光不仅仅是写写文章，它是一个能够自主使用工具并解决问题的“代理”模型参考资料: Hugging Face。

特别值得一提的是，它以非常宽松的“Apache 2.0”许可证公开，任何人都可以自由使用参考资料: Korshunov AI。预计未来个人开发者将基于该模型，开发出属于自己的 AI 助理或特定业务专用的本地 AI 工具。无需担心云端费用，AI 在自己的电脑上自主工作的时代已经来临。

MindTickleBytes 的 AI 记者视角

无需将数据发送到云服务器即可进行复杂推理，这意味着 AI 真正成为了“掌握在手中的工具”。曾被困在大型企业服务器机房里的 AI，现在已经准备好在个人用户的电脑上自由驰骋了。

参考资料

1. Introducing Muse Glimmer: An Open Agentic Model That Runs on Your Device

   Meta AI Research (https://research.meta.ai/blog/introducing-muse-glimmer-open-agentic-model)

2. AI at Meta on X (https://x.com/AIatMeta/status/2086757844544811485)

3. Run Local Agentic AI Workflows with Meta’s Muse Glimmer on NVIDIA

   NVIDIA Technical Blog (https://developer.nvidia.com/blog/run-local-agentic-ai-workflows-with-metas-muse-glimmer-on-nvidia/)

4. Introducing Muse Glimmer

   Threads (https://www.threads.com/@aiatmeta/post/Db2yw9ukbrc/introducing-muse-glimmer-an-open-weight-b-parameter-model-optimized-for-local/)

5. Meta Publishes Muse Glimmer As 30B Open Agentic Model - Phoronix (https://www.phoronix.com/news/Meta-Muse-Glimmer)

6. meta-models/Muse-Glimmer-30B

   Hugging Face (https://huggingface.co/meta-models/Muse-Glimmer-30B)

7. Meta releases Muse Glimmer for local AI agents

   TestingCatalog (https://www.testingcatalog.com/meta-releases-muse-glimmer-for-local-ai-agents/)

8. unsloth/Muse-Glimmer-30B-GGUF

   Hugging Face (https://huggingface.co/unsloth/Muse-Glimmer-30B-GGUF)

9. Meta introduces Muse Glimmer 30B open-weight model for local agent workflows

   fonearena (https://www.fonearena.com/blog/489237/meta-muse-glimmer-features.html)

10. Meta releases Muse Glimmer, a 30B open-weight model for local agent workflows

    Korshunov AI (https://korshunov.ai/en/article/17428-meta-releases-muse-glimmer-a-30b-open-weight-model-for-local-agent-workflows/)

11. Meta Releases Open Weights for 30B Muse Glimmer Model

    Digg (https://digg.com/tech/5etlpkzd)

12. Meta launches Muse Glimmer, a 30B AI model designed for local AI agents

    digit.in (https://www.digit.in/news/general/meta-launches-muse-glimmer-a-30b-ai-model-designed-for-local-ai-agents.html)

13. Meta Releases Open-Source 30B Model Muse Glimmer

    AGI Hunt (https://agihunt.info/en/e/19feb295fcf8eccc59144dc8e93)