了解如何在搭载 Apple Silicon 芯片的 Mac 上使用您的硬件直接运行人工智能模型并检查性能。
想象一下。今天早上,您遇见了一位聪明的人工智能(AI)助手,它无需连接互联网,也不用担心个人数据外泄,在您的计算机上就能完美运行。最近,许多人开始提出这样一个问题:“我能在自己的电脑上直接运行 AI 吗?”但问题并不简单,因为很难判断应该安装哪些模型,以及您的计算机是否真的能够顺畅地运行它们。
现在,无需逐一核对复杂的规格,您就可以轻松确认您的 Mac 能够运行哪些 AI 模型,以及它们的运行速度如何。
为什么这很重要?
不仅仅是使用 AI,而是“在自己的电脑上”直接运行 AI,意义重大。首先是数据安全。您不必将日记或公司机密文档发送到外部云服务器。其次是节省成本。您可以摆脱每月向云端 AI 服务支付订阅费的负担。特别是对于使用 Apple Silicon(苹果自研的 Mac 芯片组)Mac 的用户来说,意味着您手中已经掌握了强大的 AI 运行设备。
简单来说:为什么每台 Mac 的性能都不同?
运行人工智能模型就像是“拼一幅巨大的拼图”。拼图碎片(模型数据)多达数十亿个。您可以将电脑的规格想象成拼这些拼图的“工作台大小”和“手部速度”。
打个比方,像 ‘BestLLMfor’ 或 ‘MacLLMCalculator’ 这样的工具,就像是专业建筑师看着您的家(Mac 电脑)告诉您:“这个房间可以放这种家具(AI 模型),组装需要几分钟。” 参考资料: LocalLLM: which model runs on your machine?, 参考资料: MacLLMCalculator 当您输入您拥有的 Mac 规格时,这些工具会分步骤亲切地指导您应该安装哪些模型。
归根结底,在本地(您的电脑)运行人工智能模型的性能,是由“模型的特性”和“Mac 的硬件规格”这两个数字所决定的。 参考资料: MacLLMCalculator
目前进展如何?
目前,Apple Silicon Mac 从 M1 芯片到最新的 M4 芯片,所有代系都具备执行人工智能任务的能力。 参考资料: Benchmarking local Ollama LLMs on Apple M4 Pro vs RTX 3060 laptop 运行人工智能模型最典型的方法之一是使用名为“Ollama”的工具。
Ollama 提供两种运行模型的方式。 参考资料: Download Ollama for macOS
- 本地方式:利用您 Mac 内部芯片组(Apple Silicon)的力量直接运行模型。数据不会外泄,非常安全。
- 云端方式:借用 Ollama 的服务器进行操作。速度非常快,无需额外复杂的下载,但必须连接互联网。
用户可以根据自己的硬件规格和目的选择这两种方式中的一种。 参考资料: How to Run an LLM Locally on a Mac
未来展望
预计未来会出现比现在更小巧、更强大的模型,即使在 MacBook Air 这样的便携式笔记本电脑上,也能展现出目前大型桌面级 AI 的性能。目前已经有许多面向用户的指南,即使是初学者,只需点击几下鼠标,也能构建属于自己的 AI 环境。 参考资料: How to Run an LLM Locally on a Mac 查看自己的 Mac 规格并亲自寻找适合自己工作需求的最佳 AI 模型,这种尝试将变得更加普及。
MindTickleBytes AI 记者视角
将电脑规格视为“运行模型的工具”这一视角转变非常有趣。以前选择电脑的标准可能仅仅是“能以多高的画质玩游戏”,而现在恐怕会变成“能让多么聪明的 AI 陪伴在我身边”。如果您是 Mac 用户,建议您尝试 100% 发挥自己芯片组的性能。
参考资料
-
[LocalLLM: which model runs on your machine? BestLLMfor](https://bestllmfor.com/) - MacLLMCalculator: Which Apple Silicon Runs Which Model, How Fast
- How to Run an LLM Locally on a Mac (2026 Guide)
- Benchmarking local Ollama LLMs on Apple M4 Pro vs RTX 3060 laptop
- Download Ollama for macOS to run and build with open AI models
- 互联网速度
- 模型与 Mac 的硬件规格
- 用户的年龄
- 本地运行和利用云服务器
- 付费和免费
- Web 浏览器和 App
- 不可以
- 从 M1 到 M4 的所有代系都可以
- 仅最新型号可以