AI是如何思考的？在网页浏览器中亲手打造属于你的“Transformer”世界

AI，现在它不是魔法，而是“观察的对象”

想象一下：当你问聊天机器人“今天天气怎么样？”时，在AI给出答案之前，它的内部究竟发生了什么？在过去，对大多数人来说，AI就像一个按下按钮就能像变魔术一样给出结果的“黑盒”。

但现在，一个能让我们打开盒子、亲眼观察内部齿轮如何转动的时代已经来临。近期，大量可以在网页浏览器中直接构建并可视化大型语言模型（LLM，即理解句子中单词间关系的AI结构）核心结构“Transformer”的工具应运而生。即便不是编程专家，现在也能像拼拼图一样观察AI大脑的运作方式。

这为什么重要？

随着AI渗透到社会的各个角落，我们每天都在消费AI的成果。然而，如果我们无法理解这些结果背后的逻辑过程，就很难发现AI所提供信息中的偏见或错误。

这些可视化工具打破了AI教育的高门槛。用户不再只是阅读理论，而是可以通过修改模型设置、观察实时变化的数据流来进行学习。这剥离了AI的“黑盒”属性，提高了对技术的信任，并为更多人参与AI技术的发展奠定了基础。

通俗易懂：AI的“观察相机”

简单来说，这些工具就像是探视AI模型的“内窥镜”或“观察相机”。打个比方，这就好比打开汽车引擎盖，亲眼看活塞运动一样。

例如，像 Transformer Explainer 这样的工具，可以在浏览器内展示 GPT-2 等实际模型的运行过程 Transformer Explainer。该工具基于 Andrej Karpathy 的 nanoGPT 项目开发，它能以热图（Heatmap，用颜色表现数据强度）的形式展示模型在阅读句子时关注哪些单词（Attention，即在语境中对重要词汇赋予权重的机制）Transformer Explainer。

当你输入“我吃了苹果”这个句子时，模型为了掌握“苹果”和“吃了”这两个词之间的关系，会交互产生无数的箭头。可视化工具通过3D动画或实时图表，展示这些箭头指向何处，以及信息在每一层（Layer）中是如何变化的 LLM Visualizer, LLM Visualization。这提供了一种神奇的体验，将复杂的数学矩阵运算转化成了我们肉眼可以理解的信息。

当前现状：搬进网页的AI实验室

我们目前可以使用的工具精细度令人惊叹。

1. 亲手构建的体验：有些工具会向用户展示如何选择数据集并从头开始训练模型（Pre-train）。在这个过程中，可以确认所有的词元（Token，AI识别数据的最小单位）以及训练数据是如何输入到模型中的 Build an LLM。
2. 与代码的连接：为专家提供的工具将视觉化的呈现与实际的 PyTorch（AI开发的核心框架）代码一一对应。用户甚至可以检查张量（Tensor，AI运算的基本单位，即多维数组）的形状如何变化，以及占用了多少内存 LLM Improvement Visualizer。
3. 利用实际模型数据：还有一些工具能够捕获以莎士比亚作品（Tiny Shakespeare）等训练出的模型内部数据，从而可视化地展示模型实际上是如何思考的 GitHub - pegg-dot/Transformer。

未来会怎样？

未来，“理解并修改”AI模型的工作将更加普及。现在虽然还停留在观察的阶段，但未来将逐步发展出一种界面，让用户能够直观地确认特定语境下AI的偏见，并进行调节。此外，这些工具将成为AI研究人员调试（Debugging）复杂模型的强大工具，同时也将成为向大众普及AI技术原理的优秀教材。

MindTickleBytes的AI记者视角

虽然人们常说AI正在改变世界，但如果我们看不见那个“AI的世界”，那充其量只是半知半解。现在，超越仅仅是“使用”AI，转而开始“深入窥探”它，变得至关重要。你也不妨在今天打开网页浏览器，开启一段通往AI大脑内部的旅行吧。那里一定展开着我们前所未知的全新数字世界。

参考资料

1. LLM Visualizer — Build a Transformer from Scratch
2. Transformer Explainer: LLM Transformer Model Visually Explained

3. [LLM Visualizer – Build a Transformer from Scratch

   Hacker News](https://news.ycombinator.com/item?id=49652996)

4. LLM Visualization

5. [🧠 Building an LLM from Scratch — How Transformers Learn, Think, and Generate

   llm-from-scratch](https://nilesh-salpe.github.io/llm-from-scratch/)

6. Build an LLM
7. LLM Visualizer - Interactive 3D Transformer Walkthrough
8. Build a Transformer from Scratch - Visual Guide
9. LLMVisualizer - a Hugging Face Space by CodeWithJoe
10. Build an LLM
11. GitHub - pegg-dot/Transformer: Build a transformer from …
12. LLM Matrix Lab: Multi-Model AI Tokenizer & LLM Visualization …

13. [LLM Improvement Visualizer

    Transformer Internals with Code](https://vivekgupta.ai/llm-visualizer)