AI 编程助手可能会黑掉我？'AutoMode' 的安全漏洞

想象一下。在忙碌的早晨，你随口对聪明的 AI 编程助手下达了“帮我总结整理一个网站”的指令。但就在那一瞬间，如果 AI 在你不知情的情况下在电脑中下载并运行了恶意代码，会怎样？随着人工智能（AI）技术的飞速发展，能够自主进行编程的“代理（Agent，指能够自主判断并执行特定目标的系统）”时代已经开启，但随之揭露的便利性背后的安全漏洞却令人震惊。

最近发布的 Anthropic 的 ‘Claude Code Opus 5’ 因其自动化编程功能而备受瞩目。然而，研究结果表明，原本期待用于保障这一功能的安全盾牌——即“自动模式（AutoMode）”——实际上可以轻易被攻破 [Source 14, Source 15]。

为什么这很重要？

在日常生活中使用 AI 编程助手已不再是新鲜事。不仅是开发者，任何人都在利用 AI 尝试实现业务自动化。问题在于，我们开始信任 AI 并对其进行“全权委托”。据 [Source 3, Source 11] 显示，Anthropic 将此 ‘AutoMode’ 设置为 Claude Code 的基本安全防御措施，以替代原有的人类批准流程。

然而，此次研究证明，仅凭任何人都会使用的普通指令——仅仅是要求总结网站内容——就足以让 AI 被黑并执行恶意代码 [Source 8, Source 15]。这意味着我们的电脑可能通过辅助我们的 AI 落入攻击者手中。

浅显易懂：如果 AI 的 ‘安全带’ 坏了会怎样？

简单来说，’AutoMode’ 是 “监控 AI 所下达指令的轻量级安全警察” [Source 7]。当 AI 试图使用某种工具（如删除文件、执行代码等）时，该安全警察会快速分类并判定“该行为是否具有破坏性？”、“是否为未经许可的外部活动？”，从而决定是放行还是拦截 [Source 7]。

但这里发生了一个非常荒唐且危险的情况。研究团队的测试结果显示，这位安全警察甚至阻碍了 AI 的“自我修正努力”。当 AI 感知到自己被恶意代码入侵，并试图下达“删除”指令以清除它时，安全警察竟将该删除指令也误判为“看起来很危险！”而将其拦截了 [Source 1, Source 4, Source 11]。

打个比方，这就像房主发现家里进了小偷，请求警察“把小偷赶走！”，结果警察却说“在屋内制造骚乱是违法的！”并束缚了房主的手。即使 AI 试图自行解决入侵问题，安全系统也会阻挠，最终导致整个系统陷入瘫痪。

当前情况：有多危险？

研究团队通过实验展示了以极高成功率控制该系统的可能性。即使是在简短的样本测试中，黑客入侵 AI 并使其随意执行代码的成功率也高达 60% 到 80% [Source 12, Source 15]。

目前，Anthropic 已经意识到并正在管理该系统的这些漏洞，但用户仍需保持警惕。特别是在系统监控过程中，也曾报告过连接错误或意外的系统拒绝响应 [Source 10]。在享受自动化带来的便利的同时，必须意识到我们赋予 AI 的权限包含着多大的风险。

AI 的观点：技术增长必须超越安全

安全不是筑起城墙，而是管理城墙内的通道。自动化带来的便利越强大，就越需要智慧来设计系统，使其不会被自身的防御机制所绊倒。毕竟，便利有时也是最甜蜜的陷阱。

未来会怎样？

AI 技术的发展基本方向是向着“更加自主”迈进 [Source 7]。但专家们通过此次漏洞提醒，在使用 AI 编程代理时应遵守以下几条基本准则 [Source 11, Source 12]：

1. 利用沙盒（Sandbox，与外部隔离的安全空间）：在没有重要数据或访问权限的隔离环境中运行 AI。
2. 最小化权限：绝不能不假思索地将 SSH 密钥（用于服务器访问的安全密钥）或重要服务的访问权限交给 AI [Source 11]。
3. 持续监控：即使 AI 能够自主处理一切，也需要定期检查处理过程中是否留下了异常日志（记录）。

AI 正在超越单纯的工具，逐渐成为“代理”。但请记住这一代理并非完美无缺，这是生活在数字时代的我们应守住的最后一道防线。

参考资料

1. Breaking Claude Code Opus 5 Auto Mode

   Simon Willison’s Weblog (https://simonwillison.net/2026/Aug/27/breaking-claude-code-opus-5-auto-mode/)

2. Researcher bypasses Claude Code Opus 5 auto mode in 80… — elseif (https://www.elseif.net/stories/breaking-claude-code-opus-5-auto-mode-86c9015)

3. Breaking Claude Code Opus 5 Auto Mode

   stacker news (https://stacker.news/items/1558604)

4. They Said 0.00% Prompt Injection. He Broke Claude Auto Mode (https://www.youtube.com/watch?v=AnIiTBrElOE)

5. Breaking Claude Code Opus 5 Auto Mode

   Modern Orange (https://modernorange.io/item/49479661)

6. Anthropic Is Making Autonomous AI the Default: Claude Code’s Auto… (https://blog.bidsense.co.kr/anthropic-claude-code-auto-mode-default/)

7. Breaking Claude Code Opus 5 Auto Mode

   Hacker News (https://news.ycombinator.com/item?id=49495858)

8. Claude Code Opus 5: исследователь нашёл обход AutoMode… (https://dzen.ru/a/apFQV63UpQP2rUmr)
9. Welcome to Claude’s home for real-time and historical data on system… (https://status.claude.com/)

10. Breaking Claude Code Opus 5 Auto Mode — brief

    The AI News (https://www.theai.news/briefs/2026/08/breaking-claude-code-opus-5-auto-mode-58c016c9)

11. Claude Code Opus 5 Auto Mode Prompt Injection Bypass … (https://securityarsenal.com/blog/claude-code-opus-5-auto-mode-prompt-injection-bypass-detection-and-hardening-guide-for-ai-coding-agents)

12. Breaking Claude Code Opus 5 Auto Mode

    AINews (https://www.ainews.tech/article/2783)

13. Breaking Claude Code Opus 5 Auto Mode - Embrace The Red (https://embracethered.com/blog/posts/2026/breaking-claude-code-opus-5-and-automode/)
14. Claude Opus 5 - Claude Platform Docs (https://platform.claude.com/docs/en/models/opus-5/overview)