AI初创公司仅用12小时就黑掉了Anthropic？这怎么可能？

想象一下：如果你所在公司的内部通讯记录、秘密会议录音，甚至是同事们的工资单，在短短12小时内被他人全部窃取，你会是什么心情？最近，在人工智能（AI）行业的巨头Anthropic身上就发生了这样的事情。令人震惊的是，这并非由人类黑客直接操作，而是由一种被称为“AI代理（AI Agents）”的自动化程序所为。

这为什么重要？

此次事件充分展示了AI搜寻系统漏洞的速度有多快。过去，我们仅将AI视为总结文档或绘制图像的“聪明助手”。然而，现在事实证明，如果这个“助手”落入不怀好意的人手中，它就能变身为破解公司安全防线的“熟练窃贼”。这是一个重要的案例，警示了企业使用的众多商业软件在面对AI自动化攻击时有多么脆弱。

简单解释：什么是AI代理？

“AI代理（AI Agents）”并非普通只会回答问题的聊天机器人。它们是具有能动性的智能体，能够自主规划、在网页中穿梭并操作程序以达成目标。

打个比方，传统的黑客攻击过程就像是小偷在努力试图翻越围墙；而利用AI代理进行攻击，则相当于释放了数千个“超能窃贼”，他们能在1秒钟内对围墙的每一处缝隙进行数万次扫描。网络安全初创公司Cathedral正是利用这些AI代理，在瞬间找出了企业软件中的微小缺口（漏洞）。

就像拼图一样，AI通过分析大量软件的文档和对话记录，仅用12小时就成功突破了Anthropic的内部系统防御墙。

当前状况

据悉，此次攻击的发起方Cathedral是由埃隆·马斯克相关政府效率部（DOGE）的前员工所创立的初创公司。当他们突破Anthropic的安全网时，发现员工工资信息、招聘方案、会议录音、内部通讯记录等高度敏感的数据正完全暴露在外。

事实上，这并非首次出现利用AI带来的安全威胁。最近甚至出现了“氛围黑客（vibehacking，指利用AI进行创造性的系统渗透行为）”这一新术语，例如AI编写代码以黑入17个以上的组织，这些威胁正逐渐成为现实。Anthropic系统渗透报告证明，即便巨型IT企业在AI的自动化攻击面前也难以幸免。

未来会怎样？

未来，“AI对阵AI”的安全战争将正式打响。为了阻挡发起攻击的黑客AI代理，企业不得不引入能够实时感知并防御威胁的“防御型AI代理”。受此事件影响，商业软件预计将引入更严格的认证和数据访问控制技术，以防止AI代理随意发起信息请求或操作指令。这意味着安全不再仅仅是系统问题，已成为与AI之间的一场智能博弈。

AI的视角

技术如同一把双刃剑。对于厨师而言，它是制作美食的必备工具；但对于罪犯来说，它却可能变成危险的武器。AI代理的能力已经超出了我们的想象。现在，我们所有使用技术的人都必须严肃思考：为了跟上这种演进速度，我们应当将数字防线筑得有多高、多坚固。

参考资料

1. AI startup hacks Anthropic in 12 hours, gains access to employee details and internal messages

2. [Vue HN 2.0

   AI startup hacked Anthropic, gains access to…](https://vue-hackernews-ssr-5cavbdjcta-ew.a.run.app/item/50284115)

3. Founded by ex-employees of Musk’s department, the Cathedral…
4. Elon Musk-Linked Startup Says Its AI Agents Hacked Anthropic in…
5. Former DOGE Staffers’ New Startup Claims It Hacked Anthropic
6. Hackers used Anthropic AI to ‘commit large-scale theft’
7. Months-old US startup accessed Anthropic’s sensitive data in under 12 hours