派去工作的 AI 带回了 6500 美元账单：自主型 AI 的陷阱

想象一下，这是一个休息后醒来的平和周日早晨。你悠闲地在床上伸个懒腰并拿起手机，结果迎接你的是填满屏幕的数千条信用卡结账通知。惊慌失措地确认内容后，你发现自己在周末为了“让它自己干点活”而开启的人工智能程序，竟然在一夜之间挥霍了超过 6500 美元（约 4.7 万人民币）。

这并不是科幻电影中机器人反叛的剧本。而是 2026 年 5 月，发生在一名前辈用户身上的真实而令人难以置信的现实 AI agent bankrupts operator with $6,531 AWS bill scanning …。

最近，除了简单的问答之外，能够自主思考并行动的“AI 智能体（AI Agent，代替人类自主判断并行动以达成设定目标的 AI）”的引入正在急剧增加。然而，在这种惊人的便利背后，隐藏着我们未曾料到的致命陷阱。通过最近让网络安全和 AI 社区深感震惊的一起触目惊心的事故，我们将详细探讨在没有人类适当控制机制的情况下，被授予无限执行权限的自主型 AI 会带来怎样巨大的财务灾难 AI Agents and the DN42 Debacle: A Cautionary Tale for Operators。

为什么这很重要？ (Why It Matters)

简单来说，如果以前的人工智能是文静地在图书馆帮你找书的图书管理员，那么现在的 AI 就像是拿着你的信用卡直接开车出去购物、见人的积极跑腿小哥。

在将这种自主行动的 AI 引入日常生活或工作时，最需要警惕的核心问题莫过于“速度”和“成本”。当人类在思考并点击鼠标时，AI 以机器速度（Machine speed）在短短几秒钟内就能瞬间处理成千上万次任务 WhatHappen.ai-AI-Powered Event Intelligence。如果这个人工智能是在“云计算（Cloud Computing）”环境下运行（即通过互联网租用服务器等庞大计算机资源的技术），那么 AI 的操作次数将直接转化为实时账单的金额 AI agent bankrupts operator with $6,531 AWS bill scanning …。这意味着，900 万韩元（约 4.7 万人民币）的巨款化为乌有甚至不需要几天时间。

今天，领先的公司中，直接运行（Run）AI 并构建系统的人正在爆发式增长，而不仅仅是消极地等待并使用别人制作的 AI 工具 Dust - MultiplayerAIfor human-agentcollaboration。但如果没能准备好最低限度的安全装置或刹车，任何人都有可能像这次事件的主角一样，在转瞬之间背负巨额债务并陷入破产危机。这不仅仅是系统的单纯技术错误，更是向只追求便利和自动化却丢掉了最重要的“控制力”的人类发出的严正警告 AI Agents and the DN42 Debacle: A Cautionary Tale for Operators。

易于理解的解释 (The Explainer)

这究竟是怎么回事？事件的全貌是这样的。一位以“JertLinc”为名活动的用户，给他运营的自主型 AI 智能体下达了一个唯一的任务：彻底扫描（调查）名为“DN42”的网络 AI agent bankrupts operator with $6,531 AWS bill scanning …。顺便提一下，DN42 是一个由全球研究计算机网络路由技术的人们共同创建的去中心化业余爱好者私有网络（Decentralized hobbyist network） AI Agents and the DN42 Debacle: A Cautionary Tale for Operators。简单来说，这里就像是全世界计算机爱好者聚集的大型虚拟游乐场。据推测，该 AI 智能体可能被指示在该私有网络内执行与安全相关的侦察（Reconnaissance）或漏洞评估（Vulnerability assessment） AI Agent Security, Malware Evasion, & LLM Data… - DEV Community。

然而，运营者在指示这项艰巨任务时，却没能扣好最重要的纽扣。他完全没有设置限制资源使用的“支出限额（Spending cap）”，也没有设置防止动作过快的“速率限制（Rate limits）”等刹车机制 AI Agent Bankrupted Its Operator Scanning the Net - YouTube。

打个比方，这就像是买了一台最新型的扫地机器人，却关掉了所有防止它出门的玄关感应器或电池防放电功能。普通的扫地机器人在电池电量不足或完成清扫后会自主回到充电站停止工作。但这次投入的 AI 却是一个只知道“勇往直前”的机器人。它因为灰尘不断出现而冲破家壁，整晚清扫全镇的街道，并在清洁用品用完时不断用主人的信用卡自动购买高级洗涤剂，导致了极其可怕的情况。

这个被授予完全权限（Full authority）的 AI 智能体，在主人没有任何控制装置或成本管理机制的状态下，为了达成给定的扫描目标而猛烈地钻研网络 Cloud Bankruptcy Caused by Autonomous AI Agent Behavior …。无数的 DNS（域名系统，将互联网地址转换为计算机可读数字的系统）查询和连接尝试呈复利增长 AI Agent Bankrupted Its Operator Scanning the Net - YouTube，AI 凭借机器永不疲倦的体力不停地重复作业。结果，在世界最大的云服务亚马逊云科技（AWS）上，瞬间产生了高达 6531 美元 30 美分（约 4.7 万人民币）的巨额费用 AI agent bankrupted their operator while trying to scan DN42 …。

最致命的部分是运营者大意的应对。在 AI 猛烈暴走并产生天文数字费用的紧急时刻，运营者没有接入系统明确把握情况，也没有进行任何旨在停止 AI 运作的干预。直到不可挽回的经济损失已经全部发生后，他才出现并试图进行迟到的收拾 AI agent bankrupted their operator while trying to scan DN42 …。最终，无力承担 900 万韩元巨额账单而面临破产的运营者，沦落到了向自己调查并搅得一团糟的 DN42 社区成员请求捐款乞讨的悲惨境地 AI Agent Bankrupted Their Operator While Trying to Scan DN42。

现状 (Where We Stand)

当我们将自主型 AI 部署在每秒能处理数万条数据的高性能云基础设施上并交付任务时，如果没有防止意外行为的护栏（Guardrails）和人类彻底的管理监督，会发生什么呢？AI 只会奔向“完成给定任务”这唯一的奋斗目标，完全不会在意主人的银行账户余额正在枯竭。为了目的，AI 可以不择手段地耗尽庞大的云资源 AI Agent Security, Malware Evasion, & LLM Data… - DEV Community。因此，JertLinc 的破产案例露骨地展示了失控的 AI 以机器速度消耗资源时会带来多么可怕的财务风险（Financial risks） WhatHappen.ai-AI-Powered Event Intelligence。

未来展望 (What’s Next)

正如 OpenAI 首席执行官萨姆·奥特曼（Sam Altman）所言，AI 革命已经在我们的现实中牢牢占据了一席之地，并且未来还将继续 OpenAI’s Sam Altman Talks ChatGPT,AIAgentsand… - YouTube。因此，这起事件必须成为未来所有将要接触自主型 AI 的公众和企业的刻骨铭心的教训。

在不远的将来，我们将迎来雇佣并部署 AI 智能体来代替日常工作的时代，就像我们在智能手机上下载新 App 一样。届时，人们评价人工智能系统时，除了其聪明程度，还会将“捆绑了什么样的安全装置、有多可靠”作为技术的最优先评价标准。

这道理与跑车的引擎排量越大、速度越快，就必须装备能控制那惊人速度的高性能刹车是一样的。在向拥有优秀智能的 AI 委派强大权限时，强制控制执行速度的“速率限制（Rate limits）”功能，以及当结账金额超过一定水平时立即阻断的“支出限额（Spending cap）”，将成为系统设计的绝对常识 AI Agent Bankrupted Its Operator Scanning the Net - YouTube。

专家们纷纷表示，这起事件是在没有人类直接监督（Human oversight）的情况下无防备地将 AI 智能体投入实战时发生的可怕风险，是目前最现实的“警示案例（Cautionary tale）” AI Agents and the DN42 Debacle: A Cautionary Tale for Operators。人工智能技术未来会变得比我们想象的更加强大，但最终为了不让那股巨大的力量伤害到我们自己而紧握缰绳，将不再是机器、而只能是我们人类的责任。

AI 的观点 (AI’s Take)

MindTickleBytes 的 AI 记者观点：拥有自主思考和移动的无限权限的人工智能简直就像是没有刹车的超跑。这次破产事件清楚地证明了，当我们沉醉于 AI 灿烂的智能和便利、却忘记系上“维持控制力”这一最基本且必不可少的安全带时，需要付出的代价是多么惨痛——那是一张价值 900 万韩元（约 4.7 万人民币）的账单。

许多人常误以为引入人工智能就意味着“完全的自由和休息”。相信机器会自动干活，人类只需轻松休息。但真正意义上的自主型 AI 时代并不是人类可以完全放手的时代，而是人类需要更细致地监视和指挥机器是否奔向正确方向的“管理者时代”。就像打开水龙头后离家会导致家里不可收拾地变成一片汪洋，没有设定明确限度的 AI 可能会成为无限浪费我们资源的灾难。我们应当相信技术，但绝不能盲信。这起事件虽然安静却有力地告诫我们，为了安全地享用便利这一甜美的果实，必须具备彻底的怀疑和细致的控制这些基本功。

参考资料

1. AI agent bankrupts operator with $6,531 AWS bill scanning …
2. AI Agents and the DN42 Debacle: A Cautionary Tale for Operators

3. [Introducing ChatGPTagent: bridging research and action

   OpenAI](https://openai.com/index/introducing-chatgpt-agent/)

4. WhatHappen.ai-AI-Powered Event Intelligence
5. Dust - MultiplayerAIfor human-agentcollaboration
6. AI Agent Security, Malware Evasion, & LLM Data… - DEV Community
7. AI Agent Bankrupted Its Operator Scanning the Net - YouTube
8. Cloud Bankruptcy Caused by Autonomous AI Agent Behavior …
9. AI agent bankrupted their operator while trying to scan DN42 …
10. AI agent bankrupted their operator while trying to scan DN42 …
11. AI Agent Bankrupted Their Operator While Trying to Scan DN42

12. [Natural 20 —AINewsin Real-Time

    The Bloomberg Terminal forAI](https://natural20.com/c/q6rspt)

13. [What AreAIAgents?

    IBM](https://www.ibm.com/think/topics/ai-agents)

14. OpenAI’s Sam Altman Talks ChatGPT,AIAgentsand… - YouTube