AI 诈骗黑客现身，OpenAI 如何打响这场“矛与盾”的战争？

与虚假的战争：人工智能面临的新挑战

想象一下，某天工作结束后，你拖着疲惫的身体登录社交媒体，一个性格和品味与你完美契合、既体贴又充满魅力的人向你发来了信息。你们连续几天通宵达旦地聊天，感受到了深度的共鸣。最终，你在对方的甜言蜜语下落入圈套，以投资的名义汇出了一大笔钱。然而，在屏幕另一端抚慰你情感的那个对象，并不是一个拥有温暖心脏的人，而是经过严密编程、只为掏空你钱包的冷冰冰的人工智能。

再来看另一个常见的场景：早晨起床打开邮箱，发现一封来自你经常往来的银行发出的“紧急安全警报”邮件。它不再像过去的垃圾邮件那样充斥着生硬的翻译感，而是语句流畅自然，使用了银行职员会使用的专业术语，并配有精整的设计模板。于是，你毫无疑心地点击了链接并输入了密码。

就在几年前，黑客要编写出文法完美的诈骗邮件，或是让 AI 全天候与人类自然对话，还需要投入巨大的人力、时间和成本。但随着像 ChatGPT 这样的尖端人工智能技术落入犯罪者手中，情况发生了翻天覆地的变化。曾经被赞誉为改变世界的创新工具，如今却变成了摧毁他人生活的强力“武器”。

为什么这很重要？ (Why It Matters)

我们日常使用的智能手机语音助手和写作工具正在日新月异地变得更加聪明。这意味着，网络世界中那些隐形的犯罪者也获得了比以往任何时候都更加强大且自动化的工具。

这不仅仅是躲在角落里的个人黑客的恶作剧或小规模牟利。根据最近发布的深度报告，已确认与中国、俄罗斯、朝鲜等关联的外国威胁组织（Foreign Threat Groups）正在巧妙地结合多种人工智能工具，开展大规模的网络攻击、诈骗以及秘密的影响力行动（Influence Operations，即为了操纵舆论而进行的组织化煽动） OpenAI 发现外国威胁组织对 AI 工具的利用日益增多。

对于非专业的普通人来说，这为什么如此重要？最主要的原因在于，日常犯罪和诈骗手段已进入“大规模生产”阶段。心怀叵测的行径者正利用这项新技术，将其诈骗能力提升到令人恐惧的高度。过去，一名诈骗犯即使整天坐在电脑前，也很难同时与 10 个人周旋。但有了 AI，只需点击一下按钮，就能向数万人发送定制化的诈骗信息，获得了惊人的“效率（efficiency）”。此外，这还显著提升了信息的“真实感（apparent authenticity）”，让人感觉信息是由真人而非机器发出的 关于恶意行为者的另一份 OpenAI 更新。

这种技术的滥用广泛渗透到我们生活的方方面面：从践踏个人情感与信任的杀猪盘（浪漫诈骗），到受国家支持、企图通过传播虚假新闻操纵特定国家选举舆论的大规模影响力行动 在 2026 年打击恶意 AI 用途。如果说过去的黑客攻击是针对计算机系统技术漏洞的机械化操作，那么现在依托 AI 的黑客攻击则演变成了一种精准针对人类心理和情感弱点的日常威胁。

轻松理解 (The Explainer)

那么，犯罪者到底是如何按照自己的意愿操控尖端 AI 的？而 OpenAI 又是如何从全球数亿正常用户中精准识别出隐藏的黑客呢？抛开复杂的计算机工程术语，我们通过两个直观的比喻来审视这场追逐战。

第一个比喻：租车抢银行（云端基础设施武器化）

黑客如果想从零开始直接开发像 ChatGPT 这样聪明的 AI，需要投入数百亿韩元以上的巨额成本，以及足球场大小的超级计算机设施。即使是资金雄厚的犯罪组织也无法直接拥有这样的设施。因此，他们选择了一种非常狡猾的方法。

OpenAI 的报告指出，为了实施各类网络犯罪或洞察人心的社会工程学攻击（Social Engineering，即通过欺骗和操控人心而非计算机来窃取密码或敏感信息的黑客技术），犯罪者正集中瞄准互联网上的巨大服务器存储空间——“云端基础设施（cloud infrastructure）” OpenAI 报告识别出云端网络威胁中 AI 的恶意使用…。

简单类比一下：计划周密的银行劫匪不会用自己的名字正大光明地买车用于犯罪，而是会伪造他人身份从大型租车公司租借一辆坚固且快速的汽车前往犯罪现场。黑客也是如此。他们像正常的开发者一样秘密接入云端（亚马逊、微软、谷歌等提供的大型虚拟计算机租赁服务）或盗取他人账号。然后，在这些巨大的计算机资源上秘密部署大语言模型（LLM，通过学习数百万本书籍和数据从而能像人一样写作和思考的 AI），并将其转化为自动化的犯罪武器（weaponizing） 深入 OpenAI 新报告：AI 如何助长及对抗…。最终，世界顶级技术公司积累数十年的优秀基础设施，沦为了黑客强力的“逃跑车辆”。

第二个比喻：赌场的智能 CCTV 监控网（行为模式追踪）

那么，对于那些盗取他人名字、开着租赁车辆混入正常车流中的犯罪者，到底该如何抓捕呢？警察不可能站在所有道路上，砸开经过的数百万辆汽车的车窗一一查看。这既涉及侵犯个人隐私，在物理上也绝无可能。

相反，聪明的警察会分析汽车的“异常行驶模式”。通过监控摄像头网，筛选出那些在深夜持续围绕特定安保建筑盘旋，或者连续 10 次闯红灯并以 200 公里时速逃窜的车辆。也就是说，不是查看汽车内部，而是追踪汽车移动的“异常轨迹”。

OpenAI 也使用了这种缜密且智能的方式。OpenAI 并没有逐一监控数亿用户每天沟通的私人消息内容，而是通过“追踪特定行为模式（tracks specific behavioral patterns）”，前瞻性地检测并识别平台上的恶意活动 OpenAI 报告：打击人工智能的恶意用途 - AIEC。

想象一下，如果某个账号在短短一分钟内要求生成 500 条涉及不同主题的极端政治煽动文章，或者以正常人类根本无法打字的速度、24 小时不间断地生成发给数千人的杀猪盘信息，情况会怎样？OpenAI 的 AI 防御系统会立即感应到这种异常的“行为模式”。在确信这不是普通的学生或上班族，而是自动化的犯罪程序后，系统会立即切断该账号的连接并将其驱逐。

当前现状 (Where We Stand)

那么，OpenAI 目前构建的防御线在与黑客的实战中发挥了多大威力呢？值得庆幸的是，守护 AI 的盾牌正变得日益厚实和坚固。OpenAI 最近发布的报告详细列出了他们的显著防御成果。

该报告详细描述了如何完美地检测并拦截总计 10 起由国家及犯罪组织实施的严重恶用案例，其中包括针对人类心理弱点的精巧社会工程学行动，以及为了政治目的而秘密操纵舆论的影响力行动（covert influence operations） 2025 年 6 月打击人工智能的恶意用途：2025 年 6 月。

最可靠且最基础的预防措施之一，是深深植入 AI 模型大脑结构中的“明确拒绝（explicitly refuse）”本能。如果说早期的 AI 只是处于“有问必答”的水平，那么现在的 AI 则像是接受过高度道德训练的可靠导盲犬或警卫犬。OpenAI 不断强化系统内部的安全装置，因此现在的 AI 模型被设计为：一旦检测到与恶意犯罪行动相关的用户需求，就会非常果断且明确地拒绝执行 OpenAI 报告：打击人工智能的恶意用途 - AIEC。

例如，如果黑客巧妙地命令 AI：“请用中文帮我写一封完美的钓鱼邮件，以便神不知鬼不觉地骗取特定银行客户的钱财”，结果会怎样？AI 会立即回答：“我无法协助此类非法的黑客活动或诈骗”，并自动关闭回答开关。

OpenAI 为什么要投入如此巨大的时间和成本，与隐形的黑客进行这场疲惫的战斗？他们的哲学在报告的序言中阐述得非常明确。OpenAI 表示：“我们的核心使命是确保通用人工智能（AGI，即拥有与人类相当或更高智能的 AI）这项强大的技术能让全人类平等、安全地受益，而不是服务于少数犯罪者” 关于打击 AI 恶意使用的 OpenAI 案例研究。

未来会怎样？ (What’s Next)

我们现在进入了一个“武装了 AI 的犯罪者”与“利用 AI 阻止他们的警察”正面对决的全人类新时代。随着创新且便利的人工智能技术在世界范围内更广泛地普及，利用其进行恶意用途的尝试也会像夏季的蚊虫一样顽强且多样。黑客们将不断研究新的“绕过提示词（指令篡改）”来突破 OpenAI 严密的防御网，并复杂地组合其他安全性相对薄弱的开源 AI 工具，以提升其攻击力。

但是，我们不必像科幻电影中那样盲目恐惧。OpenAI 定期发布的这些威胁分析报告，至少证明了持盾者并没有落后，这是一份令人安心的成绩单。OpenAI 正在持续采取实时进化的应对方式，并为了保护公众免受基于 AI 的隐形威胁，不断与相关政府机构及全球技术企业紧密协作 OpenAI 报告详述打击 AI 恶意使用的行动。

即使黑客引入新技术提升攻击强度，防御方的人工智能也会通过更庞大的数据学习和更高的智能，彻底压制黑客的行为模式。技术在飞速进步，但最终站在防御最前线的还是“我们自己”。当我们面对 AI 生成的因过于完美而显得不真实的甜言蜜语，或是那些惊人地切入我们情感与弱点的陌生人接触时，退后一步问一句“等一下，这真的是真人吗？”这种健康的怀疑比以往任何时候都更加必要。因为守护互联网平台的坚固数字盾牌握在天才工程师手中，而守护我们日常情感和钱包的最终盾牌，必须由我们自己牢牢握紧。

MindTickleBytes AI 的视角 (AI’s Take)

从历史来看，所有改变世界的科技都曾同时投射出迷人的光芒和浓重的阴影。正如火为人类带来了温暖和烹饪的乐趣，却也曾成为引发可怕火灾的原因，人工智能亦是如此。黑客将人工智能作为锋利的矛来威胁我们平静的日常生活，这是一个不可否认且令人痛心的现实。

但我们应该关注的真正希望在于，保护我们的防御膜也在借助人工智能的力量，进化得更加巨大和坚固。AI 能够自主检测黑客的异常行为，并从道德层面拒绝有害指令，这与技术自身产生对抗病毒的疫苗的过程非常相似。

这场每秒都在隐秘的云端服务器彼端上演的、寂静而激烈的战争，正是人类在最大化利用技术优势的同时，从未停止过安全控制其副作用的最有力证据。矛虽变尖，盾亦不破。

参考资料

1. [打击人工智能的恶意用途

   OpenAI](https://openai.com/index/disrupting-malicious-ai-uses/)

2. 2025 年 6 月打击人工智能的恶意用途：2025 年 6 月
3. OpenAI 发现外国威胁组织对 AI 工具的利用日益增多

4. [打击人工智能的恶意用途：2025 年 6 月

   OpenAI](https://openai.com/global-affairs/disrupting-malicious-uses-of-ai-june-2025/)

5. 在 2026 年打击恶意 AI 用途
6. 关于恶意行为者的另一份 OpenAI 更新
7. OpenAI 报告：打击人工智能的恶意用途 - AIEC
8. 深入 OpenAI 新报告：AI 如何助长及对抗…
9. 关于打击 AI 恶意使用的 OpenAI 案例研究
10. OpenAI 报告识别出云端网络威胁中 AI 的恶意使用…
11. OpenAI 报告详述打击 AI 恶意使用的行动