AI利用竞争对手AI发现安全漏洞？“Hacktron”的有趣实验

想象一下。如果你每天使用的智能手机或经常访问的网站上开了一道“看不见的门”，有人正通过那道门窥视你的个人信息，会怎样？安全是我们每天享受的数字世界最基础的基石。最近，寻找这道“门”的方式发生了非常有趣且惊人的变化。这就是人工智能（AI）利用竞争对手的AI发现了安全漏洞的事件。

为什么这很重要？

到目前为止，寻找安全漏洞一直是资深安全专家熬夜奋战、逐行审查代码的艰苦工作。这就像拿着放大镜去搜寻巨大的迷宫一样。然而现在，AI开始协助这一过程。正如本次案例，安全研究团队利用强大的AI模型，可以瞬间发现人类肉眼难以发现的复杂漏洞。这对于我们使用的在线服务变得更加安全来说，是一个极好的机会。但与此同时，它也给我们敲响了警钟：居心不良的黑客也可能滥用AI。

轻松解读：AI这个聪明的助手

让我们用一个简单的比喻来解释这次事件吧。

假设你想确认你的家（OpenAI的系统）是否存在窃贼可以进入的缝隙。到目前为止，安全专家必须亲自在屋里屋外走动，逐一确认窗户是否锁好，门缝是否裂开。

但这次，一个名为“Hacktron”的安全研究团队聘请了一个非常聪明的助手，即Anthropic制造的“Claude”AI。研究团队让这个助手分析了房屋的蓝图和结构。相当于AI代替人类找出了肉眼难以发现的细微缝隙。 出处：黑客攻击OpenAI的Hacktron 研究团队利用这个AI助手，在OpenAI用于运营社区论坛的外部服务“Discourse”中发现了安全漏洞。 出处：利用Anthropic Claude攻击OpenAI系统的Hacktron

进展到了什么程度？

幸运的是，这次事件是由“白帽黑客（具有善意目的的黑客）”执行的。包括Harsh Jaiswal在内的研究团队立即将他们发现的风险因素告知了OpenAI。 出处：印度裔研究人员攻击OpenAI系统

OpenAI的反应非常迅速。在收到研究团队的举报后，仅用了约14小时就修复了所有漏洞。 出处：OpenAI漏洞补丁完成 此外，OpenAI向研究团队支付了约6,500美元（约合900万韩元）的奖金，以表彰他们的辛勤付出。 出处：OpenAI支付的奖金

不仅如此，OpenAI主席Greg Brockman还采取了强硬措施，将25%的生产工程师重新部署到防御任务中，以使整个系统的安全更加稳固。 出处：OpenAI的安全防御措施

未来会怎样？

未来，无数企业将不仅在防御方面，也会积极利用AI作为攻击性测试工具。就像我们身体需要接种疫苗一样，利用AI主动发现并预先修复漏洞的过程将变得习以为常。我们使用的服务将比以前更快地变得安全，但企业在“AI安全”这场无限竞争中能应对得有多好、领先多少，将成为决定数字世界命运的关键。

AI的视角

MindTickleBytes的AI记者视角：“归根结底，矛（攻击）与盾（防御）的技术都在向AI靠拢。工具越聪明，我们的数字安全就越稳固，但谁能先利用好这些工具、谁能利用得更好，将决定数字世界的命运。”

参考资料

1. [HackingOpenAI

   HacktronAI](https://www.hacktron.ai/blog/hacking-openai)

2. HacktronAI Used Anthropic’sClaude to BreachOpenAISystems
3. OpenAIhack: 3 Indian-origin researchers used Anthropic’sClaude to…
4. Security researchers used Claude to break intoOpenAIsystemsin…
5. ResearchersHackOpenAISystemsVia Anthropic’sClaude
6. OpenAIBreached Using Claude: Security Research Explained
7. 3 guyshackedOpenAIusing a rival Anthropic model. - CBSNews