为AI装上“眼球”?带你了解直接操控网页浏览器的 Saccade

象征 AI 代理洞察网页结构的数字图形
AI Summary

Saccade 是一款通过压缩网页信息而非传输整个页面来极大化 AI 代理浏览效率的工具。

想象一下:你工作非常忙,每天早上都让 AI 助手“帮我找 3 条最新的新闻并总结,作为会议资料”。AI 助手虽然能很好地进行搜索,但有时会因为试图一次性处理过多信息而点击了错误的按钮,或者因为响应过慢让你感到焦急。就像人在看东西时会快速扫视关键区域一样,AI 是否也能像我们一样查看网页,并只针对必要的部分进行操作呢?

为了解决这个难题,Saccade 这款工具应运而生。

为什么这很重要?

随着 AI 代理技术的发展,自主操作网页浏览器来查找信息和处理业务的时代已经到来。然而,对于人类来说直观的网页,对 AI 来说却只是一堆庞大的数据。目前许多 AI 工具试图强行将网页的所有内容“喂”给 AI。这就像试图强行记住眼前所有的风景一样,会导致时间与成本的巨大浪费。

Saccade 将这一过程转变为类似于人类的“眼球跳动(Saccade,指人在观察物体时,眼球快速移动以聚焦于关键信息的生理现象)”。通过过滤掉不必要的信息,让 AI 只关注关键部分,从而显著提升了 AI 代理的工作速度与准确性。

浅显易懂:拒绝“全景地图”,采用“核心线路图”

我们可以这样比喻:在去一个陌生的城市旅游时,带一张画满所有胡同的巨大地图,和带一张只标注了目的地的核心地铁线路图,哪种方式更快呢?

如果说以往的方式是把“画满胡同的地图”交给 AI,那么 Saccade 的做法就是只将页面内的按钮、输入框、重要结构压缩后,做成“核心线路图”交给 AI 出处: Saccade- gbjapdcoclbdjpcaogmjdbpmnmfgombn - Extpose

简单来说,当 AI 查看网页时,它会果断忽略广告或不必要的背景信息,将“点击哪里”、“这里写了什么”等核心语义对象(Semantic objects,包含数据意义的实体)转换并传递给 AI 出处: Saccade- gbjapdcoclbdjpcaogmjdbpmnmfgombn - Extpose

它在哪里使用?

Saccade 通过安装 Google Chrome 或 Microsoft Edge 浏览器的扩展程序,并配合本地运行时(程序实际运行的环境)来工作 [出处: Saccade — Live Web Truth for AI Agents NaN Logic](https://www.nanlogic.com/saccade)。

通过使用该工具,AI 代理可以执行以下操作:

  1. 精准控制:识别并直接操作网页内输入框或按钮等受支持的控件 [出处: Saccade — Live Web Truth for AI Agents NaN Logic](https://www.nanlogic.com/saccade)。
  2. 把握结构:类似于人类的视觉,识别网页的逻辑结构和内容 出处: GitHub - nanlogic/saccade: Closed-loop browser control …
  3. 高效分析:追踪 AI 代理的执行过程,自行分析消耗了多少 Token(AI 处理的单位)、成本是多少、处理时间用了多久等统计数据 出处: saccade · PyPI

在实际的初步测试中,已确认其处理信息的速度完全不逊色于现有的测试工具 出处: ShowHN:Saccade–LivesemanticbrowsertruthforAIagents

未来发展如何?

像 Saccade 这样的技术将成为 AI 代理从单纯的“写作工具”进化为“实际网页助手”的重要桥梁。未来,AI 将不再需要逐一解析浏览器复杂的代码,而是通过像 Saccade 这样经过整理的核心信息,从而更加快速、准确地处理工作。

我们不再需要对 AI 说“读一下整个网页”,而是可以更精准地请求“帮我从网页里选出我需要的按钮并点击”。随着 AI 浏览精度的提升,我们在电脑前重复进行的点击操作或许也将逐渐消失。


参考资料

  1. ShowHN:Saccade–LivesemanticbrowsertruthforAIagents
  2. Saccade- gbjapdcoclbdjpcaogmjdbpmnmfgombn - Extpose
  3. [Saccade — Live Web Truth for AI Agents NaN Logic](https://www.nanlogic.com/saccade)
  4. GitHub - nanlogic/saccade: Closed-loop browser control …
  5. saccade · PyPI
AD
测试你的理解
Q1. Saccade 提高 AI 代理效率的核心方式是什么?
  • 向 AI 发送网页整个屏幕截图
  • 仅压缩重要信息并转换为语义对象
  • 修改网页浏览器的所有源代码
Saccade 通过压缩控件、结构等重要信息而非传输整个页面,从而减轻 AI 的处理负担。
Q2. Saccade 是通过什么方式运行的?
  • 结合浏览器扩展程序与本地运行时环境
  • 仅通过独立的外部服务器运行
  • 仅在人工智能模型内部运行
Saccade 以浏览器扩展程序(适用于 Chrome 或 Edge)与本地运行时相结合的形式运行。
Q3. Saccade 提供哪些指标?
  • Token 使用量、成本、延迟(latency)
  • 网速、硬件占用率、功耗
  • 用户的隐私保护评分
Saccade 提供测量 Token 使用量、成本、延迟等功能,用于分析 AI 代理的执行效率。