厌倦了按 AI 的‘发送’按钮?现在出现了一款能在你输入时实时回答的 AI

一个简洁的界面,左侧是用户的打字窗口,右侧是实时生成的 AI 回复窗口。
AI Summary

深入了解全新实时对话界面 'Don't Hit Send' 的工作原理及用户体验,该界面能在你停止打字的瞬间立即触发 AI 回复。

想象一下:你正在与朋友进行一场冗长的即时通讯对话。但每次输入句子后,都必须按“发送”按钮,等待对方阅读,然后再查看对方的回复。如果朋友能在你还没说完话、甚至在你思考的过程中,就实时捕捉到你的意图并准备好回答,那会是什么样呢?

最近在 AI 技术社区 Hacker News 上出现了一个名为“Don’t Hit Send(别按发送键)”的实验性交互界面,它就为我们带来了这样的体验。 Don’t Hit Send: the model answers while you type

为什么这很重要? (Why It Matters)

在过去使用 AI 时,我们已经习惯了“提问 -> 发送 -> 等待回答”这种经典模式。然而,这种方式切断了对话的流动性,让人感觉像是在进行生硬的商务邮件往来。

“Don’t Hit Send”通过消除这一人为的“发送”步骤,试图让与 AI 的对话像与真人交谈一样自然连贯。 GitHub - scalattice/dont-hit-send 用户无需等待回答,只需自由地输入想法即可。AI 会跟随打字的节奏实时生成回复。这是一个重要的转变,它将我们使用 AI 的方式从单纯的“指令输入器”,变为了共同思考、分享意见的“合著者”或“对话伙伴”。

通俗解释 (The Explainer)

打个比方,你可以把这项技术看作是一个细心“观察”你打字习惯的 AI。

该界面将屏幕大致分为两个窗口:左侧是用户自由写作的“草稿(Draft)”窗口,右侧是 AI 阅读内容并实时填充回复的“回答”窗口。 GitHub - scalattice/dont-hit-send: The model answers while you type

它的工作原理相当巧妙:

  1. 用户开始打字。
  2. 当打字暂停约 350ms(0.35秒)时,AI 会判断:“噢,这个人是在整理思路。” [Show Hacker News](https://www.hacker-news.news/Show)
  3. AI 随即根据那一刻之前写下的所有内容,立即开始生成实时回复(Streaming Chat Completion,即 AI 实时完成文本的功能)。 Don’t Hit Send: the model answers while you type
  4. 如果用户修改内容或继续打字,AI 会立即取消之前的回复生成,并根据更改后的草稿重新准备回答。 GitHub - scalattice/dont-hit-send

这就像在照片编辑 App 中应用滤镜时,移动调节杆即可实时预览效果一样。即使是思考的时间,也成为了对话的一部分。

现状 (Where We Stand)

目前,“Don’t Hit Send”是一个极大化实时交互的实验性项目。重要的一点是,这种方式并非每按一次键就向服务器发送数据的不稳定实时流媒体。 GitHub - scalattice/dont-hit-send 相反,它巧妙地检测用户的“暂停”模式,并采用重新传输完整内容的有效方式。

当然,由于处于初期阶段,也有一些需要考量的问题。由于回答会实时变化,可能会分散用户写作时的注意力。此外,技术上要求每个打字暂停点都要取消之前的请求并开始新的聊天补全,因此模型必须具备极快的响应速度。 [Show Hacker News](https://www.hacker-news.news/Show)

未来展望 (What’s Next)

未来,这种“无发送键对话”可能会整合到更多的生产力工具中。当我们撰写文档或编写代码时,AI 将在我们肩后阅读内容,每当我们稍作停顿,它就会实时提出恰当的建议。对话将越来越接近人类的思维速度,我们将从与 AI “提问与回答”的关系,迈向“共同完成思考”的关系。

MindTickleBytes AI 记者视点

技术越是向人类靠拢,使用技术的方式也应越具人性化。消除“发送”按钮不仅是 UI 的改变,更是 AI 的一种体贴——它试图不去干扰人类的思维流(Flow of thought)。我们正在构建一个能够与 AI 进行更深层次交流的环境。


参考资料

  1. ShowHN:Don’tHitSend–themodelanswerswhileyoutype https://news.ycombinator.com/item?id=49669012
  2. GitHub - scalattice/dont-hit-send:Themodelanswerswhileyoutype. https://github.com/scalattice/dont-hit-send
  3. Hacker News => Show https://www.hacker-news.news/Show
  4. GitHub - scalattice/dont-hit-send: The model answers while … https://vuink.com/post/tvguho-d-dpbz/scalattice/dont-hit-send
AD
测试你的理解
Q1. 在 'Don't Hit Send' 界面中,AI 开始回答的判定标准是什么?
  • 当你按下发送按钮时
  • 当用户暂停打字约 350ms 时
  • 当用户完成提问并按下回车键时
该系统通过检测打字过程中约 350ms 的短暂暂停,自动根据完整的草稿生成回答。
Q2. 如果你继续打字,之前的 AI 回复会发生什么?
  • 之前的回复会保持不变
  • 之前的回复会被取消,并根据新的草稿重新生成
  • 之前的回复会与新内容合并
当用户恢复打字时,正在进行的回复会被中断,并根据更新后的草稿内容重新开始生成。
Q3. 'Don't Hit Send' 是通过什么方式传输数据的?
  • 每按一次键就实时传输
  • 每次都重新传输整个草稿
  • 使用双向套接字
该方式在每次暂停时,根据完整草稿内容请求新的聊天补全(Chat Completion),而不是对每个按键进行流式传输。