AI公司都在宣传拥有100万Token的巨大上下文窗口,但实际上AI会面临忘记中间信息的“中间丢失”问题。一起来了解为什么小而准确的信息如此重要。
通俗易懂地解释为什么开发者要在黑色的终端屏幕中直接调用AI,以及100万Token的巨大上下文窗口将带来怎样的变化。