AIに本100冊を一度に渡せば全部読むのか?「巨大コンテキストウィンドウ」の罠
AI企業が100万トークンの巨大コンテキストウィンドウをアピールしていますが、実際にはAIは中間の情報を忘れてしまう「中だるみ(Lost in the Middle)」問題を抱えています。小さく正確な情報が重要な理由を探ります。
AI企業が100万トークンの巨大コンテキストウィンドウをアピールしていますが、実際にはAIは中間の情報を忘れてしまう「中だるみ(Lost in the Middle)」問題を抱えています。小さく正確な情報が重要な理由を探ります。