介紹一項研究結果,指出當 AI 在解決程式題時,透過「檢索增強生成(RAG)」技術從外部資料庫查找類似案例作為參考,能顯著提升演算法問題解決能力。
想像一下,有一位正在參加艱難數學考試的學生。現有的人工智慧(AI)就像是一位將所有教科書通通背進腦袋裡的學生,但有時卻會忽略問題的核心,或者面對沒學過的變形題時感到不知所措。
如果這位學生在考試過程中,隨時都能翻閱一本「參考書」會如何呢?近期在人工智慧領域中,AI 透過「檢索增強生成(RAG, Retrieval-Augmented Generation)」技術,主動搜尋外部資料庫尋找答案,正致力於解決這個問題。特別是一項探討 AI 在處理複雜演算法程式題時,效能如何產生變化的研究結果發表後,引起了廣大關注 1。
為什麼這項技術很重要?
演算法解題是要求 AI 具備最高等級推理能力的工作之一。這不僅僅是編寫程式碼,還需要釐清問題邏輯並設計出高效率的解決方案。AI 在此領域變得更聰明,意味著我們所使用的軟體效能將獲得改善,同時也象徵著一個 AI 能協助我們快速解決更複雜難題的時代即將到來。
過去,AI 主要僅能透過訓練資料來解決問題。但本次研究證明,僅僅是提供 AI 一本名為「類似的過去問題」的參考書,就能讓效能顯著提升 2。
簡單來說:AI 的「開卷考」
「檢索增強生成(RAG)」簡單來說,就是讓 AI 進行「開卷考」的技術 5。
打個比方,資深廚師在研發新菜色時,不會單純依賴記憶,而是會翻開使用過類似食材的食譜進行應用。顯然,這樣能產出更精確、水準更高的成果。技術上具體過程如下 7:
- 接收提問:使用者將演算法問題丟給 AI。
- 查找參考書:AI 不會直接作答,而是先從外部資料庫搜尋與該問題類型相似的過往題目或解答 3。此時,利用「嵌入(Embedding,將單詞或句子轉換為數字向量來測量語義相似度的技術)」與「相似度檢索演算法」,精準地提取出真正相關的資訊 1。
- 參考後作答:將搜尋到的資訊與原始問題結合,由 AI 編寫出最佳的程式碼 7。
進展到什麼程度了?
實驗結果非常振奮人心。研究團隊利用「CodeContests」資料集評估了 AI 的效能 1。結果顯示,與過去單純僅提供問題描述相比,使用 RAG 技術參考相似的例題後,AI 成功解決問題的機率大幅提升 2。
然而,這並非完美無缺。如果檢索系統抓取了錯誤資訊或無關內容,AI 也有可能基於錯誤資訊編寫出程式碼。專家們將此稱為「檢索不完整(Imperfect Retrieval)」問題,如何篩選這些資訊也是目前該技術的核心課題之一 6。
未來走向如何?
未來,不僅是單純抓取相關資訊,預計「代理型 RAG(Agentic RAG)」將會被更廣泛地應用,AI 將能自行規劃並判斷檢索過程 4。
AI 將不再是被動接到「去搜尋!」的指令,而是能主動思考:「要解決這個問題需要什麼知識?好,那我來搜尋這部分看看。」並靈活運用參考書。我們所使用的 AI 程式工具,終將能產出越來越像人類所撰寫、簡潔優雅的程式碼,而這一天已經不遠了。
AI 的觀點(MindTickleBytes AI 記者觀點)
解開演算法問題是邏輯與推理的巔峰。RAG 這種讓 AI 主動查找與參考知識的模式,是一個非常關鍵的線索,顯示出人工智慧正從「死背」進化到「睿智的檢索與推理」。未來,決定 AI 能力的標準,將不再是「學習了多少資料」,而是「如何高效地搜尋與應用知識」。
參考資料
- Assessing the Impact of Retrieval-Augmented Generation on Algorithmic Problem-Solving
- Assessing the Impact of Retrieval-Augmented Generation
- Retrieval-Augmented Generation for Large Language…
- Agentic RAG vs. Naive RAG: When Your Retrieval… - KDnuggets
- Retrieval-Augmented Generation(RAG) - DeepLearning.AI
- Astute RAG: Overcoming Imperfect Retrieval…
- What is RAG? - Retrieval-Augmented Generation AI Explained - AWS
- 為了提高 AI 的運算速度
- 為了參考外部知識以提升回答的品質與準確度
- 為了減少 AI 的參數數量
- 基於嵌入的檢索與相似度演算法
- 隨機案例挑選方式
- 單純死背式的再訓練方式
- 總是生成 100% 準確的回答
- 自動洩漏使用者個人隱私
- 因檢索不完整而帶入不適當或無關的資訊