您還在向 AI 只求「答案」嗎？現在該將其作為「數據廚師」來運用了

By Gi Pyeong Lee
AI LLM 數據分析 機器學習 技術趨勢
象徵複雜文本數據通過 AI 轉化為整潔表格數據的圖像。
AI Summary

不再將 LLM 僅作為對數據進行分類的終點，本文介紹了一種將其轉化為『特徵工程』工具的新範式，利用 AI 將複雜的非結構化數據結構化，從而最大化預測模型的性能。

想像一下。您的桌上堆積著數萬份客戶諮詢記錄。要逐一閱讀並掌握內容實在是不可能的任務。過去，我們習慣對 AI 下達命令：「請幫我分類這些諮詢的內容」，並只獲取最終結果。然而，最近 AI 領域開始將這一過程視為一種讓數據變得更有價值的「料理」，而非單純的「分類」。

這不僅是相信 AI 給出的結果，而是利用 AI 掌握上下文的細膩能力，將其作為「特徵工程（Feature Engineering）」的工具，將數據處理得更易於利用。這裡所說的特徵工程，是指將數據加工成機器學習模型易於理解的核心資訊的工作。

為什麼這很重要？

至今為止，對我們來說，大型語言模型（LLM）一直是個能回答問題或代寫文章的聰明秘書。但在實際業務現場，比起這名秘書給出的答案，它為了得出該答案所使用的「知識」本身，具有更大的價值。

若僅將 AI 作為分類器使用，當 AI 給出錯誤答案時我們束手無策；但若將 AI 作為數據加工者使用，情況則截然不同。基於 AI 提取出的結構化資訊，運行傳統的機器學習模型（例如 XGBoost），預測準確度會顯著提升。換言之，AI 現在不再是預測的主角，而是成為了讓預測更精確的最強大「助手」 [出處: LLM Classification Is Feature Engineering Minimally Sufficient](https://minimallysufficient.com/posts/llm-classification-is-feature-extraction/) 出處: Stop Labeling, Start Engineering: The New Era of LLM ….

輕鬆理解：AI 是一位出色的翻譯家

「特徵工程」這個詞聽起來很難嗎？打個比方，AI 是一位非常出色的「翻譯家」。試想您必須閱讀一份非常複雜且混亂的外語文件，並將核心內容整理成表格。

  • 傳統方式（分類）：對 AI 下令「請告訴我這份文件是正面的還是負面的」，然後只貼上一個「正面」的標籤。其餘豐富的資訊全部被丟棄。
  • 新方式（特徵工程）：將 AI 當作聰明的翻譯家使用。AI 閱讀文件後，提取出「該客戶對配送速度不滿意，對價格滿意，且有回購意願」這類核心資訊。接著將其整理為「配送滿意度」、「價格分數」等項目。
整理後的資訊變成了電腦最容易理解的形態。[出處: Feature engineering from LLM outputs Xgboost Advanced Course The Neural Base](https://theneuralbase.com/xgboost/learn/advanced/feature-engineering-from-llm-outputs/). 在這個過程中，AI 為了得出分類結論所使用的邏輯推理過程本身，就成了數據的核心特徵（Feature） 出處: Stop Labeling, Start Engineering: The New Era of LLM ….

當前現狀：進展到什麼程度了？

相關技術已經在現場活躍應用。

  1. 自動化特徵挖掘：像 FeatLLM 或 LLM-FE 這類框架，利用 AI 的知識和推理能力，自動發現人類難以逐一查找的數據特徵 出處: Large Language Models Can Automatically Engineer Features for … 出處: LLM-FE: Automated Feature Engineering for Tabular Data with ….
  2. 性能的顯著提升：研究結果顯示，基於 LLM 加工數據後，傳統機器學習模型的性能有了壓倒性的改善。在一項研究中，它在 19 個數據集中取得了最低排名（1.47），證明了其卓越性能 出處: LLM-FE: Automated Feature Engineering for Tabular Data with LLMs as Evolutionary Optimizers [Quick Review]. 甚至有案例將複雜分類任務中的預測誤差指標——布萊爾分數（Brier Score），從 0.26 減半降至 0.13 [出處: LLM Classifiers: Cut Brier Score 0.26 to 0.13 explainx.ai …](https://www.explainx.ai/blog/llm-classification-feature-engineering-calibration-2026).
  3. 便捷的存取：這是一個無需從頭開始訓練模型（Fine-tuning），僅靠設計精良的提示詞（指令）就能執行這種高水準工作的時代 出處: How to UseLLMforClassification.

未來將會如何發展？

未來，比起直接製作 AI 模型，「將哪種 AI 作為數據加工者使用」以及「如何向 AI 提問以使其更深入理解數據」，將成為工程師最重要的能力。預計像 FeRG-LLM 那樣，透過推理結果來產生特徵的方式（FeRG-LLM 展示了比現有大型模型更高效且卓越的性能）將成為主流 出處: FeRG-LLM : Feature Engineering by Reason Generation Large Language Models [Quick Review].

數據不再是原石本身，透過 AI 這項精巧的工具將其打磨成寶石的過程，將成為必經之路。

MindTickleBytes 的 AI 記者觀點

LLM 並非只是猜對答案的「考試機器」，而是能甄別何者重要的「顯微鏡」。我們不應滿足於 AI 的答案，而應藉由它尋找答案的「眼睛」，讓我們的數據變得更有價值。

參考資料

  1. [LLM Classification Is Feature Engineering Minimally Sufficient](https://minimallysufficient.com/posts/llm-classification-is-feature-extraction/)
  2. Stop Labeling, Start Engineering: The New Era of LLM …
  3. [LLM Classifiers: Cut Brier Score 0.26 to 0.13 explainx.ai …](https://www.explainx.ai/blog/llm-classification-feature-engineering-calibration-2026)
  4. Large Language Models Can Automatically Engineer Features for …
  5. LLM-FE: Automated Feature Engineering for Tabular Data with …
  6. LLM-FE: Automated Feature Engineering for Tabular Data with LLMs as Evolutionary Optimizers [Quick Review]
  7. [Feature engineering from LLM outputs Xgboost Advanced Course The Neural Base](https://theneuralbase.com/xgboost/learn/advanced/feature-engineering-from-llm-outputs/)
  8. FeRG-LLM : Feature Engineering by Reason Generation Large Language Models [Quick Review]
  9. How to UseLLMforClassification
AD
測試你的理解
Q1. 在利用 LLM 進行分類的過程中，最重要的『實際力量』是什麼？
  • 模型的大小
  • 數據分類後的最終標籤
  • LLM 為了分類數據所使用的推理過程
最新研究強調，與其說是 LLM 輸出的標籤本身，不如說在得出結論前所經歷的『推理過程』，對於結構化複雜數據起到了關鍵作用。
Q2. 像 LLM-FE 這類框架追求的核心目標是什麼？
  • 無需人類介入的自動化特徵挖掘
  • 縮小 LLM 模型的大小
  • 降低數據標註成本
像 LLM-FE 這類工具的重點在於利用 LLM 的知識和推理能力，自動發現適合表格數據（Tabular Data）的特徵。
Q3. 使用 LLM 進行特徵工程的優點，下列何者正確？
  • 不再需要機器學習模型
  • 提高預測模型的可解釋性和準確性
  • 完全廢除數據清洗過程
利用 LLM 不僅能提高現有預測模型的預測能力，還能使其決策依據更易於被理解，從而提升可解釋性。