為什麼小型 AI 模型這麼笨？解決「嵌入濃縮」現象的方案
介紹一種能提升小型語言模型性能的新型訓練方法「分散損失（Dispersion Loss）」，以及所謂的嵌入濃縮現象。
Tag: 深度學習
每秒 5.6 萬個字？以舊時鐘速度完成的 AI 魔法「GateGPT」
在比智慧型手機還慢的 80MHz 晶片上，每秒生成 5.6 萬個 Token 的 GateGPT 的秘密。以一般人的視角，用最淺顯易懂的方式解說 Transformer、KV Cache 與 FPGA 的原理。
AI 太危險所以藏起來了？2019 年顛覆世界的「GPT-2」事件始末
2019 年，OpenAI 以「太危險」為由拒絕向大眾公開 GPT-2 模型。在人工智慧將大量製造假新聞與政治宣傳的恐懼，以及被批評為媒體作秀之間，究竟發生了什麼事？我們用最淺顯易懂的方式為您解說。
連開發者都不知道AI是如何運作的？「深度學習理論」的驚人演進
從智慧型手機語音助理到癌症診斷，深度學習AI改變了我們的生活。但您知道嗎？直到最近，連科學家們都不知道AI為何如此聰明的完美數學原理。我們將為您深入淺出地解釋解開人工智慧秘密的「深度學習理論」世界。
[GPT-5.5 的屈辱] 「背誦大王」AI，面對陌生遊戲僅得 0.43 分？挑戰真正的智慧
本文將深入淺出地解釋，為何最新 AI 模型 GPT-5.5 在征服現有基準測試後，卻在全新的推理測試 ARC-AGI-3 中慘敗。
AI 重新開始「學習」了？ Google 全新聰明助手 T5Gemma 故事
介紹 Google 最新發佈的 AI 模型 T5Gemma。我們將以專家視角，深入淺出地解析比現有模型更聰明、更高效的「編碼器-解碼器」架構秘密，以及其讀取圖片和長篇摘要的能力。
與海豚對話的時代即將到來？Google 全新 AI 'DolphinGemma' 的故事
探索 Google 發佈的海豚語言翻譯 AI 'DolphinGemma'。這款學習了 40 年數據的 AI 將如何協助人類與動物進行溝通？