在電腦上用 4GB 顯示卡就能跑 70B 超大型 AI？這是真的嗎？
透過 AirLLM 技術，無需高效能顯示卡，也能在個人電腦上運行 70B 以上的大型語言模型。
Tag: 深度學習
能用個人電腦 GPU 直接訓練 AI？8GB 顯示卡入門 LLM 調優
介紹無需昂貴伺服器，僅使用一般家用 8GB 顯示卡即可進行人工智慧模型調優（SFT, DPO, GRPO）的最新技術。
GateGPT
AI硬體
每秒 5.6 萬個字？以舊時鐘速度完成的 AI 魔法「GateGPT」
在比智慧型手機還慢的 80MHz 晶片上，每秒生成 5.6 萬個 Token 的 GateGPT 的秘密。以一般人的視角，用最淺顯易懂的方式解說 Transformer、KV Cache 與 FPGA 的原理。
AI 太危險所以藏起來了？2019 年顛覆世界的「GPT-2」事件始末
2019 年，OpenAI 以「太危險」為由拒絕向大眾公開 GPT-2 模型。在人工智慧將大量製造假新聞與政治宣傳的恐懼，以及被批評為媒體作秀之間，究竟發生了什麼事？我們用最淺顯易懂的方式為您解說。
深度學習
人工智慧理論
連開發者都不知道AI是如何運作的？「深度學習理論」的驚人演進
從智慧型手機語音助理到癌症診斷，深度學習AI改變了我們的生活。但您知道嗎？直到最近，連科學家們都不知道AI為何如此聰明的完美數學原理。我們將為您深入淺出地解釋解開人工智慧秘密的「深度學習理論」世界。
[GPT-5.5 的屈辱] 「背誦大王」AI，面對陌生遊戲僅得 0.43 分？挑戰真正的智慧
本文將深入淺出地解釋，為何最新 AI 模型 GPT-5.5 在征服現有基準測試後，卻在全新的推理測試 ARC-AGI-3 中慘敗。
AI 重新開始「學習」了？ Google 全新聰明助手 T5Gemma 故事
介紹 Google 最新發佈的 AI 模型 T5Gemma。我們將以專家視角，深入淺出地解析比現有模型更聰明、更高效的「編碼器-解碼器」架構秘密，以及其讀取圖片和長篇摘要的能力。
與海豚對話的時代即將到來？Google 全新 AI 'DolphinGemma' 的故事
探索 Google 發佈的海豚語言翻譯 AI 'DolphinGemma'。這款學習了 40 年數據的 AI 將如何協助人類與動物進行溝通？