Tag: AI硬體

每秒 5.6 萬個字?以舊時鐘速度完成的 AI 魔法「GateGPT」

在比智慧型手機還慢的 80MHz 晶片上,每秒生成 5.6 萬個 Token 的 GateGPT 的秘密。以一般人的視角,用最淺顯易懂的方式解說 Transformer、KV Cache 與 FPGA 的原理。