Tag: AIハードウェア

GateGPT AIハードウェア Transformer 超高速AI ディープラーニング FPGA

毎秒5万6千単語？古い時計の速度で完成させたAIの魔法「GateGPT」

スマートフォンよりも遅い80MHzのチップで毎秒5万6千トークンを生成するGateGPTの秘密。Transformer、KVキャッシュ、FPGAの原理を一般の人の目線で非常にわかりやすく解説します。

Keep Reading