自分のPCでAIを直接動かす?「llama.cpp」が変えた世界
高性能AIモデルを特別な設備なしで自分のPCで実行できるようにする魔法のような技術、「llama.cpp」について解説します。
高性能AIモデルを特別な設備なしで自分のPCで実行できるようにする魔法のような技術、「llama.cpp」について解説します。
クラウドサービスを使わず、自分のコンピューターで直接動かすLLM AIアシスタント。ユーザーが会話の文脈を自ら操り、学習させる新しい手法を紹介します。
自分のPCで動作するローカル大規模言語モデル(LLM)の速度、メモリ消費量、品質を一目で比較する方法と、スマートホームAI研究用ベンチマーク「Homebench」を紹介します。
高性能AIモデル「Qwen 3.6 35B MoE」をRTX 3090グラフィックボードで実際に動かした性能テストの結果と、ローカルAIの活用法をわかりやすく解説します。
プライベートな質問や機密情報をAIと共有する際に生じうるプライバシーリスクと、自分のコンピュータで直接AIを実行するローカルLLM活用法について解説します。
mistral.rs v0.8.10アップデートにより、ローカル環境でもOpenAI互換のエージェントスキルが利用可能になったニュースを分かりやすく解説します。
プライバシーを気にせず自分のPCでAIを利用する最も簡単な方法として知られるOllama(オラマ)。しかし、専門家の間ではOllamaが本当に必要なのかについて論争が起きています。ローカルAIエコシステムの舞台裏を分かりやすく解説します。