Zenn LLM6/16/2026
RX6800 vs Radeon 890M iGPU — llama.cpp Vulkan ベンチマーク比較:MoE が帯域を活かす
AIによる日本語要約
AMD GPU の Vulkan バックエンドでローカル LLM 推論を実測ベンチマークし、MoE モデルとの組み合わせで帯域効率が大幅に向上することを検証しました。
- RX6800(16GB)で Qwen3-14B 実行時の性能向上を帯域効率の観点から分析しました。
- MoE モデルの使用により 123.7 t/s のスループットを達成し、初期評価が逆転しました。
- 複数マシン・複数モデルの実測データ公開により、AMD GPU の実用性を実証しています。
※ Claude Haiku 4.5 による自動要約です。原文を必ず確認してください。