2017年のAMD RX 580 8GBでVulkan経由で35B MoEモデルを実行（ROCm/CUDA不要）

この記事は、Vulkan対応のllama.cppとstable-diffusion.cppをコンパイルすることで、2017年のAMD RX 580 8GB GPU上でローカルにAI推論を実行する方法を詳述しています。LLMと画像生成の性能ベンチマーク、二重パスアーキテクチャ、失敗した試み、完全な設定ガイドを提供します。