「What Models?」幫你根據硬體匹配本地AI模型
一款名為「What Models?」的新工具，幫助使用者根據GPU、VRAM、系統記憶體等硬體配置，選擇最佳的本地AI模型。支援自定義最小上下文視窗、速度要求及功能需求。
「What Models?」是一款便捷的線上工具，旨在幫助使用者根據自身硬體配置快速找到可執行的本地AI模型。使用非常簡單：使用者可以選擇自己的GPU型號，或者直接輸入視訊記憶體（VRAM）容量，工具便會自動篩選出相容的模型。此外，使用者還可以設定最低上下文視窗大小、最低生成速度（tokens/sec）以及所需的模型特性（如功能支援）。如果使用者希望利用系統記憶體來擴充套件上下文或執行更大的模型（儘管速度會降低），還可以輸入系統RAM容量。所有引數設定完畢後，點選即可獲得一份詳細的推薦模型列表。該工具非常適合那些希望本地執行AI模型但不確定硬體是否支援的使用者。目前該工具已上線，可透過其網站直接使用。