「What Models?」幫你根據硬件匹配本地AI模型
一款名為「What Models?」的新工具，幫助用户根據GPU、VRAM、系統內存等硬件配置，選擇最佳的本地AI模型。支持自定義最小上下文窗口、速度要求及功能需求。
「What Models?」是一款便捷的在線工具，旨在幫助用户根據自身硬件配置快速找到可運行的本地AI模型。使用非常簡單：用户可以選擇自己的GPU型號，或者直接輸入顯存（VRAM）容量，工具便會自動篩選出兼容的模型。此外，用户還可以設置最低上下文窗口大小、最低生成速度（tokens/sec）以及所需的模型特性（如功能支持）。如果用户希望利用系統內存來擴展上下文或運行更大的模型（儘管速度會降低），還可以輸入系統RAM容量。所有參數設置完畢後，點擊即可獲得一份詳細的推薦模型列表。該工具非常適合那些希望本地運行AI模型但不確定硬件是否支持的用户。目前該工具已上線，可通過其網站直接使用。