AI News HubLIVE
站内改写1 分钟阅读

「What Models?」帮你根据硬件匹配本地AI模型

一款名为「What Models?」的新工具,帮助用户根据GPU、VRAM、系统内存等硬件配置,选择最佳的本地AI模型。支持自定义最小上下文窗口、速度要求及功能需求。

来源Hacker News AI作者: javatuts

「What Models?」是一款便捷的在线工具,旨在帮助用户根据自身硬件配置快速找到可运行的本地AI模型。使用非常简单:用户可以选择自己的GPU型号,或者直接输入显存(VRAM)容量,工具便会自动筛选出兼容的模型。此外,用户还可以设置最低上下文窗口大小、最低生成速度(tokens/sec)以及所需的模型特性(如功能支持)。如果用户希望利用系统内存来扩展上下文或运行更大的模型(尽管速度会降低),还可以输入系统RAM容量。所有参数设置完毕后,点击即可获得一份详细的推荐模型列表。该工具非常适合那些希望本地运行AI模型但不确定硬件是否支持的用户。目前该工具已上线,可通过其网站直接使用。