Millfolio – 我对本地/混合AI的尝试

要点

• Millfolio采用数据不离开本地的设计：本地模型索引文件，前沿模型只看到脱敏的模式。
• 后端使用Mojo编写，包括自定义GPU/Metal内核的推理引擎。
• 需要API密钥用于代码编写步骤，本地模型不足以可靠编写查询程序。
• 项目仅支持Apple Silicon，是个人项目，主要由AI编写代码。