50个开源项目给AI时代安全带来的启示

AI正在改变开源开发的速度，也带来了前所未有的安全挑战。维护者需要审查不熟悉的代码贡献，管理新的攻击面，并在时间和资源有限的情况下应对漏洞。GitHub安全开源基金第四期项目尝试给出务实的答案：该项目向50个开源项目投入超过50万美元，将维护者与GitHub安全实验室专家、GitHub安全工具、AI辅助工作流以及同行社区连接起来。项目反复得出一个结论——AI能帮助维护者更快地进行调查、确定优先级并做出响应，但最终决定发布什么的，仍然是维护者的背景知识、判断力和责任感。

OpenClaw之所以受邀参加第四期，是因为它是GitHub上增长最快的开源项目，其维护者希望加强项目的安全基础。到本期结束时，OpenClaw已经制定事件响应计划，扩展了GitHub安全工具的使用，审计了GitHub Actions工作流，并强化了发现和应对安全问题的流程。维护者表示，OpenClaw的经历反映了第四期的整体情况：虽然不同项目面临的风险各异，但维护者的共同需求是一致的——获得知识、工具和专家支持，以便在AI改变软件开发方式时保护好软件。

在整个项目中，维护者把这些支持转化成了具体的安全成果。有的项目巩固了已有安全实践，有的为AI相关的新风险做好准备，还有的探索如何用GitHub Copilot等工具辅助漏洞分类、威胁建模、代码审查和修复。这些改进不只惠及单个项目——当被广泛使用的开源软件变得更安全时，整个软件生态系统都会更有韧性。

关于基金运作：GitHub安全开源基金把资金与可衡量的安全成果直接挂钩。项目包括实践安全教育、与GitHub安全实验室专家直接互动，以及一个让维护者与同行一起解决安全问题的社区。每一期都包含一个为期三周的冲刺阶段，以及累计12个月的持续参与。资金和参与资格与目标导向的成果和经核实的安全改进绑定。第四期训练按周划分不同重点：开源安全基础、威胁建模与安全编码、AI安全与漏洞管理。

在资金方面，每个项目通过GitHub Sponsors获得1万美元，其中冲刺阶段发放6000美元，6个月和12个月安全复查时各发放2000美元。项目还可以加入新的安全社区，参加GitHub安全实验室的办公时间，获得可直接应用的安全资源，以及用于云基础设施的Azure积分。第五期申请截止日期为8月24日，同时基金也在招募新的资助或生态合作伙伴。

第四期的安全改进覆盖了软件生态系统的多个层面：AI、机器学习和智能系统项目，如Caracal、Deep Agents、DocsGPT、LadybugDB、LangChain、n8n-MCP、Nasiko、ONNX、OpenClaw、PageIndex、Scenic和Serena；构建系统、供应链和发布工具，如browserslist、CycloneDX Python库、Cucumber、golangci-lint、JReleaser、postcss和Task；核心编程语言、运行时和基础库，如Byte Buddy、core-js、FS2、Gleam、htmx、Pkl、Pyodide和termcolor；开发者工具与生产力平台，如cheerio、Ciphey、CodeRunner、Hoppscotch、MapStruct、Python Pillow、Proyecto Respira、Readest、ToolJet、Vuetify和Yjs；以及Web、网络、API和基础设施服务，如actix-web、aiohttp、Apache Solr、Apache ZooKeeper、etcd、FastAPI、Haraka、Hummingbird、mimetype、Sniffnet、Starlette和UAParser.js。这些项目构成了现代互联网服务和云应用的关键路径，改进它们的韧性会带来广泛的下游收益。

AI安全已成为所有项目共同面对的新前沿。从机器学习基础设施和智能体框架，到开发者工具和互联网基础设施，AI相关的安全问题出现在第四期各个类型的项目中。与此同时，传统的安全责任并没有消失：维护者仍然需要管理漏洞、保护依赖、守护发布流程、准备应对事件。AI带来了新风险，也提高了维护者理解并响应风险所需的速度。第四期的经验表明，AI安全不是孤立演进的，它正在成为安全软件开发整体实践的一部分。随着这一转变继续，维护者将需要能同步进化的实用教育、可信社区和专家支持。文章最后感谢了所有合作方，包括资助伙伴和生态伙伴，他们共同帮助保护开源生态系统。