Flo Health利用Amazon Bedrock扩展医学内容审核——第二部分

Flo Health是一家专注于女性健康的应用开发公司，每天需要创作大量内容，包括应用内故事、文章、入离职流程和营销材料。所有内容都必须符合严格的医学准确性标准。此前，医学审核是最大的瓶颈：每位医学专家平均每篇文章花费七个工作日，导致内容生产难以扩展。

为了解决这一问题，Flo Health与AWS生成式AI创新中心合作，将概念验证（PoC）转化为生产级系统。该系统基于Amazon Bedrock，核心思路是“AI先审，人类终审”。系统采用三层验证：首先根据内部医学指南检查内容，标记潜在问题；然后对照外部可信医学来源（如循证临床决策工具、同行评审期刊和监管机构）进行验证；最后，医学专家在简化界面中审核AI标注的内容，直接查看应用的规则和相关来源链接。

在AI审核系统中，Flo Health创建了多个专门的AI评判器（AI Judges），每个评判器关注一个审核维度，如医学准确性、法律合规性和品牌风格。每个评判器使用不同的提示和示例进行训练和测试，并根据所需质量阈值、风险级别、延迟和成本选择最佳模型。例如，高风险检查优先考虑准确性和可靠性，低风险检查则使用更轻量的模型。这种模块化设计允许独立改进每个评判器，而不会影响其他评判器。

内容生成方面，Flo Health使用检索增强生成（RAG）技术。系统从知识库（存储在Amazon S3中）检索相关的医学指南、规则和模板，然后通过Amazon Bedrock上的Claude模型生成结构化内容。生成过程采用链式思维提示，先分类再生成。系统还会自动验证生成内容的医学准确性和品牌合规性，如果发现问题则触发重新处理。

架构方面，请求通过Amazon API Gateway路由，并实时向用户界面推送进度。核心管道包括三个步骤：从知识库检索信息、使用Claude模型结构化内容、验证输出。状态和元数据由Amazon DynamoDB管理，AWS Step Functions协调端到端工作流。

项目团队还总结了一些经验教训：YAML比JSON更适合作输出格式，因为其缩进结构更稳定；规则集应配合具体示例使用，避免规则冲突；以及持续验证和逐步采用策略有助于建立信任。最终，该系统在不扩大医学团队的情况下，将审核时间减少了60%，内容产出提升了三倍。此外，团队还强调了使用不同Claude模型（Haiku用于轻量分类，Sonnet用于高保真生成）的优化策略，以及通过渐进式显示中间结果改善用户体验的方法。整个系统的模块化设计使其能够轻松扩展以支持新的内容类型和验证需求。