Amazon SageMaker HyperPod Inference 现已支持托管 NVIDIA Dynamo
Amazon SageMaker HyperPod Inference 新增对 NVIDIA Dynamo 的支持,提供多节点与分离式推理、KV 感知路由和自动故障恢复,让团队无需自建编排层即可跨多节点服务大模型。
关注话题
跟踪 Agent 框架、编排、记忆、评测、工作流自动化和生产部署。
Amazon SageMaker HyperPod Inference 新增对 NVIDIA Dynamo 的支持,提供多节点与分离式推理、KV 感知路由和自动故障恢复,让团队无需自建编排层即可跨多节点服务大模型。
LangChain CEO Harrison Chase 阐述了AI代理从执行具体任务向追求长期目标的转变,这背后是两重实际变化:从指定动作到指定结果,从有限任务到持续责任。
随着智能体承担越来越开放的任务,如何设计其目标与范围成为关键。文章指出,应优先设计便于人类专家提供反馈的智能体范围,以弥补隐性上下文缺失,并避免在主观任务中失效。
LangChain宣布完成由CapitalG领投的3亿美元C轮融资,估值30亿美元。新资金将用于推进其使命:让每家公司都能拥有自己的智能。其框架无关的平台LangSmith已获7000多家组织采用,用于运行、改进和治理AI智能体。
LangSmith BYOC 现已登陆 AWS(正式版)、Azure 和 Google Cloud(测试版)。您的跟踪数据、评估和代理部署存储在您自己的云账户中,由 LangChain 管理。
LangChain首席执行官Harrison Chase分享了对主动型代理兴起所带来的最大harness工程挑战的见解。
OpenAI与Oracle深化合作,将Oracle业务应用和数据集成到ChatGPT中,并用OpenAI模型驱动新的Oracle产品,包括AI安全网格、中小企业套餐和应用编排器,旨在打造代理就绪的企业环境。
LangChain 分享了其在市场、销售和工程团队中部署内部 AI 智能体的经验,并将落地经验总结为五项核心基础能力:嵌入员工已有的工作工具(Slack)、区分身份与授权边界、分层记忆、沙箱内代码执行,以及大量由计划任务或事件在后台触发的运行。
跟踪 AI 编程助手、代码生成、IDE 插件、开发者工作流和软件工程自动化。
跟踪 Model Context Protocol、工具调用、连接器、Agent 上下文和企业集成。
跟踪开源权重模型、开放许可、社区评测、模型蒸馏和本地部署。
跟踪推理价格、延迟、吞吐、缓存、量化、服务商成本和部署效率。
跟踪中国 AI 公司、模型、政策、芯片生态、开源社区和商业化进展。
跟踪 GPU、数据中心、集群网络、AI 云、训练基础设施和供应链。
跟踪模型 API 价格、套餐、上下文窗口、免费额度、单位 token 成本和商业模式。
跟踪 DeepSeek 模型、API、开源权重、推理效率、生态合作和全球影响。
跟踪 Qwen/通义千问模型、开源权重、多模态、Agent 能力、API 和企业落地。