DeepSeek API 重大升级:新增多项功能
DeepSeek API 迎来重大更新,支持 JSON 输出、函数调用、聊天前缀补全(Beta)、8K max_tokens(Beta)以及 FIM 补全(Beta)。这些新功能适用于 deepseek-chat 和 deepseek-coder 模型,旨在提升开发者的灵活性和自动化能力。
DeepSeek API 于 2024 年 7 月 25 日发布了重大更新,引入了一系列新接口特性,旨在进一步释放模型的潜力。本次升级覆盖了 deepseek-chat 和 deepseek-coder 两个模型,主要包括以下几项新功能:
JSON 输出:现在 API 支持强制模型输出有效的 JSON 格式字符串,兼容 OpenAI API。用户在数据预处理等任务中,可以通过设置 response_format 为 {'type': 'json_object'} 来启用该功能,并在提示词中引导模型按预期格式输出。同时需合理设置 max_tokens 以防止 JSON 字符串被截断。
函数调用:DeepSeek API 新增了对函数调用的支持,允许模型通过外部工具与物理世界连接。该功能兼容 OpenAI API,单次调用最多可包含 128 个函数,并支持并行调用。例如,将 deepseek-coder 集成到 LobeChat 中,配合“网站爬虫”插件即可实现网站抓取和摘要。
聊天前缀补全(Beta):该功能遵循聊天补全的 API 格式,允许用户指定最后一条助手消息的前缀,让模型据此完成后续内容。这可用于续写因达到 max_tokens 限制而被截断的消息。使用时需将 base_url 设置为 https://api.deepseek.com/beta,并确保消息列表中最后一条的 role 为 assistant,且设置 prefix 参数为 True。
8K max_tokens(Beta):为满足长文本输出需求,Beta API 将 max_tokens 上限提升至 8K。默认值为 4096,启用 Beta API 后最高可设为 8192。同样需要将 base_url 指向 Beta 端点。
FIM 补全(Beta):新增的填充中间补全 API 兼容 OpenAI FIM 补全格式,允许用户提供自定义前缀和后缀(可选),模型自动补全中间内容。该功能常用于故事或代码补全场景,收费与聊天补全 API 相同。使用前需设置 base_url 为 Beta 地址。
DeepSeek 表示,Beta API 对所有用户开放,但其功能尚不稳定,后续发布计划可能灵活调整。相关模型版本将在功能稳定后开源。此次升级为开发者提供了更强大的工具,有望在自动化、数据处理和内容生成等领域带来更多可能性。