DeepSeek API 重大升級:新增多項功能
DeepSeek API 迎來重大更新,支持 JSON 輸出、函數調用、聊天前綴補全(Beta)、8K max_tokens(Beta)以及 FIM 補全(Beta)。這些新功能適用於 deepseek-chat 和 deepseek-coder 模型,旨在提升開發者的靈活性和自動化能力。
DeepSeek API 於 2024 年 7 月 25 日發佈了重大更新,引入了一系列新接口特性,旨在進一步釋放模型的潛力。本次升級覆蓋了 deepseek-chat 和 deepseek-coder 兩個模型,主要包括以下幾項新功能:
JSON 輸出:現在 API 支持強制模型輸出有效的 JSON 格式字符串,兼容 OpenAI API。用户在數據預處理等任務中,可以通過設置 response_format 為 {'type': 'json_object'} 來啓用該功能,並在提示詞中引導模型按預期格式輸出。同時需合理設置 max_tokens 以防止 JSON 字符串被截斷。
函數調用:DeepSeek API 新增了對函數調用的支持,允許模型通過外部工具與物理世界連接。該功能兼容 OpenAI API,單次調用最多可包含 128 個函數,並支持並行調用。例如,將 deepseek-coder 集成到 LobeChat 中,配合“網站爬蟲”插件即可實現網站抓取和摘要。
聊天前綴補全(Beta):該功能遵循聊天補全的 API 格式,允許用户指定最後一條助手消息的前綴,讓模型據此完成後續內容。這可用於續寫因達到 max_tokens 限制而被截斷的消息。使用時需將 base_url 設置為 https://api.deepseek.com/beta,並確保消息列表中最後一條的 role 為 assistant,且設置 prefix 參數為 True。
8K max_tokens(Beta):為滿足長文本輸出需求,Beta API 將 max_tokens 上限提升至 8K。默認值為 4096,啓用 Beta API 後最高可設為 8192。同樣需要將 base_url 指向 Beta 端點。
FIM 補全(Beta):新增的填充中間補全 API 兼容 OpenAI FIM 補全格式,允許用户提供自定義前綴和後綴(可選),模型自動補全中間內容。該功能常用於故事或代碼補全場景,收費與聊天補全 API 相同。使用前需設置 base_url 為 Beta 地址。
DeepSeek 表示,Beta API 對所有用户開放,但其功能尚不穩定,後續發佈計劃可能靈活調整。相關模型版本將在功能穩定後開源。此次升級為開發者提供了更強大的工具,有望在自動化、數據處理和內容生成等領域帶來更多可能性。