DeepSeek API 於 2024 年 7 月 25 日發佈了重大更新，引入了一系列新接口特性，旨在進一步釋放模型的潛力。本次升級覆蓋了 deepseek-chat 和 deepseek-coder 兩個模型，主要包括以下幾項新功能：
JSON 輸出：現在 API 支持強制模型輸出有效的 JSON 格式字符串，兼容 OpenAI API。用户在數據預處理等任務中，可以通過設置 response_format 為 {'type': 'json_object'} 來啓用該功能，並在提示詞中引導模型按預期格式輸出。同時需合理設置 max_tokens 以防止 JSON 字符串被截斷。
函數調用：DeepSeek API 新增了對函數調用的支持，允許模型通過外部工具與物理世界連接。該功能兼容 OpenAI API，單次調用最多可包含 128 個函數，並支持並行調用。例如，將 deepseek-coder 集成到 LobeChat 中，配合“網站爬蟲”插件即可實現網站抓取和摘要。
聊天前綴補全（Beta）：該功能遵循聊天補全的 API 格式，允許用户指定最後一條助手消息的前綴，讓模型據此完成後續內容。這可用於續寫因達到 max_tokens 限制而被截斷的消息。使用時需將 base_url 設置為 https://api.deepseek.com/beta，並確保消息列表中最後一條的 role 為 assistant，且設置 prefix 參數為 True。
8K max_tokens（Beta）：為滿足長文本輸出需求，Beta API 將 max_tokens 上限提升至 8K。默認值為 4096，啓用 Beta API 後最高可設為 8192。同樣需要將 base_url 指向 Beta 端點。
FIM 補全（Beta）：新增的填充中間補全 API 兼容 OpenAI FIM 補全格式，允許用户提供自定義前綴和後綴（可選），模型自動補全中間內容。該功能常用於故事或代碼補全場景，收費與聊天補全 API 相同。使用前需設置 base_url 為 Beta 地址。
DeepSeek 表示，Beta API 對所有用户開放，但其功能尚不穩定，後續發佈計劃可能靈活調整。相關模型版本將在功能穩定後開源。此次升級為開發者提供了更強大的工具，有望在自動化、數據處理和內容生成等領域帶來更多可能性。