DeepSeek API 重大升級：新增多項功能

DeepSeek API 於 2024 年 7 月 25 日釋出了重大更新，引入了一系列新介面特性，旨在進一步釋放模型的潛力。本次升級覆蓋了 deepseek-chat 和 deepseek-coder 兩個模型，主要包括以下幾項新功能：

JSON 輸出：現在 API 支援強制模型輸出有效的 JSON 格式字串，相容 OpenAI API。使用者在資料預處理等任務中，可以透過設定 response_format 為 {'type': 'json_object'} 來啟用該功能，並在提示詞中引導模型按預期格式輸出。同時需合理設定 max_tokens 以防止 JSON 字串被截斷。

函式呼叫：DeepSeek API 新增了對函式呼叫的支援，允許模型透過外部工具與物理世界連線。該功能相容 OpenAI API，單次呼叫最多可包含 128 個函式，並支援並行呼叫。例如，將 deepseek-coder 整合到 LobeChat 中，配合“網站爬蟲”外掛即可實現網站抓取和摘要。

聊天字首補全（Beta）：該功能遵循聊天補全的 API 格式，允許使用者指定最後一條助手訊息的字首，讓模型據此完成後續內容。這可用於續寫因達到 max_tokens 限制而被截斷的訊息。使用時需將 base_url 設定為 https://api.deepseek.com/beta，並確保訊息列表中最後一條的 role 為 assistant，且設定 prefix 引數為 True。

8K max_tokens（Beta）：為滿足長文本輸出需求，Beta API 將 max_tokens 上限提升至 8K。預設值為 4096，啟用 Beta API 後最高可設為 8192。同樣需要將 base_url 指向 Beta 端點。

FIM 補全（Beta）：新增的填充中間補全 API 相容 OpenAI FIM 補全格式，允許使用者提供自定義字首和字尾（可選），模型自動補全中間內容。該功能常用於故事或程式碼補全場景，收費與聊天補全 API 相同。使用前需設定 base_url 為 Beta 地址。

DeepSeek 表示，Beta API 對所有使用者開放，但其功能尚不穩定，後續釋出計劃可能靈活調整。相關模型版本將在功能穩定後開源。此次升級為開發者提供了更強大的工具，有望在自動化、資料處理和內容生成等領域帶來更多可能性。