跳到主要內容
AI News HubLIVE
更多
站內改寫1 分鐘閱讀

datasette-llm-limits 0.1a0

文章摘要

該外掛與datasette-llm和datasette-llm-accountant配合使用,允許管理員為每位使用者或全域性配置LLM使用預算限制,例如每日每使用者1美元的上限。

datasette-llm-limits 0.1a0
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

datasette-llm-limits 0.1a0 是 Simon Willison 釋出的一個 Datasette 外掛,用於配置 LLM 使用的週期性限制。該外掛與 datasette-llm 和 datasette-llm-accountant 協同工作,允許管理員設定每個使用者或全域性的支出上限。例如,可以配置每個使用者在任意滾動 24 小時內最多花費 1 美元。配置透過 YAML 檔案完成,示例如下:

plugins: datasette-llm-limits: limits: per-user-daily: scope: actor window: rolling-24h amount_usd: 1.00

這一機制有助於防止意外的高額費用,並確保資源公平分配。該外掛是 Datasette LLM 生態的重要組成部分,為資料驅動的應用提供了更精細的成本管理能力。

Simon Willison 於 2026 年 5 月 15 日釋出了此版本。標籤包括 llm 和 datasette。該外掛支援滾動視窗和基於角色的限速,使得在多使用者環境中控制 LLM 使用成本變得簡單高效。

展開要點與分析

文章情報

工程師進階

要點

  • 支援按使用者或全域性設定LLM使用限額
  • 可配置滾動24小時時間視窗內的花費上限
  • 與Datasette的LLM外掛生態無縫整合

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。