跳到主要內容
AI News HubLIVE
更多
站內改寫1 分鐘閱讀

datasette-llm-limits 0.1a0

文章摘要

該插件與datasette-llm和datasette-llm-accountant配合使用,允許管理員為每位用户或全局配置LLM使用預算限制,例如每日每用户1美元的上限。

datasette-llm-limits 0.1a0
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

datasette-llm-limits 0.1a0 是 Simon Willison 發佈的一個 Datasette 插件,用於配置 LLM 使用的週期性限制。該插件與 datasette-llm 和 datasette-llm-accountant 協同工作,允許管理員設置每個用户或全局的支出上限。例如,可以配置每個用户在任意滾動 24 小時內最多花費 1 美元。配置通過 YAML 文件完成,示例如下:

plugins: datasette-llm-limits: limits: per-user-daily: scope: actor window: rolling-24h amount_usd: 1.00

這一機制有助於防止意外的高額費用,並確保資源公平分配。該插件是 Datasette LLM 生態的重要組成部分,為數據驅動的應用提供了更精細的成本管理能力。

Simon Willison 於 2026 年 5 月 15 日發佈了此版本。標籤包括 llm 和 datasette。該插件支持滾動窗口和基於角色的限速,使得在多用户環境中控制 LLM 使用成本變得簡單高效。

展開要點與分析

文章情報

工程師進階

要點

  • 支持按用户或全局設置LLM使用限額
  • 可配置滾動24小時時間窗口內的花費上限
  • 與Datasette的LLM插件生態無縫集成

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。