跳到主要內容
AI News HubLIVE
更多
僅摘要

角色模型:為正確工作分配正確AI模型的協議

角色模型(role-model)是一個開放的、具備能力感知能力的AI路由協議,它根據角色和任務後設資料、路由策略以及觀察到的效能來路由請求,而不是僅根據模型名稱。它包括一個參考執行時、可解釋的路由器決策以及基準角色(如通用聊天、程式碼編輯、審查、工具使用、嵌入、分類和語言檢測)。

來源Hacker News AI作者: handfuloflight
角色模型:為正確工作分配正確AI模型的協議
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

工程師進階

要點

  • 角色模型提供了一種持久的方式來描述請求需求、角色、任務、端點和策略。
  • 路由器縮小候選集、應用硬性資格檢查、評分端點併發出可解釋的決策。
  • 基準角色包括general.chat、coder.patch、coder.review、tool.agent、embedder、classifier和language.detector。
  • 設定涉及安裝執行時、連線端點、分配角色、執行基準測試和選擇路由策略。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。