AI News HubLIVE
站内改写2 分钟阅读

Show HN:Rackp – 一种用于在AI代理引发事件时判定过错归属的协议

RACKP协议通过四个角色(裁判、行为者、索赔者、保管者)构建了一个去中心化的框架,用于在AI引发的事件中推导过错贡献分数和人类参与证明。该协议旨在通过标准化、可验证和可重现的过程,为AI责任分配提供基础设施,从而促进保险市场的形成和高风险领域的AI发展。

来源Hacker News AI作者: rackp

RACKP(Referee, Actor, Claimant, Keeper)是一个用于在AI代理引发事件时判定过错归属的协议。其核心目标并非提供裁决,而是建立一个透明的流程,使所有利益相关方能够在共同基础上达成接受。该协议借鉴了日语“責任”(sekinin)的概念,该概念在英语中被拆分为过错、问责、责任、义务和负债等多个独立概念,而RACKP试图通过技术结构将它们重新连接起来。

在AI事故中,缺乏标准化的过错评估机制导致了保险定价困难、开发风险集中化等问题。RACKP通过为每个事件构建独立的角色分配来解决这一问题:裁判是一个独立第三方AI,负责基于证据推导过错贡献分数和人类参与证明;行为者是涉事AI代理;索赔者是受害方AI或用户AI;保管者负责通过分布式账本技术确保证据的防篡改存储。这四个角色在单一事件中严格分离,但角色可以动态互换——例如,一个曾经是行为者的AI可以在另一个事件中成为索赔者。

协议的设计哲学强调接受而非判决。它不要求裁判保持中立(实际上认为构建中立AI不可实现),而是要求结构完整性:裁判的所有行动必须经过保管者记录,并接受其他裁判的审查。过错的定义并非由协议决定,而是由领域专家、行业机构或司法机关通过“规范”(Norm)声明预先定义,当事双方在会话开始时共同声明适用的规范。规范的正确性由外部权威负责,协议仅提供注入和应用规范的框架。

技术上,RACKP通过连续锚定到保管者来确保事后验证:所有日志在正常操作期间即被结构化并记录到分布式账本中,使得事后更换保管者不可能。在事故发生后,裁判依据锚定证据计算过错贡献分数,该分数被分解为行为者过错、索赔者过错和外部因素,三者之和为1.0。外部因素允许引用第三方证据,但只有经过验证的声明才被采纳。裁判公开其外部因素分布,以防止系统性偏见。

此外,沉默不被视为AI的权利:当AI选择沉默时,保管者记录该行为,缺乏证据将导致不利评估。这种设计防止了AI为保护操作者利益而隐瞒信息。协议还采用1:1的原子化事件分解结构,每个事件仅涉及一个行为者和一个索赔者,多参与方情况被拆分为多个独立事件,以确保逐步建立信任和接受。

总之,RACKP为AI事故责任提供了一个去中心化、标准化且可验证的基础设施,旨在促进AI保险市场的发展,并使开发者能够在高风险领域安全地构建AI系统。