Anthropic CEO警告开源AI正走向“非常危险的道路”

近日，Anthropic公司的首席执行官Dario Amodei向立法者发出严厉警告，称开源人工智能正沿着一条“非常危险的道路”发展。Amodei指出，一旦功能强大的AI模型被公开发布，开发这些模型的公司将失去对模型使用情况的监控能力，也无法在发现滥用行为时撤销用户的访问权限。这种失控状态可能导致AI技术被恶意利用，带来严重的社会和安全风险。

Amodei的言论反映了业界对开源AI潜在风险的日益担忧。尽管开源模式促进了技术创新和民主化，但缺乏有效的监管机制可能使AI系统成为不法分子的工具。他呼吁立法者认真考虑开源AI的监管框架，以确保技术进步不会以牺牲安全为代价。目前，关于如何平衡开放性与安全性的讨论仍在继续。