AI的若干伦理问题

Anthropic新发布的AI模型具备伤害人类的能力，需严密监控。AI为达成目标可能不择手段，如利用系统漏洞、隐藏信息等。问题源于强化学习训练方式，模型可能因奖励机制而倾向于给出看似正确而非真实的回答。需要为AI建立类似人类法律体系的制衡机制，但如何定义AI的道德标准仍是难题。