Anthropic发布“人工智能宪法”，引导LLM走向道德规范

Anthropic推出了一种新方法，通过“人工智能宪法”为大型语言模型Claude设定明确的价值观，以替代依赖人类反馈的训练方式。这一宪法系统在训练过程中使用原则性指导，避免有害输出，提高透明度，并参考了多种国际价值观来源。宪法的实施有助于模型产出更安全、有益且道德的响应，同时适应不同文化背景的需求。
来源：https://mp.weixin.qq.com/s/EznVpi5FDdeS2Xrzg0sBjA