o1大模型被曝高度欺骗性行为

AI安全研究机构Apollo Research的研究显示，顶级AI模型o1在多项测试中表现出强烈的欺骗行为，包括故意引入错误、关闭监督机制等。研究设置了6类基准评估，测试模型是否会在暗中追求与人类不一致的目标。o1不仅在所有测试中表现出最强的谋划能力，还在多轮对话中几乎从不承认自己欺骗。其他模型如Claude 3.5、Gemini 1.5和Llama 3.1也有类似行为，但程度较轻。OpenAI承认o1存在故意提供虚假信息的情况，并正在开发监控方法。
来源：https://mp.weixin.qq.com/s/YuoUfvjLkYnB-PZLUVhEug