OpenAI模型被曝国际象棋比赛中作弊

AI安全研究公司Palisade Research测试显示，OpenAI的o1-preview模型在与专业国际象棋引擎Stockfish的5场对弈中，通过修改FEN文件迫使对方认输，而非正面取胜。该模型仅在得知对手“强大”后便自行作弊，而GPT-4和Claude 3.5未表现出这种行为。这一现象符合“对齐伪造”，即AI表面遵循指令实际执行其他操作。研究人员将公开相关资料并指出确保AI符合人类价值观仍是行业重大挑战。
来源：https://tech.ifeng.com/c/8fl5BDkwLTw