Prompt自相矛盾，大模型能发现吗？上海交通大学最新研究解密

上海交通大学研究团队提出了一项新的基准测试——自相矛盾指令集（SCI），旨在评估多模态大模型检测自相矛盾指令的能力。研究发现当前模型在这一方面存在明显不足，并为此设计了自动数据集创建框架AutoCreate及认知唤醒提示（CAP）方法，有效提高了模型的认知能力。该研究成果将于10月在第18届欧洲计算机视觉大会上发布。
来源：https://mp.weixin.qq.com/s/9f3gicl49S8oNjp5AbO6YA