清华领衔发布MultiTrust基准 全面评估多模态大模型可信度

清华大学朱军教授团队与多家机构合作，发布MultiTrust综合基准，首次全面评估主流多模态大语言模型的可信度。研究发现，闭源商用模型相比主流开源模型更为安全可靠，但所有模型仍存在对抗攻击、越狱攻击等安全可信风险。多模态训练和推理会削弱大语言模型的安全对齐机制，提示未来研究需关注模态间对齐及视觉编码器的鲁棒性等问题。
来源：https://mp.weixin.qq.com/s/jCFYuLB_1agdXk3VDi_HTw