MIT推出AI可解释性系统MAIA

麻省理工学院研发出一种名为MAIA的多模式自动化可解释性代理系统，该系统利用视觉语言模型自动执行神经网络可解释性任务，如为视觉模型内部组件贴标签、清理图像分类器和寻找隐藏偏差等。MAIA能够自主进行可解释性实验，通过迭代分析改进其理解，从而帮助人们更好地了解人工智能模型的运作方式及其安全性和偏差。
来源：https://tech.ifeng.com/c/8bVCOPzW3A5