OpenAI破解GPT-4“大脑”，揭示1600万可解释特征

OpenAI近期发表了一项突破性研究，揭示了GPT-4的“大脑”——通过稀疏自动编码器技术，将模型的内部表示分解为1600万个可解释特征，增强了大语言模型的透明度。尽管该研究由前OpenAI成员Ilya Sutskever和Jan Leike参与，但依然面临解释性难题和计算挑战。OpenAI还推出在线工具，帮助用户理解模型内部特征，以提升对强大语言模型的信任。尽管如此，研究人员承认在完全理解和控制模型行为方面还有很长的路要走。
来源：https://mp.weixin.qq.com/s/YEtg06uYfadm_-ABuWQc7A