Karpathy新实验火了！一个「表情」占53个token，DeepSeek-R1苦思10分解谜失败

AI专家Karpathy发现简单笑脸表情竟占用53个token，揭示了Unicode编码秘密。通过变体选择符（Variation Selectors），可在文本中嵌入隐藏数据，甚至进行提示注入。该技术不仅增加了LLM处理负担，还可能被恶意利用，如绕过内容审核或添加数字水印。部分AI模型如Claude和GPT能解码隐藏信息，而Gemini则无法识别。此外，网友还利用此技术制造“token炸弹”，使GPT-4o崩溃。
来源：https://mp.weixin.qq.com/s/kbONIs4QxpWOP7mBHqGPHg