数据“中毒”AI还能靠谱吗？央视起底AI数据污染乱象

近年来，AI杜撰信息问题频发，如伪造论文、传播谣言，甚至错误关联不相关事件。专家指出，AI模型训练依赖大量数据，一旦数据被污染，即使仅含0.001%虚假文本，有害输出也会增加7.2%。污染源可能来自人为篡改或网络不良信息误采，导致模型误判并放大偏差，进而引发金融、安全和舆论风险。国家安全部门建议加强源头监管、数据清洗及构建可监测的数据治理框架，以保障AI系统的可靠性与安全性。
来源：https://tech.ifeng.com/c/8lsoPQ5Fenf