AI“近亲繁殖” 混合数据防AI崩溃

牛津、剑桥等机构的研究揭示了AI“近亲繁殖”问题，即使用AI产生的内容训练模型可能导致模型崩溃。这一研究引起了AI领域的广泛关注和讨论。一些专家认为，问题的关键在于数据质量而非合成数据本身。Scale AI的CEO Alexandr Wang认为混合数据是未来的趋势，可以避免模型崩溃相关的问题。此外，研究人员还提出了一种通过人类或较弱模型的“排序-修剪反馈”方法来恢复甚至超越模型原性能的技术。另一项研究表明，将合成数据与真实数据一起积累可以有效避免模型崩溃。
来源：https://mp.weixin.qq.com/s/C8xKaihSh5kGFpmwNAHOAg