研究进展：AI自噬：当生成式模型开始‘吞噬’自己，人类该如何按下暂停键？|Nature Machine Intelligence

本文探讨了生成式人工智能（AI）技术中的“人工智能自噬”现象，即AI系统在训练过程中使用自身生成的数据，可能导致模型性能下降和伦理问题。文章由英国帝国理工学院的Xiaodan Xing和Guang Yang等人在《Nature Machine Intelligence》上发表，旨在分析这一现象的风险并提出减轻影响的策略。研究指出，合成数据的无序传播和未标记数据的混入，使得真实数据与合成数据的整合变得难以控制，从而影响AI系统的可靠性和性能。文章呼吁在大型模型时代采取平衡的方法，以促进生成式AI技术的可持续发展。