北京7月27日电 (记者 孙自法)国际学术期刊《自然》最新发表一篇计算机科学论文指出，用人工智能(AI)生成的数据集训练未来几代机器学习模型可能会污染它们的输出，这个概念称为“模型崩溃”。
该研究显示，原始内容会在AI数代内变成不相关的胡言乱语，显示出使用可靠数据训练AI模型的重要性。
生成式AI工具越来越受欢迎，如大语言模型等，这类工具主要用人类生成的输入进行训练。不过，随着这些AI模型在互联网不断壮大，计算机生成内容可能会以递归循环的形式被用于训练其他AI模型或其自身。
论文第一作者兼共同通讯作者、英国牛津大学Ilia Shumailov和同事及合作者一起，用数学模型演示了AI模型可能会如何出现模型崩溃。他们证明了一个AI可能会忽略训练数据中的某些输出(如不太常见的文本)，导致其只用一部分数据集来自我训练。
随后，论文作者还研究了AI模型会如何应对主要用人工智能生成的训练数据集。他们发现，给模型输入AI生成的数据会减弱今后几代模型的学习能力，最终导致模型崩溃。他们测试的几乎所有递归训练语言模型都容易出现重复短语。比如，一个用中世纪建筑文本作为原始输入的测试到第九代的输出已经是一串野兔的名字。
论文作者指出，为了让人工智能成功使用其自身输出进行训练，本次研究认为用AI生成数据训练一个模型并非不可能，但必须对数据进行严格过滤。与此同时，依赖人类生成内容的科技公司或许能比竞争对手训练出更高效的AI模型。(完) 【编辑:曹子健】
透过1—7月国家“钱袋子”收支情况看发展 民生向“暖”有保障
贵阳贵安：2024年数字产业“一硬一软”产值预计达1360亿元
法国总统马克龙结束访华：始终希望能对中国拥有更丰富、更全面的认知
“人工智能信任：来自全球南方的跨文化和跨学科见解”边会在巴黎举行
广西南宁掀重大项目建设热潮 一季度计划开（竣）工项目170个