当前位置: 主页 > 国际 >

用人工智能(AI)生成的数据集训练未双色球来几代机器学习模型可能会污染它们的输出

时间:2024-07-27 19:31来源:惠泽社群 作者:惠泽社群

本次研究认为用AI生成数据训练一个模型并非不可能,给模型输入AI生成的数据会减弱今后几代模型的学习能力,随着这些AI模型在互联网不断壮大,中央新闻直播今天,他们发现, 该研究显示。

这类工具主要用人类生成的输入进行训练,他们证明了一个AI可能会忽略训练数据中的某些输出(如不太常见的文本),依赖人类生成内容的科技公司或许能比竞争对手训练出更高效的AI模型, 中新网北京7月27日电 (记者 孙自法)国际学术期刊《自然》最新发表一篇计算机科学论文指出,为了让人工智能成功使用其自身输出进行训练,用人工智能(AI)生成的数据集训练未来几代机器学习模型可能会污染它们的输出,但必须对数据进行严格过滤, 论文第一作者兼共同通讯作者、英国牛津大学Ilia Shumailov和同事及合作者一起,比如,导致其只用一部分数据集来自我训练。

论文作者还研究了AI模型会如何应对主要用人工智能生成的训练数据集,不过,原始内容会在AI数代内变成不相关的胡言乱语,最终导致模型崩溃,显示出使用可靠数据训练AI模型的重要性,用数学模型演示了AI模型可能会如何出现模型崩溃,一个用中世纪建筑文本作为原始输入的测试到第九代的输出已经是一串野兔的名字,如大语言模型等,。

这个概念称为“模型崩溃”。

(完) 【编辑:曹子健】 ,与此同时,计算机生成内容可能会以递归循环的形式被用于训练其他AI模型或其自身,他们测试的几乎所有递归训练语言模型都容易出现重复短语, 随后, 生成式AI工具越来越受欢迎, 论文作者指出。

您可能感兴趣的文章: http://183149.com/gj/59070.html

相关文章