研究发现AI滥文问题严重
对于有感知且拥有智能手机的人来说,互联网存在AI滥文问题显而易见。自2022年ChatGPT推出后,该问题愈发严重,一些社交平台充斥着AI生成的文章。如今有数据支持这些传闻,伦敦帝国理工学院、斯坦福大学和互联网档案馆的研究人员发表的预印本研究发现,大约35%的新网站要么由AI生成,要么得到了AI的辅助。
AI让互联网“虚假快乐”
研究团队尝试四种不同的AI检测方法,最终选择Pangram Labs的工具,因其检测结果最稳定。为收集代表性网站样本,团队借助互联网档案馆的时光机。研究除量化2022年至2025年间依赖AI生成文章的网站数量外,还对滥文特征的六种不同理论进行测试。其中针对虚假乐观情绪的测试发现,“AI生成或辅助的文章平均积极情感得分比非AI网站高出107%”,研究人员将这种虚假快乐的激增视为“现有大语言模型谄媚且过度乐观本质”的一种“症状”,让网络文章整体基调更甜腻。
AI降低互联网意识形态多样性
另一项测试调查AI生成文章增加是否会缩小网络上“独特观点和多样视角的范围”,发现AI确实降低了互联网在意识形态上的多样性,AI网站在“语义相似度”测试中的得分比人工撰写的网站高出约33%。
部分理论未获证实
研究人员测试的另外四种理论并未得到证实。他们曾怀疑AI会导致错误信息增多、文章不引用外部来源且风格更千篇一律,但证据分析不支持这些假设。尽管AI文章观点更同质化、更一致地乐观,但文章风格本身未被证实变得单一,这让研究人员惊讶。
人们对AI的看法与研究结果不符
研究团队进行了关于人们对AI看法的民意调查,对比调查结果与研究结果发现,许多关于AI写作的普遍看法都是错误的。大多数参与调查的人认为,随着AI生成网站数量增加,虚假新闻会增多,AI文章将不再引用外部来源且风格会越来越千篇一律。
研究只是起点
这项研究远非对AI对互联网影响的最终定论,斯坦福大学研究人员马蒂·博哈切克表示,这只是深入探索的起点,它提供了一种特别人性化的见解:有时候,事情的发展确实难以预测。