新闻动态
您当前的位置:云南网 >> 教育频道 >> 新闻动态 >> 正文
瑞典研究警告:AI生成的“垃圾科学”正侵蚀谷歌学术平台
发布时间:2025年01月15日 03:00:02  来源: 科技日报

原标题:瑞典研究警告:AI生成的“垃圾科学”正侵蚀谷歌学术平台

谷歌学术平台中发现了上百篇疑似由AI生成的文章。 图片来源:瑞典布罗斯大学学院

瑞典布罗斯大学学院研究人员在一项最新研究中警告称:无论是从社会知识层面,还是从公众对科学的信任度来看,人工智能(AI)生成的研究都已构成一种威胁。他们最近在文献索引数据库——谷歌学术平台中发现了上百篇疑似由AI生成的文章。相关研究报告13日发表在哈佛肯尼迪学院《错误信息评论》期刊上。

研究人员认为,由AI生成的“垃圾科学”侵蚀学术平台,意味着恶意行为者能以更低成本制造和传播虚假科学,对社会和科研界来说都是一种危险情况。

该研究发现,AI生成的研究带来的主要担忧之一,是证据篡改风险增加,即虚假研究可能被用于战略操纵。此次发现,这些有问题的文章已经传播到网络研究基础设施的多个组成部分,渗透进了各种档案库、社交媒体平台以及其他相关网络渠道。由于传播速度很快,且在谷歌学术平台处于公开状态,即使文章被撤回,也有可能已经传播开来,造成潜在影响。

此外,AI生成的研究也给已经压力重重的同行评审系统带来问题。AI生成的研究在搜索引擎数据库中传播,对参与在线研究的人员的信息素养提出了更高要求,否则,人们很有可能基于错误的信息作出决策。这既是科学不端行为的问题,也是媒体和信息素养的问题。

研究人员强调,谷歌学术平台并不等同于专业的学术数据库。尽管它使用便捷、搜索迅速,但缺少必要的质量保证流程。这一缺陷在普通的谷歌搜索结果中已显现出问题,而当涉及科学知识的普及与传播时,这一问题则变得更为严峻和复杂。(张佳欣)

责任编辑:小云
关注云南发布
关注云南网微信
关注云南网微博
新闻爆料热线:0871-64160447 64156165 投稿邮箱:ynwbjzx@163.com
云南网简介 |  服务合作 |  广告报价 |  联系方式 |  中央厨房 |  网站声明
滇ICP备08000875号 互联网新闻信息服务许可证编号:53120170002 信息网络传播视听节目许可证号:2511600
互联网出版许可证:新出网证(滇)字 04号
广播电视节目制作经营许可证号:(云)字第00093号
增值电信业务经营许可证编号:滇B2-20090008 ® yunnan.cn All Rights Reserved since 2003.08
未经云南网书面特别授权,请勿转载或建立镜像,违者依法必究
24小时网站违法和不良信息举报电话:0871-64166935;举报邮箱: jubao@yunnan.cn