原标题：审稿人或难识别AI撰写的论文摘要
据近日发表在预印本服务器bioRxiv上的一项研究，人工智能（AI）聊天机器人ChatGPT已可写出令人信服的假研究论文摘要，甚至连审稿科学家也无法发现。
聊天机器人ChatGPT会根据用户提示创建逼真文本，它通过消化大量现有的人类生成文本来学习执行任务。美国的软件公司OpenAI于去年11月发布了该工具，并供用户免费使用。
自发布以来，研究人员一直在努力解决相关伦理道德问题，因为它大部分输出可能很难与人类撰写的文本区分开来。近日美国西北大学的一个研究小组使用ChatGPT生成人工研究论文摘要，以测试科学家是否可辨别它们。
研究人员要求机器人基于发表在《美国医学会杂志》《新英格兰医学杂志》《英国医学杂志》《柳叶刀》和《自然·医学》上的50篇研究编写摘要。然后，他们通过抄袭检测器和AI输出检测器将这些摘要与原始摘要进行比较，并要求一组医学研究人员找出编造的摘要。
结果，ChatGPT生成的摘要通过了抄袭检查器，原创性得分中位数为100%，表明没有检测到抄袭。人工智能输出检测器发现了66%的生成摘要，但人工审稿人只正确识别了68%的生成摘要和86%的真实摘要，他们错误地将生成摘要中的32%识别为真实，将14%的真实摘要识别为编造。
研究人员称，ChatGPT写出了能骗过人类的科学摘要，如果科学家无法确定研究是否属实，或会产生“可怕的后果”。
研究人员表示，在虚假信息会危及人们生命安全的医学等领域，期刊需要采取更严格的方法来验证信息的准确性。而这些问题的解决方案，不应集中在机器人本身，“而是导致这种行为的不正当激励措施，例如通过论文数量进行招聘和晋升审查，而不考虑其质量或影响”。（记者张梦然）
【总编辑圈点】
大火的ChatGPT，不止是聊天工具,它在教育领域的渗透已经引起了广泛关注和讨论，当然，随之而来的还有忧虑。如果你使用过ChatGPT，也会惊讶于它撰写报告的能力。给它一个主题，它就能在几秒内生成大纲，也能在几秒内进行细化，而且看起来非常是那么回事。这次，科研人员发现它撰写的论文甚至能骗过审稿人。这又是一个人如何使用新技术的经典伦理问题。工具本身无罪，但应用边界应该清晰，使用者也要对自己的行为负起责任。
(责编：赵竹青、陈键)
本站新闻转载自人民网，文字、图片及视频版权归原作者所有。来源：科技日报
手机扫码阅读
更多资讯
[Technology] ChatGPT为何引教育界“封杀”？ 2023-02-13
[Technology] ChatGPT全球爆火 谈“颠覆”或许还早了点 2023-02-13
[Technology] 新闻分析：ChatGPT，变革与风险 2023-02-13
[Technology] ChatGPT爆火，国内研发进展如何？ 2023-02-10
[Technology] ChatGPT引全球关注 学者谈“新AI”深层思考 2023-02-10
[Trademark] 生成内容属于谁？会侵权泄密吗？ChatGPT法律风险详解 2023-02-10
[Design] 数智技术融媒手段 让珍贵古籍触手可及 2023-02-10
[Development] 微软推出内置ChatGPT搜索引擎 2023-02-09
[Development] “啥都懂”“啥都会”的ChatGPT会是现实世界的MOSS吗 2023-02-08
[Technology] ChatGPT爆红 AI大规模商用离我们还有多远？ 2023-02-08
[Cloud] 看似无所不能，ChatGPT会不会成为行业“终结者” 2023-02-07
[Development] 心芯相连半导体先进铜互连设备研发项目临港研发制造中心顺利开工 2023-02-07
[Development] 日本研发出促进脑损伤修复的生物材料 2023-02-06
[EBusiness] 墨西哥电商市场发展迅速 2023-02-06
[Technology] “小纳米”蕴含“大市场” 重庆纳米金属研究院科研攻关取得重大突破 2023-02-06
[Development] 机器人应用领域加速拓宽 优必选科技拟赴港IPO 2023-02-02
[Technology] 一种治疗脑部疾病的神经芯片出炉 2023-02-01
联系我们
-
山东省,威海市,环翠区
青岛中路87-1,阿里巴巴四十大道A1512 -
service@briline.net
-
0631 3655286
13385420936 -
Office hours:
设计、开发、客服 09:00 - 17:00 (周一-周六)数据维护 7 × 24 H商标业务 09:00 - 20:00 (周一-周五)