学术诚信在ChatGPT面前岌岌可危?高校与出版商出台应对措施|查尔斯沃思学术服务

学术诚信在ChatGPT面前岌岌可危?高校与出版商出台应对措施

ChatGPT采用交互式对话界面,根据用户输入的指令以近似人类交流的方式作出回应,自问世以来一直令世人为之惊叹。目前,ChatGPT已成为有史以来用户增长速度最快的应用程序。

 

 

与此同时, 研究人员对学术写作的关注程度与日俱增 。人工智能技术的热潮带动了一系列学术写作工具的开发,例如运用大型语言模型(LLM)实现 引文检索和格式调整、文档排版和文献总结 。类似ChatGPT的智能工具有助于作者快速生成条理清晰、语法正确和结构合理的文本。此外,研究人员可以运用这些工具质疑某个论点,编写代码,创建推特推文串(Twitter threads),完善句子,思考文章标题,甚至编辑和校对论文。

 

然而,由于ChatGPT等生成式人工智能(generative AI)的功能日益强大,相关技术在 学术写作领域的应用 备受质疑。随着科技日新月异,生成式人工智能领域也在突飞猛进,目前业界正在讨论应该如何将有关技术应用于学术研究。以下是过去数月的行业重大动向。

 

 

微软发布基于ChatGPT技术的新版

必应(Bing)搜索引擎

 

微软于2023年2月发布了新版搜索引擎必应(Bing),采用了与ChatGPT同源的升级版人工智能技术。新版必应(new Bing)搜索引擎基于GPT-4,可检索 近期热点新闻 ,引用近一小时内发表的新闻报道,其优势在于能够 针对用户的搜索查询提供最新资讯及带有注释的搜索结果

 

 

OpenAI发布ChatGPT4

 

2023年3月14日,OpenAI正式发布其大型语言模型的最新版本 GPT-4 ,有望在多方面超越GPT-3。GPT-4的改进之处包括以下几点:增强了针对用户问题 生成创造性答案 的能力;采用多模态模型(支持文本和图像输入并作出回应); 提高正确回应的可能性 (减少人工智能“幻觉”),以及更大的上下文窗口(有助于更好地“记忆”之前的聊天记录)。GPT-4还支持多种语言。用户可通过订阅 ChatGPT Plus获得对GPT-4的有限访问权限。

 

 

谷歌发布基于生成式人工智能的聊天机器人 Bard

 

谷歌于2023年3月发布了一款由大型语言模型LaMDA驱动的聊天机器人Bard。与其他生成式人工智能类似,Bard根据用户输入的指令执行基于文本的任务,如提供答案和摘要,以及生成各种形式的内容。有别于谷歌最擅长的“搜索”功能,Bard的特别之处在于“ 通过交互式聊天为用户提供与对话主题相关的知识 ”。其目标在于将世界上广泛的知识与大型语言模型的强大功能相结合,为用户提供高质量的回应。

 

5月11日,谷歌I/O开发者大会上,作为本次大会的重头戏,谷歌公布了最新的大语言模型PaLM 2,并希望借此“逆袭”,在理解、生成和翻译文本方面有了很大提升和改进。在推理方面,PaLM 2的数据集包括科学论文和带有数学表达式的网页,拥有超强的逻辑、常识推理和数学能力。跟ChatGPT类似,Bard现在也可以跟其他外部工具进行集成使用,例如Adobe Firefly合作生成图片。此外,谷歌此次取消了等候队列,Bard将面向180多个国家和地区的用户全面开放。除了Bard,另一个重头落地场景是谷歌的全线办公套件Duet AI。该部分功能还没有对公众进行开放。

 

 

ChatGPT、Bing和Bard三者比较

 

三者之中 ,ChatGPT的人性化程度最高,在交互式对话方面表现出色,给出的答案也最完整准确。Bing从互联网获取信息的能力最强,但其对自然语言的理解和运用能力不及ChatGPT,它的优势在于搜集和整理信息。而Bard尽管在功能上有了诸多提升,但是回答问题时提供的信息存在一些数据错误、来源待考证等隐患,使用时需谨慎。

 

 

业界呼吁负责任地使用人工智能

 

用于检测人工智能生成文本的工具

 

为避免论文作者由于贪图方便而不当使用类似ChatGPT的工具撰写论文 ,用于识别相关行为的工具应运而生。 其中 包括 GPTZero AI文本分类器(AI text classifier) ,类似的检测工具将会不断改进,以应对生成式人工智能技术的迅速发展。

 

 

公开信

 

在OpenAI公司于今年3月份正式发布ChatGPT-4后不久,科技界人士和行业专家在一封联名 公开信 中呼吁业界在至少6个月内暂停开发比GPT-4更强大的人工智能系统。

 

联合国教科文组织(UNESCO) 对此作出 回应 ,要求各国立即执行其制定的《人工智能伦理问题建议书》(Recommendation on the Ethics of Artificial Intelligence immediately)。这一框架旨在 指导各国最大限度发挥人工智能的优势,同时降低相关风险 ,获得所有成员国的一致通过。该建议书不仅包含相关原则和价值观,还针对所有相关领域提出详细的政策建议。

 

 

各国政府的应对措施

 

世界各国都在密切关注生成式人工智能的迅猛发展,并正在 探索 如何监管有关技术。例如:

 

意大利政府 近日以涉嫌违反隐私保护条例为由,宣布暂时禁用ChatGPT,成为首个封禁该款人工智能聊天工具的西方国家。

 

英国政府 最近呼吁各行业的监管机构利用现有法规对人工智能实施监管,并明确了企业在产品中使用人工智能时应遵循的基本原则,例如问责制、透明度、公平性、安全性和可竞争性等。英国政府目前并未对ChatGPT或任何其他人工智能技术加以限制,旨在确保企业负责任地开发和使用人工智能,并向用户提供具体决策背后的详细理据。

 

ChatGPT目前并未向中国用户开放访问权限 。本月初,中国国家互联网信息办公室(网信办)发布了《生成式人工智能服务管理办法(征求意见稿)》,对国内企业开发生成式人工智能产品实施监管。这也是国内首个旨在规范人工智能领域的监管指引,而中国的科技公司目前已推出类似ChatGPT的产品,例如 阿里巴巴的通义千问和百度的文心一言

 

 

各大高校的应对措施

 

学术机构普遍认为过度依赖生成式人工智能工具可能不利于学生培养原创性思维和提高写作技能。另一方面,全面禁止使用该类工具并非明智之举。 一些权威学术出版商允许论文作者使用ChatGPT及类似工具进行学术写作,但强调需要提供书面声明和免责声明( 参见往期文章 。各大高校也在加紧监督和规范学生和研究人员使用人工智能生成文本的行为,以维护学术诚信。例如:

 

英国的巴斯大学(University of Bath)近期对本校的 学术诚信行为准则指引 (Code of Practice on Academic Integrity)进行审查, 以确保将生成式人工智能工具的使用纳入监管范围 。其中还明确界定在使用类似ChatGPT的工具时可能出现的潜在违规行为,如机器改写论文及通过人工智能获取答案或信息。该指引还提供一段探索如何使用人工智能工具的短视频供学生参考。

 

美国的南加州大学(University of Southern California)近期更新的 学术指引 建议教授们要么接受该软件并以此改进他们的课程,要么在要求学生提交原创性内容时对学生使用该软件的行为及时发现并加以劝阻 。该指引还建议遵循核心学术期刊的投稿指引(例如对使用人工智能语言模型来创建内容或协助论文写作的行为作出声明)。

 

 

总结

 

基于人工智能语言模型的新款应用不断涌现,有助于研究人员扩大学术产出。然而,相关应用在许多方面仍有待仔细权衡和检验。人工智能的发展如此迅猛,我们无法准确预测它在未来会产生什么后果。研究人员、学生、学术出版商和高校管理人员应该与时俱进,做好准备,处理好相关行为准则。尽管支持和反对的声音此起彼伏,人工智能应用的热潮仍将持续。明智的做法应该是考虑如何合理运用这些工具以及学术界应该如何应对这些工具。各国政府、学术出版商及各大高校必须发挥“领头羊”的作用,及时更新关于在学术写作中遵守学术道德并负责任地使用ChatGPT等工具的政策。