2023-2-1 08:46

ChatGPT 所有者 OpenAI 推出工具来检测人工智能生成的文本

人工智能研究初创公司 OpenAI 周二推出了一个工具,旨在弄清文本是人类还是计算机写的。

OpenAI 是 ChatGPT 背后的公司,ChatGPT 是一个聊天机器人,可以根据提示生成像是人类写的文字,在两个月前发布后迅速走红。上周微软宣布对 OpenAI 进行数十亿美元的投资,并表示将把这家初创公司的人工智能模型纳入其面向消费者和企业的产品。

自从 ChatGPT 在 11 月首次亮相以来,包括纽约市在内的一些美国最大的学区已经禁止了这种人工智能聊天机器人,因为它们担心学生会利用文本生成器作弊或剽窃。

OpenAI 的首席执行官 Sam Altman 说,过去在计算器等技术出现后,教育已经发生了变化,但他也表示,该公司可能有办法帮助教师发现人工智能编写的文本。

OpenAI 的这个新工具并不完美,该公司称其仍然在研发优化中,使用过程中可能会出错。“在我们对英语文本的‘挑战集’的评估中,我们的分类器正确地将 26% 的人工智能写的文本(真阳性)识别为‘可能是人工智能写的’,而将人类写的文本错误地标记为人工智能写的占 9%(假阳性),”OpenAI 员工写道。

新工具在分析包含少于 1000 个字符的文章方面并不可靠,而且 OpenAI 不建议将其用于英语以外的语言。此外,来自人工智能的文本可以稍作更新,就会使分类器不能正确判断它不是人类的作品。

OpenAI 表示,它正在与教育工作者接触,讨论 ChatGPT 的能力和局限性,并将继续致力于检测 AI 生成的文本。

早在 2019 年,OpenAI 就明确表示,识别人工智能合成的文本不是一件容易的事。OpenAI 员工称:“我们在检测人工智能生成的文本方面的工作将继续进行,我们希望在未来分享改进的方法。”

作者:远洋   来源:IT之家

相关

计算机微软
本评论 更新于:2023-3-29 4:52:44
在C114 APP中与业内人士畅聊通信行业热点话题!