中部财经网金融 > 正文

当前关注：ChatGPT创造者OpenAI推出新工具可检测文本是否由AI生成

2023-02-01 07:21:23| 来源: 亚汇网|

【资料图】

亚汇网获悉，周二，人工智能研究初创公司OpenAI推出了一款工具，可以弄清文本是由人类撰写的还是由计算机生成的。

两个月前，OpenAI推出的聊天机器人ChatGPT吸引了公众的注意，ChatGPT可以根据人的提示生成看起来似乎是由人撰写的文本。在引发了一波关注之后，微软(MSFT.US)上周宣布，对OpenAI进行数十亿美元的投资，并表示将把这家初创公司的人工智能模型整合到其面向消费者和企业的产品中。

学校很快就限制使用ChatGPT，担心这一软件会影响学生学习。OpenAI的CEO Sam Altman表示，过去，在计算器等技术出现后，教育也发生了变化，但他也表示，公司可能有办法帮助教师识别人工智能撰写的文本。

该公司员工Jan Hendrik Kirchner、Lama Ahmad、Scott Aaronson和Jan Leike在一篇博文中写道，“OpenAI的新工具可能会出错，这是一项正在进行中的工作，公司希望家长和老师对分类器提出反馈”。

这些OpenAI员工写道，“在我们对英语文本的‘挑战集’评估中，我们的分类器正确地将26%的人工智能撰写的文本(真阳性)识别为‘可能是人工智能撰写的’，而将人类撰写的文本错误地标记为人工智能撰写的文本的比例为9%(假阳性)”。

这并非是人们首次尝试确定文本是否是由机器生成的。本月早些时候，普林斯顿大学学生Edward Tian发布了一个名为GPTZero的工具，并在发布工具的网站上指出，这是为教育工作者而制作的。OpenAI自己也在2019年发布过一个检测器，但它没有ChatGPT的核心内容那么复杂。员工们写道，新版本更适合处理来自最新人工智能系统生成的文本。

新工具不擅长分析少于1000个字符的文本，而且OpenAI不建议将其用于英语以外的其他语言。另外，员工们写道，可以对人工智能生成的文本稍作更新，使分类器无法正确判断它是否主要是由人类撰写的。

即使早在2019年，OpenAI就明确表示，识别合成文本并非易事。公司打算继续克服这方面的挑战。员工们写道，“我们将继续进行检测人工智能生成的文本方面的工作，我们希望在未来分享改进的方法”。

标签：人工智能初创公司可能会出错

收藏邀请

上一篇：每日热文：美股异动 | 亿邦国际(EBON.US)涨超8% 年初至今累涨超171%