ChatGPT下架官方检测工具,AI文字辨识能力引发思考

AI资讯 10个月前 admin
114 0

近日,OpenAI意外关闭了其官方AI文本检测工具,导致用户在访问时遇到404错误页面。官方并未公开回应这一举措,直到几天后,有人在半年前工具发布的博客页面中找到了一则简短的解释。
此举引发了许多网友的不满,对于没有公告就终止产品的做法表示不满。然而,关闭AI检测器本身却得到了许多学生的赞同。许多教师过度依赖该工具,导致大量学生被错误地指控为使用AI作弊,使得这一情况演变成了一场猎巫运动。
据OpenAI自己提供的数据显示,官方检测工具的准确率相当低,仅能正确识别26%的AI生成文本,同时误判了9%的人类编写文本。早在工具1月发布时,就有网友总结其效果为“和瞎猜差不多”。
有实验表明,市面上各种检测工具甚至会将圣经、美国宪法等历史文本误判为AI编写,这引发了对工具准确性的质疑。然而,仍有许多教师试图使用各种检测方法来审查学生作业。
最近,一位教授在得克萨斯农工大学几乎因为工具的误判而判定半个班的学生延毕。对此,有人认为在教育领域,大作业和课程论文可能会成为历史,而闭卷考试或口语考试将成为主流。
网友指出,OpenAI同时开发生成和检测工具本身存在矛盾。一方面,如果生成工具做得好,检测工具可能会做得差;另一方面,两者之间可能存在利益冲突。虽然第三方开发的检测方法也存在,但它们的可靠性也受到质疑。
一度被称为“ChatGPT克星”的GPTZero是由普林斯顿本科生Edward Tian开发的,使用复杂性和长短句的变化来判断文章是否由AI生成。然而,GPTZero在7月份放弃了检测学生作弊的方向,计划下个版本突出最像人类写作的部分。
另一种备受关注的检测方法是马里兰大学开发的水印法,要求大模型在生成文本时隐藏标记,并使用统计方法进行识别。然而,规避这种方法也相对简单,例如简单的同义词替换工具就能破坏其统计特征。
有人开始质疑人们区分AI生成和人类生成文本的必要性。就像数字的计算,早已不关注是人还是计算机完成的。一些心理实验已经开始使用AI作为被试,加速研究进程。据指出,在特定实验条件下,ChatGPT的反应与大约95%的人类参与者的反应呈相关性,且机器被试不会疲倦,使得科学家能够更快地收集数据并测试有关人类行为的理论。然而,在利用AI进行社会科学研究时,需谨慎处理偏见管理和数据保真度。

版权声明:admin 发表于 2023-07-27 14:52:14。
转载请注明:ChatGPT下架官方检测工具,AI文字辨识能力引发思考 | AI工具大全网址导航

暂无评论

暂无评论...