
防用AI做作业 史丹福网络高中学生研发ChatGPT侦测器 世界新闻网 02/15/2023 对担心学生可能使用ChatGPT等人工智能工具做作业的教授,一名史丹福网络高中(Stanford Online High School)学生有了解决办法。 史丹福网络高中11年级学生克里格(Benjamin Klieger)在寒假期间推出CheckforAi,这是一个使用机器学习(machine learning)来侦测各种文档是否以人工智能工具生成的平台。 克里格说:「我认为侦测人工智能内容是一件很重要的事,因为现在完全无法得知一份内容究竟是人类撰写的,还是人工智能生成的。合成式人工智能(Generative AI)对各行各业和诚信问题来说,都是一种实际的威胁。」 ChatGPT目前每天有超过1300万人使用,被誉为一种革命性工具,足以威胁到Google的搜索引擎。根据史丹福校园报在匿名社群媒体Fizz上所做的一项非正式民调,发现可能有许多史丹福大学学生在期末考时使用过ChatGPT。 史丹福大学计算机科学博士生米契(Eric Mitchell)说:「我认为这在某种程度上可以改变教育领域的游戏规则。」米契是另一个人工智能侦测器DetectGPT的研发者。 米契说:「我担心作弊的问题,但学生的作业也不能不被批阅。我认为,一定有不适合人工智能使用的地方,或许侦测工具是解决办法之一。」 CheckforAi是以OpenAI现有的Roberta模型为基础,再加上克里格组建的模型进行GPT侦测。克里格认为,他的侦测平台比OpenAI的GPT侦测器更有效。 克里格说:「如果文本只有微小的变化,原始模型就能侦测出它来自ChatGPT。但是,如果将文本做一些混合,原始模型就会认为这些文本并不完全来自ChatGPT。那些最初由人工智能生成、但经过人类编辑的文本,正是附加的侦测模型能够识别的地方。」 不过,米契表示,由于人工智能侦测器是最近才研发出来的,对这些侦测器给予如此高的信任,人们有很多顾虑。 米契说:「侦测器需要具备多高的性能才能让它们真的有用、利大于弊?如果侦测模型有误报率,学生就会无辜被指责抄袭,这将对学生造成非常严重的影响。」 CheckforAi并不是自ChatGPT出现以来第一个推出的人工智能侦测器,包括米契在内的史丹福大学研究人员2月研发出DetectGPT,普林斯顿大学一名学生1月时也推出另一个侦测器GPTZero。 Source ChatGPT证明美国AI强大 中科技龙头纷抢搭顺风车 …