普林斯顿大学大四学生发布了一款应用程序，可以判断文本是否由人工智能ChatGPT编写

　　由于担心如ChatGPT之类的人工智能工具对学生在日常学习和研究中的负面作用，一些海外学校已经开始着手在校园内禁止访问ChatGPT功能。学校方担心的理由包括使用ChatGPT不能培养学生的批判性思维和解决问题的技能、会出现引用不当的错误甚至有时是带有歧视性的内容等。

　　Edward Tian是一位来自美国普林斯顿大学的大四学生，他最近发布了一款应用程序，这款程序可以检测文本内容是否是由ChatGPT写的。这或许能够在一定程度上解决老师的一个担忧，即老师担心学生利用ChatGPT的能力帮助他们撰写学术性论文。

　　Edward Tian是普林斯顿大学计算机科学专业的学生，同时辅修新闻学。他利用寒假的一部分时间创建了GPTZero应用程序，他说这款程序可以“快速且有效地”破译一篇文章的作者是人类还是ChatGPT。

　　在1月初发布了GPTZero之后，许多老师联系了他，告诉Edward Tian他们测试GPTZero的积极结果。据说在GPTZero发布一周内就有超过3万人试用，以至于一度出现了崩溃。

GPTZero是如何工作的

　　为了确定一段文本是否由ChatGPT写的，GPTZero使用了两个指标：“困惑度”（perplexity）和“突发度”（burstiness）。“困惑度”用来衡量文本的复杂性，如果GPTZero对文本感到困惑，那么这个文本则具有很高的复杂性，更有可能是人类编写的。如果文本对ChatGPT更熟悉，因为它已经接受过此类数据的训练，那么文本的复杂性就会较低，因此更有可能是人工智能生成的。

　　“突发度”则用来对比句子的变化。人类倾向于用更具“突发度”的方式进行编写，例如会编写更长的或复杂的句子的同时也带有较短的句子。而由人工智能编写的文本的句式往往更加统一。

　　在一段演示视频中，Edward Tian比较了《纽约客》一篇文章和由ChatGPT在领英（LinkedIn）上发表的一篇文章。GPTZero成功地区分了人类和人工智能的写作。不过他也承认，正如一些用户在测试时反映的那样，GPTZero并非万无一失，他仍在努力提高模型的准确性。

　　但通过设计一款能够揭示人类与人工智能区别的应用程序，这款工具有助于Edward Tian实现一项核心使命：为人工智能带来透明度。“长期以来，人工智能一直是一个黑盒子，我们真的不知道里面发生了什么，”他提到。“有了GPTZero，我想开始解决这种情况了。”

　　ChatGPT的开发商OpenAI公司最近表示，将致力于防止人工智能抄袭和其他不法应用。上个月，OpenAI的人工智能安全研究人员Scott Aaronson透露，公司一直在研究一种方法，用“不明显的隐秘信号”为由ChatGPT生成的文本添加“水印”。

　　人工智能开源社区Hugging Face也推出了一个工具，可以检测文本是否由GPT-2创建（GPT-2是用于制作ChatGPT的人工智能模型的早期版本）。

　　就在前段时间，我们也曾报道，学术抄袭检测工具TurnItIn公司表示，对由ChatGPT等AI工具创作的学术内容是可以做出判断的。

　　但是Edward Tian并不反对使用ChatGPT等人工智能工具。他表示，GPTZero“不是为了成为阻止这些技术被使用的工具”。“但对于任何新技术，我们都需要能够负责任地使用它们，我们需要有保障措施。”

Powered by Froala Editor