- 1NLP全路径学习推荐
- 2学习鸿蒙基础（11）
- 3LangChain 基于 ChatGPT 整合 Google 搜索 强化问答应用_chatgpt +google检索
- 4如何解决苹果应用商城审核拒绝的Guideline 2.3.1 - Performance问题_苹果审核2.3.1
- 5医学生答案怎么查找？ #职场发展#笔记#学习方法
- 6Axure组件库免费下载，国内外资源都在这儿！
- 7关于一个微信公众号：原子与分子模拟_热力学模拟,分子动力学模拟,第一性原理
- 8程序员的正能量：干IT的六大好处
- 9HMM——维特比算法(Viterbi algorithm)
- 10这么方便吗？用ChatGPT生成Excel（详解步骤）_chatgpt excel
OpenAI 发布免费网络工具 AI Text Classifier
赞
踩
| 前两天，我们刚报道了斯坦福大学研究出了一个名为 DetectGPT 模型，该模型可以检测出文本段落是否是由一个给定的大型语言模型（LLM）生成的，斯坦福大学将使用 DetectGPT 来应对学生使用 ChatGPT 等 AI 工具作弊和生成论文的现象。 |
这才没过几天，ChatGPT 的开发商 OpenAI 就决定亲自上阵发布了一个免费的网络工具 AI Text Classifier（需登录 OpenAI 账号使用），这个工具的目的跟 DetectGPT 一样，也是帮助用户识别某一段文本是由人类还是机器写的。
这个工具的使用方式也很简单，用户只需要将一段文字复制到文本框中，系统会对该文本是由 AI 系统生成的可能性进行判断，判断结果从「非常不可能 —— 很有可能」共分成了 5 个等级。
AI Text Classifier 不仅可以检测 ChatGPT 生成的文本，还可以检测其他同类 AI 工具生成的文本。只不过根据 OpenAI 的说法，该工具的准确性目前似乎不是很高。
AI Text Classifier 可以正确地将 26% 的 AI 生成文本识别为「可能是 AI 写的」，而将人类写的文本错误地标记为是由 AI 写的的情况有 9%。
因此，OpenAI 的负责人 Jan Leike 也强调到，这个工具并不完美，既会产生误报也会产生漏报，用户不应该仅仅依靠这一个工具来确定文本的作者。
除了判断结果不够精确以外，OpenAI 还表示该工具更擅长分析由 1000 个以上字符组成的英语文本。AI Text Classifier 不能可靠地评估更短的或用其他语言写的文本片段。此外，该工具也不能准确检测 AI 生成的计算机代码。
从上面的结果来看，为了避免 “冤案错案”，AI Text Classifier 暂时还不适合老师使用。当然，OpenAI 已经了解到教育和其他领域对 AI 生成文本的担忧，他们正在研究其他方法，以帮助人们区分 AI 生成的文本和人类创作的文本。
原文来自：OpenAI 亲自上阵，推出 AI 文本检测工具 - OSCHINA - 中文开源技术交流社区
