OpenAI推出官方工具用于识别AI生成的文本

自从ChatGPT及其竞争对手推出以来，人们对AI聊天机器人的看法一直存在分歧。虽然有些人认为这既重要又省时，但其他一些人担心人们使用人工智能传播错误信息和抄袭作品。OpenAI是病毒式AI机器人ChatGPT和文本到图像生成器DALL-E背后的公司，它发布了一种新的AI分类器工具来识别AI编写的文本。在官方新闻稿中，OpenAI详细介绍了分类器的训练方式，其局限性和其他指标。查看以下所有详细信息。

OpenAI 的分类器将 AI 文本与人类书写区分开来

在最近的一份新闻稿中，该公司详细介绍了这种新的AI分类器工具如何帮助人们识别AI文本。该工具通过接收来自用户的输入，然后通过其训练的数据运行它以将其分类为 AI 或人工生成的内容来做到这一点。

AI 分类器是一种语言模型，已在数据集上进行训练，该数据集包含同一主题的人类和 AI 编写的文本对。OpenAI指出，人类数据是从他们认为由人类编写的各种来源收集的。此文本已分为提示和响应，根据这些提示和响应生成 AI 文本以收集完整的数据集。

虽然新工具旨在简化我们的生活(尤其是教师和教授)，但该公司明确表示，人工智能分类器并不完全可靠，容易出错。在公司的内部评估中，分类员正确地将26%的AI编写的文本识别为“可能是AI编写的”。

它进一步错误地将9%的人类文本识别为AI编写的。虽然误差幅度相当低，但很明显分类器并非万无一失。此外，OpenAI提到它在1个字符以下的短文本上是不可靠的。

“我们的分类器有许多重要的局限性。它不应用作主要的决策工具，而应用作确定一段文本来源的其他方法的补充。开放人工智能

该工具还有其他一些限制，包括仅支持英语输入、难以预测文本以及在其训练数据之外校准不佳。出于所有这些原因以及更多原因，这个新的AI分类器目前还不应该被用作主要的决策工具。但是，随着时间的流逝，随着更多数据被馈送到它，我们可以期待改进。

OpenAI 分类器在我们的测试中表现如何

OpenAI的AI文本分类器(网站链接)是一个免费使用的在线工具。因此，我们决定对其进行短暂的旋转，它的表现与您在此阶段所期望的一样好。我从我们的网站上测试了各种中等长度的文章。其中包括新闻报道和专题文章。粘贴文本并运行该工具后，我们得到的响应是“分类器认为文本不太可能是 AI 生成的。

为了测试它的效果，我让 ChatGPT 写了一个短篇故事，并使用分类器看看它是否可以识别这个故事是由它自己的 AI 兄弟姐妹写的。值得庆幸的是，它给出了文本“可能是人工智能生成的”的回应。我尝试了其他一些文本，如莎士比亚的《威尼斯商人》，人工智能检测到不太可能的人工智能参与。

如上所述，OpenAI 分类器应该随着数据集的增加而变得更好。但是，即使在发生这种情况之前，您也可以自由使用该工具并享受它的乐趣。

标签：

免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！