GPT-4进军内容审核行业，一天顶人类几个月

学校的图书治理员，已经最先用ChatGPT来筛选带色情内容的书籍了。

凭证一项新划定，美国爱荷华州的学校需要下架图书馆中包罗性行为形貌的书籍，但“阅读每本书并按新要求筛选基本不能行”。

在ChatGPT的辅助下，一个学区终于赶在开学前筛选出19本相符条件的书籍。

隔天，OpenAI也正式宣布将GPT-4引入内容审核系统。

在OpenAI看来，GPT-4这项审查功效可将审查更新周期从数月缩短至数个小时，且具有更强的天真性。

高效自动化内容审核

这项新的功效不仅在于提高效率和减轻人类事情量，还解决了人工审核中尺度纷歧致问题。

最主要的是，它能够制止有害内容对审核职员造成的身心酸害。

一家科技媒体的编辑Reed Albergotti做出了这样的示意：

使用大型语言模子来举行内容审查是向前迈出的一步。

这并不是由于它有多*，而是由于它的尺度会加倍一致，而且不易受到人类情绪和文化差异的影响。

事情流程上，重点的环节是用户政策的设计，这部门是由人工主导的。

之后GPT-4会使用一些示例举行准确性磨练和优化。

凭证GPT-4的展望微调出小型筛选器，就可以对内容举行批量审查了。

OpenAI谈话人也透露，已经有客户在用GPT-4举行内容审查，但并未给出详细名单。

此外，OpenAI正在研究将这项功效从文本审核扩展到图像、视频的判别 。

那么，这个功效事实好欠好用呢？

「县城MUJI」成了多少女生的快乐老家？

「县城MUJI」成了多少女生的快乐老家？,如今尘封在记忆里的小店再次回归视线，摇身一变，成了人见人爱的“国产老字号快时尚”。

OpenAI：有信心做得很好

OpenAI总裁兼团结首创人Greg Brockman示意，这项功效「异常可靠」。

同时，Brockman还展示出了测试效果作为依据。

在色情、暴力等多个类型的有害内容判别上，GPT-4的显示跨越了经少量训练的人类。

不外和履历厚实的审核职员相比，简直尚有一些差距。

但OpenAI平安和信托部门原主管Dave Willner对著名科技媒体人Casey Newton示意，「这种情形不会延续太久」。

也有负面看法以为，总会有人想方想法钻AI规则的破绽。

究竟，大模子越狱事宜泛起了已经不只是一次两次了。

美联社的Frank Bajak更是示意，ChatGPT这样的大型语言模子「异常难以控制」。

对此，Weng也坦言，简直没设施做到100%没有破绽，但有信心会很好。

我们无法从一最先就构建一个100%「防弹」的系统。

人们正在帮我们揪出模子中的错误，但我异常有信心它能做得很好。

One More Thing

GPT-4内容审核功效的适用性暂且按下不表，OpenAI的平安事情自己也存在许多争议。

据Time杂志新闻，OpenAI此前在肯尼亚约请数据标注职员标注有害内容的历程中，有介入者示意其中的暴力、酷刑等有害内容给他们造成了心理阴影。

新方式出台后，人类仍需要介入到内容审查事情当中，但这样的情形可能会大大削减。

参考链接：[1]https://openai.com/blog/using-gpt-4-for-content-moderation[2]https://www.popsci.com/technology/iowa-chatgpt-book-ban/[3]https://www.semafor.com/article/08/15/2023/can-chatgpt-become-a-content-moderator[4]https://twitter.com/gdb/status/1691500101187805185[5]https://twitter.com/caseynewton/status/1691602324366786575

【本文由投资界相助同伴微信民众号：量子位授权公布，本平台仅提供信息存储服务。】若有任何疑问，请联系（editor@zero2ipo.com.cn）投资界处置。