OpenAI正在试图让先进的人工智能（AI）工具帮忙做内容审核。评论称，它可能帮助企业提高效率，让至今尚未给众多企业创造大量收入的AI工具增添一个有用的功能。

OpenAI称，一直在基于其最新AI模型GPT-4开发自己的内容审核系统。GPT-4能协助企业进行内容审核，可以用于制定有关何种内容适合的政策，也可以执行相关政策，为帖子添加标签、或者做出评判。

OpenAI之前就在测试这种技术，也已邀请一些客户做这种技术的试验。OpenAI发现，其自有内容审核系统比经过适度培训的人类审核员表现得更好，但效率没有最熟练的审核员高。

OpenAI称，其工具有望帮助企业，在一天左右就完成原本需要六个月才能做完的工作。

OpenAI的安全系统负责人Lilian Weng称，不需要雇用几万名审核员，人类可以充当顾问，确保AI系统正常运行，并且对不能清晰界定的案例做出判断。

OpenAI的产品政策经理Andrea Vallone称，OpenAI发现，GPT-4能高效地做审核内容的工作。起草内容审核政策和标记内容通常耗时很久，而OpenAI的工具将帮助缩小需求和解决方案之间的差距。

目前Meta等大公司已经在用AI帮助员工做审核。但OpenAI同时强调，审核的过程不应该完全自动化。

Vallone表示，理想的情况下，员工可以运用AI将他们解放出来，更侧重在对可能有内容违规的极端案例如何做评判，以及怎样完善内容的政策。OpenAI将继续进行人工审核，验证一些AI模型的判断。Vallone 说：“我认为，人类始终参与其中是很重要的。”

有评论认为，在生成式AI问世以前，内容审核就已经是一大挑战。这种新技术的面世又带来了虚假信息等问题内容更容易出现的威胁，加剧了内容审核面临的挑战。然而，由于AI的扩展能力，一些技术专家认为，AI是唯一可能解决虚假信息料将增多的手段。

本文来自华尔街见闻，欢迎下载APP查看更多