多年来，内容审核员一直在呼吁更好的待遇——他们承受着观看暴力、仇恨和非法内容的心理创伤，却常常被大型科技公司视为可替换的劳动力。现在，Meta给出了一个出人意料的回应：AI将取代他们。

AI审核员上线

Meta本周宣布在Facebook和Instagram上全面推出AI支持助手，并表示将”减少对第三方供应商”雇佣人工审核员的依赖。Meta发言人解释：”虽然我们仍然会有人工审核内容，但这些系统将能够承担更适合技术的工作，比如对暴力内容的重复审核，或者对抗不断改变策略的恶意行为者的领域，如非法毒品销售或诈骗。”

这不是Meta第一次使用AI进行内容审核。该公司多年来一直在开发机器学习系统来识别有害内容。但这次的声明标志着从”AI辅助人工”到”AI为主、人工为辅”的战略转变。

审核员的困境

内容审核工作被认为是科技行业最艰难的工作之一。审核员每天要观看数小时的视频和图片，内容包括暴力、虐待、仇恨言论和儿童性虐待材料。研究表明，这种工作可能导致类似PTSD的心理创伤。

近年来，审核员开始组织起来争取更好的待遇。2020年，Facebook内容审核员因PTSD获得5200万美元和解。2023年，Meta、TikTok和谷歌的内容审核员组成了联盟，要求更好的心理健康支持和工作条件。

AI能做得更好吗？

Meta声称AI审核系统在某些方面比人工更有效。AI可以24/7工作，不需要休息，不会因为观看太多暴力内容而产生心理创伤。它还可以更快地适应新的违规模式——当恶意行为者改变策略时，机器学习模型可以快速更新。

但AI审核也有明显的局限性。机器学习模型可能产生偏见，可能误解上下文，可能将合法言论错误标记为违规内容。人工审核员在理解微妙语境、识别讽刺和区分文化差异方面仍然更有优势。

对审核员意味着什么？

Meta没有提供具体的时间表或数字，但”在未来几年减少对第三方供应商的依赖”意味着大量审核员可能失业。这些工人大多通过外包公司雇佣，缺乏正式员工福利和保障。

这个声明引发了关于AI取代人工工作的最新一轮辩论。与自动化工厂或自动驾驶不同，内容审核是一个许多人不愿意从事的工作。用AI取代它，是出于效率考虑还是道德必要性？还是两者都有？

行业趋势

Meta不是唯一走这条路的公司。YouTube、TikTok和Twitter都在增加AI审核的比例。AI内容审核工具也在成为热门创业领域，多家公司专门提供这类服务。

但AI审核的法律责任问题仍在辩论中。欧盟的数字服务法案要求平台对内容审核决策提供透明度。如果AI错误删除了合法内容，用户有追索权吗？AI的决策能被解释吗？这些问题还没有明确答案。

下一步

Meta表示AI审核系统已经在美国推出，将在未来几个月扩展到更多地区。该公司还在开发工具让用户了解内容为什么被标记或删除。

对于内容审核员来说，这个公告标志着时代的结束。无论这是进步还是退步，取决于你对AI能力和人工判断的信心。但一件事是清楚的：AI正在进入每一个需要大规模决策的领域，内容审核只是最新的战场。