Meta宣布将广泛推出Facebook和Instagram的AI支持助手，并在未来几年减少对人工内容审核承包商的依赖。这一举措标志着内容审核从人工向AI的重大转变，也引发了对AI审核准确性和就业影响的担忧。

从人工到AI的转变

过去，内容审核工作主要由第三方承包商完成。这些审核员长期暴露在暴力、仇恨言论和其他有害内容中，许多人因此患上PTSD等心理健康问题。近年来，内容审核员开始组织争取更好的待遇和保护。

Meta在声明中表示：”我们仍然会有人工审核内容，但这些系统可以承担更适合技术的工作，如重复性审核图形内容，或在对抗性行为者不断改变战术的领域，如非法毒品销售或诈骗。”

AI审核的优势与挑战

AI审核系统有几大优势：

  • 规模：可以7×24小时处理海量内容
  • 速度：实时检测和响应违规内容
  • 一致性：减少人为判断的主观性
  • 保护：减少人工审核员接触有害内容

但AI审核也面临挑战。语言和上下文的复杂性、讽刺和幽默的识别、文化差异的理解，都是AI难以完全掌握的领域。过度依赖AI可能导致误删合规内容或漏放违规内容。

行业趋势

Meta并非唯一转向AI审核的平台。TikTok、YouTube和X（前Twitter）都在增加AI在内容审核中的角色。行业趋势明确：AI将成为内容审核的主力，人工审核转向边缘案例和申诉处理。

对于平台用户来说，这意味着内容审核将更快、更一致，但也可能更”机械”。理解平台规则并避免触发AI审核将成为内容创作者的新技能。

对内容审核员的影响

这一转变对全球数十万内容审核员的就业前景意味着什么？Meta表示仍将保留人工审核团队，但角色将从直接审核转向更复杂的判断和AI训练。第三方审核公司可能需要调整商业模式。

对于社会而言，AI审核的广泛部署提出了更深层次的问题：我们愿意让算法决定什么是可接受的内容吗？当AI犯错时，谁负责？这些问题没有简单答案，但Meta的决定已经让AI审核成为行业新常态。