Meta公司近日宣布，将大规模部署AI内容审核系统，在未来几年内逐步减少对第三方审核承包商的依赖。这一举措标志着社交媒体内容审核进入新阶段。

为什么转向AI审核？

Meta在官方公告中解释了转向AI审核的原因：

  • 效率提升：AI可以7×24小时不间断工作，处理海量内容
  • 一致性更好：减少人工审核的主观性和疲劳导致的判断偏差
  • 应对对抗性攻击：如非法毒品销售、诈骗等不断变换手法的违规内容
  • 保护人类审核员：避免让人类接触大量令人心理创伤的内容

Meta表示，AI系统将”处理更适合技术的工作，如重复性审查或对抗性行为者不断变换策略的领域”。

人工审核员的困境

内容审核长期以来是一个高压、高风险的职业。审核员每天需要观看大量暴力、仇恨、虐待等有害内容，许多人因此患上PTSD等心理疾病。

近年来，内容审核员开始组织起来争取更好的待遇：

  • 成立工会和行业联盟
  • 提起诉讼要求心理健康支持
  • 推动科技公司改善工作条件

Meta此举在某种程度上是对这些压力的回应，但AI审核能否完全取代人类判断，仍有待观察。

AI审核的挑战

虽然AI审核有诸多优势，但也面临重大挑战：

挑战 说明
误判风险 AI可能错误标记合法内容
偏见问题 训练数据可能导致不公平的结果
上下文理解 难以理解讽刺、文化差异等细微差别
对抗规避 不良行为者可能找到绕过AI的方法

Meta的AI支持助手

作为此次公告的一部分，Meta还推出了AI支持助手（AI Support Assistant），用于Facebook和Instagram平台。该助手可以帮助用户：

  • 快速了解内容被标记的原因
  • 获取申诉指导
  • 了解平台政策

行业趋势

Meta并非唯一转向AI审核的公司：

  • TikTok：大量使用AI检测违规内容
  • YouTube：AI系统自动识别版权问题和有害内容
  • Twitter/X：在马斯克领导下大幅削减人工审核团队

可以预见，AI审核将成为行业标准，但人工干预仍将保留用于处理复杂案例和申诉。

你更信任AI审核还是人工审核？欢迎在评论区分享看法。