据《金融时报》报道，Amazon Web Services 在 12 月因其 AI 编程助手 Kiro 的操作导致一个系统中断了 13 小时。多位不愿透露姓名的 Amazon 员工向 FT 表示，AI 代理 Kiro 对影响中国大陆部分地区 AWS 服务的 12 月事件负责。知情人士称，该工具选择「删除并重建」它正在工作的环境，导致了停机。

事件细节

虽然 Kiro 通常需要两个人的签批才能推送更改，但该机器人拥有其操作员的权限，而那里的人为错误允许了比预期更多的访问权限。

Amazon 将 12 月的中断描述为「极其有限的事件」，与 10 月的重大中断相比微不足道，那次中断使 Alexa、Fortnite、ChatGPT 和 Amazon 等在线服务瘫痪了数小时。没有像智能床那样困住任何人的中断算是幸运逃脱。

这并不是 AI 编程工具第一次给 Amazon 带来麻烦。一位高级 AWS 员工表示，12 月的中断是过去几个月中与 AI 工具相关的第二次生产中断，另一次与 Amazon 的 AI 聊天机器人 Q Developer 有关。该员工将这些中断描述为「虽小但完全可预见」。Amazon 表示第二次事件没有影响「面向客户的 AWS 服务」。

Amazon 的回应

Amazon 将问题归咎于人为错误而非失控的机器人，并表示在事件发生后已「实施了多项安全措施」，如员工培训。公司表示「AI 工具卷入其中是巧合」，并坚持认为「同样的问题可能发生在任何开发工具或手动操作上」。

这确实是真的，虽然我不是工程师，但我想除了在最紧急的情况下，人们不会故意废弃和重建某些东西来进行更改。

对企业的启示

这一事件凸显了企业在部署 AI 编程助手时面临的挑战。虽然这些工具可以提高开发效率，但如果权限管理不当，可能导致严重的生产事故。

关键教训包括：

  • AI 代理的权限应该有严格的边界和审查机制
  • 人为监督不能被绕过，即使工具声称需要签批
  • 即使是「小」故障也可能是「完全可预见」的
  • 企业需要对 AI 工具实施与人类开发者相同级别的安全措施

随着 AI 编程助手越来越普及，企业需要在效率和安全之间找到平衡。这可能意味着更严格的权限控制、更完善的测试流程，以及更清晰的 AI 操作审计日志。