网络基础设施巨头Cloudflare正在通过Dynamic Workers的公开测试版改变企业部署AI代理的方式,这是一种新的轻量级隔离沙箱系统,据称可以在毫秒级启动,仅使用几兆字节内存,并且可以在创建它的请求所在的同一台机器上运行。
与传统的Linux容器相比,Cloudflare表示Dynamic Workers的启动速度快约100倍,内存效率提高10到100倍。这一技术突破可能对AI代理基础设施产生深远影响。
Code Mode:从工具编排到代码执行
Cloudflare花费数月时间推广其所谓的Code Mode概念,即大型语言模型在获得API并被要求编写代码时,往往比被迫进行一次又一次工具调用时表现更好。该公司表示,将MCP服务器转换为TypeScript API可以将令牌使用量减少81%,现在将Dynamic Workers定位为实现这种方法大规模实用的安全执行层。
对于企业技术决策者来说,这是更大的故事。Cloudflare正在试图将沙箱本身转变为AI堆栈中的战略层。如果代理越来越多地即时生成小段代码来检索数据、转换文件、调用服务或自动化工作流程,那么运行时的经济性和安全性几乎与模型的能力一样重要。
三种运行时模型对比
现代沙箱已经通过三种主要模型演变:第一种是隔离区模型,Google在2011年引入的v8::Isolate API使V8 JavaScript引擎能够在同一进程内高效运行许多独立的执行上下文。第二种是容器模型,Docker在2013年将其普及。第三种是微型虚拟机模型,AWS在2018年推广的Firecracker提供比容器更强的隔离。
Cloudflare的论点是,对于消费者规模的代理,容器太慢太贵。Dynamic Workers建立在隔离区上,可以按需创建,运行一段代码,然后立即丢弃,在许多情况下在同一线程上运行,消除了在网络其他地方寻找温暖沙箱的需要。
安全性挑战
Cloudflare并不假装这很容易安全。该公司表示,加固基于隔离区的沙箱比依赖硬件虚拟机更棘手,V8中的安全漏洞比典型虚拟机监控程序中的更常见。但Cloudflare有近十年的经验做到这一点,包括V8安全补丁在数小时内自动推出、自定义第二层沙箱、基于风险的租户动态隔离等。
TypeScript vs HTTP
Cloudflare还在争论不同的接口层。TypeScript简洁,在模型训练数据中广泛存在,并且可以用更少的令牌传达API的形状。Workers运行时可以自动建立RPC桥,让动态Worker像使用本地库一样跨安全边界调用类型化接口。
定价与可用性
Dynamic Worker Loader现在处于公开测试阶段,可供Workers Paid计划上的所有用户使用。动态加载的Worker按每个唯一Worker每天0.002美元收费,测试期间免除。这种定价模型强化了产品背后的论题:执行应该成为代理循环中一个小而常规的部分。
发表回复