NEW SERIES · 9 CHAPTERS + LONGFORM
从 Manus 到 DART-GUI
我们如何为“会做事的智能体”造出强化学习基础设施。从方向判断、OSWorld、VERL 和 Rollout 瓶颈,一直写到 DART 四模块架构、环境平台、7B SOTA 与开源。
进入专题- 01为什么训练会做事的 Agent
- 02OSWorld 与 VERL
- 03Rollout 性能墙
- 04DART 解耦架构
- 05环境、数据与训练闭环
SELECTED WORK
代表工作
从资源供给到轨迹回收,我关心的是整条链路能否规模化运行、快速定位问题,并在失败后自动恢复。
Agent 沙箱、评测与 RL 采样平台
从 0 到 1 建设统一环境管理与 rollout 供给能力,屏蔽 Docker、Kata、KubeVirt 后端差异,支撑 Windows / Linux、GUI 与工具调用环境。
agent-env-pool
通过一个 API 批量管理 Docker / Kubernetes 环境:并行启动、健康检查、配额、复用和自动回收。
DART-GUI
高效多轮 GUI Agent 强化学习框架。负责系统平台、环境与采样基础设施,并作为论文合作作者参与工程化落地。
KNOWLEDGE MAP
长期实践的系统边界
环境不是一个容器,而是一组关于隔离、状态、时序、成本和正确性的工程契约。
Agent Runtime
GUI / Code / Browser 环境的生命周期、隔离、回收与可复现性。
- Docker / runc
- Kata / microVM
- KubeVirt / QEMU
Rollout Infra
异步采样、轨迹调度、Reward 回传、模型池与训练侧对接。
- veRL / Ray
- vLLM
- OSWorld
Resource Platform
CPU / GPU 资源台账、集群交付、状态机和失败恢复。
- OpenStack / Ironic
- Kubernetes
- Ansible
Reliability
容量、压测、可观测、降级和自动止损,用系统能力替代人工值守。
- 30 万 QPS
- 99.99% 可用性
- on-call
EXPERIENCE
做过什么
Agentic RL Infra
建设 Agent 沙箱、评测与 rollout 平台;把 OpenStack、Kubernetes、Kata / KubeVirt、模型服务和训练链路接成可持续运行的基础设施。
云堡垒机 SaaS
负责云堡垒机 SaaS 化、一键开通、高可用部署与 Kafka 审计链路,让传统安全产品具备云上交付和免运维能力。
高并发与稳定性
参与世界杯全站 30 万 QPS 流量保障,建设压测、监控、限流降级和缓存治理体系,并完成关键接口性能优化。
FIELD NOTES