TECHNICAL BRIEFING

端云协同训练调度方案

50 用户 · 20 GPU · Ceph · 5 机器人 · OTA

训练 → 存储 → 部署 → 实测
一条可调度的研发闭环

面向机器人端云协同场景,用 Kubernetes + Volcano 管训练配额与排队, Rook/Ceph 统一共享 Checkpoint 与模型,再经 OTA 推送到 5 台机器人实测。 本页为方案汇报;完整交互仿真见演示页。

01 · 场景与目标

PROBLEM → VALUE

资源争用

50 人共享有限 GPU 与 5 台机器人,需要配额、排队与优先级,避免死锁与空转。

数据与断点

代码、数据集、Checkpoint、模型权重需多节点共享读写,训练中断可恢复。

端云闭环

云端训练小脑模型 → 验证入库 → OTA 到指定机器人 → 用户实测 → 再迭代。

02 · 整体架构

FIVE LAYERS
用户层 · 50 Users 提交训练 · 查看状态 · 触发部署 · 机器人验证 调度层 · K8s + Volcano 队列管理 · 配额 20 · 排队 · 优先级 · Gang 调度 计算层 · GPU Cluster PyTorch / TensorFlow · 20 GPU 训练槽 存储层 · Rook + Ceph CephFS 共享 · RBD · RGW 归档 · Checkpoint 部署层 · 端云协同 OTA 验证 · 打包 · OTA · 5 机器人实测

03 · 四大模块

STACK
M1

计算资源调度 · Kubernetes + Volcano

CNCF 批处理调度,专为 AI 训练设计。队列能力上限 20 GPU;超限自动排队,释放后续跑;支持优先级插队与 Gang 调度,避免分布式训练死锁。

  • 同时最多 20 个训练任务占用 GPU
  • 第 21 个起进入等待队列,资源空闲自动分配
  • 演示中可手动分配 / 收回 GPU,或切回自动调度
M2

模型存储 · Rook + Ceph

通过 CSI 将 Ceph 暴露为 Kubernetes 存储类,训练 Pod 挂载共享卷。

CephFS · 代码 / 数据集 / Checkpoint RBD · 日志 / 块存储 RGW(S3) · 模型归档 / 版本仓库
  • 训练中途与结束写入 Checkpoint,宕机可恢复
  • 50 用户共享同一份数据与模型,避免重复拷贝
M3

端云协同 + 自动化部署

云端大脑(大模型规划)+ 端侧小脑(高频控制)。训练完成 → 自动验证 → 注册模型仓库 → OTA 推送 → 灰度到机器人。

  • 5 台机器人同样有占用队列;忙碌则 OTA 请求排队
  • OTA 推送较短;推送后用户占用实测约等于训练时长的 2 倍
  • 可手动分配 / 收回机器人,支持标签式目标选择(演示版)
M4

仿真时钟与人机共治

演示引擎用 requestAnimationFrame 驱动状态机;支持 0.5× / 1× / 2× / 5× 时钟。自动模式下空闲资源自动接单;手动模式下完全由操作台分配。

04 · 方案总结

SUMMARY
模块技术选型核心价值
资源调度Kubernetes + Volcano20 并发配额,超限排队,GPU 利用率提升
模型存储Rook + Ceph统一共享,Checkpoint 恢复,PB 级扩展
端云协同云端大模型 + 端侧小脑复杂推理上云,实时控制在端
模型部署CI/CD + OTA验证 → 入库 → 推送 → 实测
机器人调度队列 + 标签选择5 台合理分配,避免冲突

05 · 研发迭代循环

9 STEPS
  1. 01提交训练
  2. 02Volcano 调度
  3. 03训练 + Checkpoint
  4. 04模型验证
  5. 05选择机器人
  6. 06机器人排队
  7. 07OTA 推送
  8. 08用户占用实测
  9. 09迭代反馈

状态机:queued → training → validating → model_ready → ota_queued → ota → verifying → done

06 · 交互演示能力

LIVE SIM

可观察

  • 20 GPU 槽位占用与进度
  • 训练 / OTA 双队列排队
  • Ceph 三通道写入脉冲与事件日志
  • OTA 包飞向机器人的轨迹动画
  • 架构图与步骤条随进程联动

可操作

  • 提交 1 / 5 / 突发 25 任务
  • 手动分配 · 收回 GPU / 机器人
  • 插队置顶 · 高优先级
  • 自动 / 手动模式切换
  • 0.5×–5× 时钟 · 一键演示 · 重置

进入可交互仿真

在浏览器中打开演示页,体验 50→20→5 的全链路调度。

打开演示 index.html →