返回指南

SimReady 资产、Designer、机器人与 Sim-to-Real

用 SimReady 资产和 Designer 虚拟训练场提升机器人 Sim-to-Real 能力

说明 SimReady 资产、FactVerse Designer 场景、工业行为逻辑、合成数据和仿真反馈,如何帮助机器人团队提升感知、移动、操作和巡检任务的 Sim-to-Real 迁移能力。

用 SimReady 资产和 Designer 虚拟训练场提升机器人 Sim-to-Real 能力

机器人需要带工业上下文的训练场

机器人学习质量取决于训练环境是否带有真实现场的运营上下文。一个有用的虚拟训练场需要在几何外观之外继续表达设备身份、真实比例、材质、碰撞边界、任务步骤、传感器配置、工艺状态、安全区域,以及日常工作中会出现的各种变化。

SimReady 资产提供可复用的仿真就绪对象。FactVerse Designer 帮助团队把这些对象组织成虚拟工厂、仓库、机器人工作站、巡检区域、洁净室和物流路线,并加入行为逻辑和场景变体。DataMesh Robotics 再将场景连接到合成数据生成、任务定义、奖励设置和下游机器人仿真工作流。

实际目标是加快 Sim-to-Real 迭代:构建更好的数字世界,测试更多任务变化,将仿真结果与现场试验对比,并在真实证据暴露差距后更新场景。

工业现场的 Sim-to-Real 难点

工业机器人任务会同时受到多层因素影响:

层级影响机器人行为的因素
几何通道宽度、设备位置、货架布局、净空、地面坡度、工作包络
材质反光、透明度、摩擦、表面磨损、包装纹理、光照响应
传感器相机姿态、视场、标定、遮挡、噪声、深度质量、LiDAR 覆盖
工艺状态设备状态、运动部件、路线阻塞、托盘位置、工作步骤、异常状态
语义对象类别、资产 ID、安全区、任务角色、路线类型、巡检目标
人员上下文操作员移动、维护通行、叉车流线、受限区域、班次模式
控制约束速度限制、停止规则、交接时机、联锁、恢复步骤、碰撞边界

好的 Sim-to-Real 准备会把这些层级显式表达出来。机器人训练团队可以有意识地调整这些变量,减少实体试验阶段才暴露的差异。

SimReady 资产是训练构件

SimReady 工业资产同时携带几何和运营含义。面向机器人训练,关键字段包括:

  • 准确比例、原点、朝向和碰撞几何
  • 面向感知训练的材质与光照行为
  • 语义类别、资产 ID、功能角色和场景关系
  • 摩擦、质量、关节范围、运动限制等物理假设
  • 打开、关闭、阻塞、运行、停止、告警、维护等状态变量
  • 抓取点、巡检目标、停靠区域和安全接近区域等任务可操作性
  • 将仿真结果连接回资产库的版本记录

资产准备到这个程度后,机器人训练场景更容易复现、调整和复核。

Designer 把资产组织成虚拟训练场

Designer 的价值在于帮助机器人训练团队围绕完整场景工作。团队可以用 Designer 准备:

  • 设施布局、产线、仓储区域、机器人单元和巡检路线
  • 面向设备状态、对象移动、任务序列和异常处理的行为树逻辑
  • 启动、停止、阻塞、恢复、路线变化和交接事件的时间线场景
  • 面向新设备、通道变化、暂存区、货架、输送线或工装夹具的布局变体
  • 面向感知、巡检、移动导航和操作员复核的传感器与视角规划
  • 可供合成数据生成和下游仿真工具使用的场景库

这样机器人团队、运营团队和仿真团队可以围绕同一个虚拟训练场进行复核。

DataMesh Sim-to-Real 工作流

  1. 选择机器人任务 - 定义目标机器人、环境、传感器、任务目标、安全边界和成功指标。
  2. 准备 SimReady 资产 - 将 CAD、BIM、三维模型、扫描和运营记录转化为带比例、语义、物理假设和状态变量的资产。
  3. 搭建虚拟训练场 - 使用 Designer 组织布局、工艺流、路线、行为逻辑和场景变体。
  4. 定义变化规则 - 调整光照、对象摆放、资产状态、路线阻塞、材质外观、传感器姿态和工艺时序。
  5. 生成训练数据 - 生成 RGB、深度、分割、边界框、姿态、轨迹、场景状态标签和任务元数据。
  6. 运行仿真与评测 - 将场景资产和数据集导入机器人训练、Isaac Sim / Omniverse 或其他仿真栈。
  7. 对比现场试验 - 使用实体测试结果、操作员记录、失败案例和传感器日志识别差距。
  8. 更新场景与资产库 - 为下一轮迭代调整几何、材质、物理假设、标签、行为逻辑和变化规则。

当每个数据集和仿真结果都能追溯到场景版本、资产版本、任务配方和现场证据时,闭环会更可靠。

哪些环节会提升迁移质量

虚拟训练场可以在多个实际环节提升 Sim-to-Real 准备度:

  • 感知鲁棒性 - 在光照、材质、遮挡、姿态、距离和背景变化中生成带标签样本。
  • 导航覆盖度 - 测试路线、阻塞通道、暂存区、停靠点、人车交叉和安全区域。
  • 操作任务准备 - 调整对象姿态、抓取目标、工装位置、接触表面、摩擦假设和交接时机。
  • 巡检可重复性 - 标准化视角、目标资产、缺陷状态、面板位置、仪表读数和通行约束。
  • 任务恢复 - 复现故障、路径阻塞、对象缺失、告警状态、急停和重启条件。
  • 运营复核 - 让机器人、安全、设施和生产团队在实体试验前复核同一场景。

效果最好的项目通常都有紧密的仿真覆盖与真实现场反馈循环。

应该评测什么

Sim-to-Real 需要工程指标:

评测区域示例指标
数据集质量类别覆盖、标签一致性、姿态分布、遮挡覆盖、光照变化
仿真可信度比例误差、碰撞质量、材质假设、传感器模型、路线时序、状态覆盖
任务表现成功率、完成时间、人工介入次数、恢复率、失败类型
迁移质量仿真与实体结果差异、重复失败模式、现场修正次数
治理场景版本、资产版本、生成配方、复核人、审批状态、现场证据链接

这些指标可以让虚拟训练场和机器人实际进展保持连接。

产品分工

DataMesh Robotics 聚焦工业合成数据、任务准备、标签输出、奖励设置和机器人管线集成。

FactVerse Designer 准备虚拟训练场:布局、行为树、时间线仿真、任务场景、工艺状态和场景变体。

FactVerse Adaptor for NVIDIA Omniverse 将 FactVerse 场景上下文连接到 OpenUSD 与 Omniverse 工作流,用于渲染、物理仿真、传感器仿真和专业机器人工具。

FactVerseFactVerse Twin Engine 保留训练场背后的运营数字孪生上下文:资产、空间、系统、元数据、权限和场景记录。

Data Fusion Services 在训练场景需要设备状态、告警、生产信号或设施上下文时接入实时和历史运营数据。

准备度检查清单

  • 机器人任务是否定义了成功指标和安全边界
  • 目标环境、资产、路线和工艺状态是否已限定范围
  • SimReady 资产是否准备了比例、语义、物理假设和状态变量
  • Designer 场景是否按任务、变体和复核目的组织
  • 传感器、视角、标定假设和噪声模型是否有记录
  • 变化规则是否来自真实现场条件
  • 数据集输出和标签是否在生成前定义清楚
  • 仿真结果是否能追溯到场景版本和资产版本
  • 实体试验反馈是否能回到场景更新流程

公开参考

DataMesh Robotics 发布内容说明了 DataMesh 在可执行工业数字孪生、合成训练数据、任务目标、奖励设置和机器人管线准备上的公开方向。

SimReady 资产指南说明工业资产如何携带几何、语义、物理、行为和数据绑定,服务 Physical AI。

工业 Physical AI 与机器人合成数据指南覆盖更完整的数据集生成管线。

GTC 2025 展示FactVerse 与 NVIDIA Omniverse 平台文章展示了 FactVerse、Omniverse、仿真数字孪生和 AI 驱动机器人训练的公开方向。