返回指南

SimReady 資產、Designer、機器人與 Sim-to-Real

用 SimReady 資產和 Designer 虛擬訓練場提升機器人 Sim-to-Real 能力

說明 SimReady 資產、FactVerse Designer 場景、工業行為邏輯、合成資料和仿真回饋,如何協助機器人團隊提升感知、移動、操作和巡檢任務的 Sim-to-Real 遷移能力。

用 SimReady 資產和 Designer 虛擬訓練場提升機器人 Sim-to-Real 能力

機器人需要帶工業上下文的訓練場

機器人學習品質取決於訓練環境是否帶有真實現場的營運上下文。一個有用的虛擬訓練場需要在幾何外觀之外繼續表達設備身分、真實比例、材質、碰撞邊界、任務步驟、感測器配置、工藝狀態、安全區域,以及日常工作中會出現的各種變化。

SimReady 資產提供可複用的仿真就緒物件。FactVerse Designer 協助團隊把這些物件組織成虛擬工廠、倉庫、機器人工作站、巡檢區域、潔淨室和物流路線,並加入行為邏輯和場景變體。DataMesh Robotics 再將場景連接到合成資料生成、任務定義、獎勵設定和下游機器人仿真工作流。

實際目標是加快 Sim-to-Real 迭代:建構更好的數位世界,測試更多任務變化,將仿真結果與現場試驗對比,並在真實證據暴露差距後更新場景。

工業現場的 Sim-to-Real 難點

層級影響機器人行為的因素
幾何通道寬度、設備位置、貨架布局、淨空、地面坡度、工作包絡
材質反光、透明度、摩擦、表面磨損、包裝紋理、光照響應
感測器相機姿態、視場、標定、遮擋、噪聲、深度品質、LiDAR 覆蓋
工藝狀態設備狀態、運動部件、路線阻塞、托盤位置、工作步驟、異常狀態
語義物件類別、資產 ID、安全區、任務角色、路線類型、巡檢目標
人員上下文操作員移動、維護通行、叉車流線、受限區域、班次模式
控制約束速度限制、停止規則、交接時機、聯鎖、恢復步驟、碰撞邊界

好的 Sim-to-Real 準備會把這些層級顯式表達出來。機器人訓練團隊可以有意識地調整這些變數,減少實體試驗階段才暴露的差異。

SimReady 資產是訓練構件

SimReady 工業資產同時攜帶幾何和營運含義。面向機器人訓練,關鍵欄位包括:

  • 準確比例、原點、朝向和碰撞幾何
  • 面向感知訓練的材質與光照行為
  • 語義類別、資產 ID、功能角色和場景關係
  • 摩擦、品質、關節範圍、運動限制等物理假設
  • 開啟、關閉、阻塞、運行、停止、告警、維護等狀態變數
  • 抓取點、巡檢目標、停靠區域和安全接近區域等任務可操作性
  • 將仿真結果連接回資產庫的版本記錄

資產準備到這個程度後,機器人訓練場景更容易復現、調整和複核。

Designer 把資產組織成虛擬訓練場

Designer 的價值在於協助機器人訓練團隊圍繞完整場景工作。團隊可以用 Designer 準備:

  • 設施布局、產線、倉儲區域、機器人單元和巡檢路線
  • 面向設備狀態、物件移動、任務序列和異常處理的行為樹邏輯
  • 啟動、停止、阻塞、恢復、路線變化和交接事件的時間線場景
  • 面向新設備、通道變化、暫存區、貨架、輸送線或工裝夾具的布局變體
  • 面向感知、巡檢、移動導航和操作員複核的感測器與視角規劃
  • 可供合成資料生成和下游仿真工具使用的場景庫

這樣機器人團隊、營運團隊和仿真團隊可以圍繞同一個虛擬訓練場進行複核。

DataMesh Sim-to-Real 工作流

  1. 選擇機器人任務 - 定義目標機器人、環境、感測器、任務目標、安全邊界和成功指標。
  2. 準備 SimReady 資產 - 將 CAD、BIM、三維模型、掃描和營運記錄轉化為帶比例、語義、物理假設和狀態變數的資產。
  3. 搭建虛擬訓練場 - 使用 Designer 組織布局、工藝流、路線、行為邏輯和場景變體。
  4. 定義變化規則 - 調整光照、物件擺放、資產狀態、路線阻塞、材質外觀、感測器姿態和工藝時序。
  5. 生成訓練資料 - 生成 RGB、深度、分割、邊界框、姿態、軌跡、場景狀態標籤和任務元資料。
  6. 運行仿真與評測 - 將場景資產和資料集導入機器人訓練、Isaac Sim / Omniverse 或其他仿真棧。
  7. 對比現場試驗 - 使用實體測試結果、操作員記錄、失敗案例和感測器日誌識別差距。
  8. 更新場景與資產庫 - 為下一輪迭代調整幾何、材質、物理假設、標籤、行為邏輯和變化規則。

當每個資料集和仿真結果都能追溯到場景版本、資產版本、任務配方和現場證據時,閉環會更可靠。

哪些環節會提升遷移品質

  • 感知魯棒性 - 在光照、材質、遮擋、姿態、距離和背景變化中生成帶標籤樣本。
  • 導航覆蓋度 - 測試路線、阻塞通道、暫存區、停靠點、人車交叉和安全區域。
  • 操作任務準備 - 調整物件姿態、抓取目標、工裝位置、接觸表面、摩擦假設和交接時機。
  • 巡檢可重複性 - 標準化視角、目標資產、缺陷狀態、面板位置、儀表讀數和通行約束。
  • 任務恢復 - 復現故障、路徑阻塞、物件缺失、告警狀態、急停和重啟條件。
  • 營運複核 - 讓機器人、安全、設施和生產團隊在實體試驗前複核同一場景。

效果最好的專案通常都有緊密的仿真覆蓋與真實現場回饋循環。

應該評測什麼

評測區域示例指標
資料集品質類別覆蓋、標籤一致性、姿態分布、遮擋覆蓋、光照變化
仿真可信度比例誤差、碰撞品質、材質假設、感測器模型、路線時序、狀態覆蓋
任務表現成功率、完成時間、人工介入次數、恢復率、失敗類型
遷移品質仿真與實體結果差異、重複失敗模式、現場修正次數
治理場景版本、資產版本、生成配方、複核人、審批狀態、現場證據連結

這些指標可以讓虛擬訓練場和機器人實際進展保持連接。

產品分工

DataMesh Robotics 聚焦工業合成資料、任務準備、標籤輸出、獎勵設定和機器人管線整合。

FactVerse Designer 準備虛擬訓練場:布局、行為樹、時間線仿真、任務場景、工藝狀態和場景變體。

FactVerse Adaptor for NVIDIA Omniverse 將 FactVerse 場景上下文連接到 OpenUSD 與 Omniverse 工作流,用於渲染、物理仿真、感測器仿真和專業機器人工具。

FactVerseFactVerse Twin Engine 保留訓練場背後的營運數位孿生上下文:資產、空間、系統、元資料、權限和場景記錄。

Data Fusion Services 在訓練場景需要設備狀態、告警、生產信號或設施上下文時接入即時和歷史營運資料。

準備度檢查清單

  • 機器人任務是否定義了成功指標和安全邊界
  • 目標環境、資產、路線和工藝狀態是否已限定範圍
  • SimReady 資產是否準備了比例、語義、物理假設和狀態變數
  • Designer 場景是否按任務、變體和複核目的組織
  • 感測器、視角、標定假設和噪聲模型是否有記錄
  • 變化規則是否來自真實現場條件
  • 資料集輸出和標籤是否在生成前定義清楚
  • 仿真結果是否能追溯到場景版本和資產版本
  • 實體試驗回饋是否能回到場景更新流程

公開參考

DataMesh Robotics 發布內容說明了 DataMesh 在可執行工業數位孿生、合成訓練資料、任務目標、獎勵設定和機器人管線準備上的公開方向。

SimReady 資產指南說明工業資產如何攜帶幾何、語義、物理、行為和資料綁定,服務 Physical AI。

工業 Physical AI 與機器人合成資料指南覆蓋更完整的資料集生成管線。

GTC 2025 展示FactVerse 與 NVIDIA Omniverse 平台文章展示了 FactVerse、Omniverse、仿真數位孿生和 AI 驅動機器人訓練的公開方向。