返回指南

仿真证据与工程可信度

校准等级与仿真结论可信度

面向技术采购方的指南,介绍探索级、基准对比级、实测数据校准级和特定场景确认级的仿真证据,并提供实用问题,帮助团队让结论可信度与现有证据相匹配。

校准等级与仿真结论可信度

证据越充分,结论越可信

校准可以让仿真更能代表特定设施、工艺或运行条件。其证据力度仍取决于数据覆盖、对比方法、残差和独立检查。仅依据一个运行周期内的一个温度点进行调参的模型,与经过多个位置、负载、设备状态以及独立确认周期对比的模型,具有不同的决策价值。

技术采购团队需要一种简明方法,将证据深度与合理结论连接起来。以下四个等级适合用于早期评估:

证据等级典型证据可支持的决策可得出的合理结论
探索级经过评审的几何、工程假设、有记录的输入、基本质量检查、主要变量敏感性概念筛选、方案比较、测量规划、试点定义在已说明假设下的方向性行为和相对比较
基准对比级探索级证据,以及与公认、受控或供应商认可参考案例的对比方法鉴定、工作流选择、已知行为检查、基线可信度针对已定义基准和已测试变量的表现
实测数据校准级代表性现场测量、选定物理参数、校准目标、残差、验收限值和评审记录现场特定场景比较、校准范围内的运营规划、有针对性的假设分析在已记录校准范围和剩余不确定性内的量值、时序或裕量
特定场景确认级已校准模型、相关条件下的独立证据、稳健性检查、不确定性评审和专业审批后果较重的规划支持、韧性评审、工程优先级排序、明确的运营决策针对已确认变量、位置、条件和预期用途的结论

这套四级框架用于技术采购评估。认证与审批仍取决于每个项目所定义的预期用途、严谨程度要求、领域评审和治理路径。

校准将模型与观测行为连接起来

仿真结合了几何、拓扑、物理关系、运行状态、边界条件和数值方法。部分输入来自直接测量,其他输入来自设计资料、供应商文档、工程判断,或仍带有不确定性的假设。

校准会调整选定的不确定参数,使约定输出与代表性观测更加接近。例如:

  • 数据中心热模型中的气流阻力、泄漏或设备性能
  • 区域供热模型中的供水、回水、流量、压力、建筑热需求或控制参数
  • 洁净室扩散模型中的局部排风流量、过滤器或风机状态、源项行为和边界假设
  • 生产与机器人模型中的质量、摩擦、阻尼、刚度、恢复系数、时序或接触假设

校准目标应服从决策需求。机架入口热裕量研究需要相关机架位置和运行负载下的证据。探测器布置研究需要相关释放与通风条件下的时变浓度和响应证据。机器人交接研究需要与任务和资产状态相关的运动与接触证据。

使用清晰可见的校准循环

测量数据、模型校准、对比、审批与验证循环

校准循环将代表性测量与模型调整、对比、专业评审以及条件变化后的验证连接起来。

严谨的校准循环包含八个步骤:

  1. 定义预期用途 - 明确决策、输出变量、位置、时间范围和错误可能造成的后果。
  2. 确认测量适用性 - 评审传感器标识、单位、位置、采样、同步、校准状态、缺失数据和运行状态覆盖。
  3. 运行基线模型 - 在调整参数前保留结果,使评审人员能够看到初始不匹配以及校准产生的影响。
  4. 选择物理参数 - 调整与所建模行为具有合理关系的参数,并记录允许范围。
  5. 定义对比目标 - 选择用于评估拟合度的位置、周期、指标、权重和验收限值。
  6. 依据选定数据开展校准 - 记录完整校准数据集上的参数变化、残差、警告和拟合表现。
  7. 检查独立条件 - 与参数调优时保留的留出周期、运行状态、试验或测量数据集进行对比。
  8. 批准证据适用范围 - 记录条件、变量、残差限值、不确定性、评审人、所支撑的决策和重新确认触发条件。

这项记录帮助客户团队区分可重复的工程研究,以及持续调参直到某张图像看似合理的结果。

将残差作为证据解读

残差是测量值与对应仿真值之间的差异。单个平均值可能掩盖重要行为,因此评审人员应沿着与决策相关的各个维度检查残差。

有用的视图包括:

  • 按传感器或空间位置显示残差
  • 按时间和运行状态显示残差
  • 平均误差和绝对误差
  • 系统性正偏差或负偏差
  • 峰值条件和过渡阶段的行为
  • 重复或可变场景中的离散程度
  • 校准数据与独立确认数据之间的对比

残差验收标准应在最终评审前确定。限值可以反映测量不确定性、运营容差、变量对决策的重要程度以及错误可能造成的后果。方向性方案筛选可以接受较宽的残差;涉及现场特定阈值或时序时,则需要更严格的证据。

防止模型只适配校准数据

校准质量取决于证据覆盖范围。反复使用同一狭窄数据集调整参数,可以让模型在该周期内高度拟合,同时削弱模型在其他条件下的可信度。

技术采购团队应检查以下证据:

  • 覆盖影响决策的各个区域,并包含多个相关空间位置
  • 能够代表预期决策范围的运行条件
  • 当研究涉及韧性时纳入过渡过程和降级状态
  • 物理上合理的参数范围
  • 影响显著参数的敏感性分析
  • 独立的周期、条件、基准或试验
  • 在合理数据与参数变化下保持稳定的结论

模型应保留物理含义。当局部行为、守恒关系、方向、时序和系统关系也保持一致时,更好的综合评分才具有价值。

明确区分校准与确认

校准使用选定证据调整不确定参数。确认则针对预期用途,将模型输出与适当的独立证据进行对比。用于参数调优的数据集所能提供的独立证明有限,因此严谨的研究会为确认保留单独的周期、条件、基准或试验。

确认材料应说明:

  • 对比的变量和位置
  • 所代表的运行条件
  • 测量或实验的不确定性
  • 残差或对比指标
  • 接受范围和评审依据
  • 结论覆盖的模型条件
  • 已知不匹配和尚未解决的风险

拟合改善适用于已记录的条件。新的几何、设备、控制、负载、环境状态或运行范围可能需要新的对比证据。

让结论符合校准适用范围

校准适用范围,也称校准包络,是校准和确认材料所支撑的条件范围。它可以包括负载、温度、气流、压力、设备状态、源强度、控制模式、时间范围或材料行为。

与证据相称的结论示例如下:

证据与证据相称的结论
假设经过评审的探索级模型该场景有助于比较可能的行为,并确定测量或设计方案的优先级
针对明确变量与基准一致在报告的对比限值内,该工作流能够复现选定的参考行为
基于代表性运行数据的现场校准在已记录的运行范围和残差限值内,该模型可以支撑现场特定的场景比较
独立场景确认与稳健性评审在记录的不确定性和审批责任约束下,该模型可以针对已确认的变量与条件支撑所述决策

笼统的绝对精度表述会隐藏赋予结果实际意义的条件。对于任何现场特定的性能陈述,技术采购团队都应要求同时提供适用范围、残差、不确定性和责任评审人。

理解校准后的不确定性

校准可以减少与选定参数和证据相关的不匹配。其他不确定性仍会存在,包括:

  • 测量不确定性和传感器位置
  • 缺失或尚未观测到的运行条件
  • 几何和拓扑简化
  • 不确定的材料或设备行为
  • 边界条件变化
  • 数值近似与离散化
  • 被省略的交互或扰动
  • 超出已观测范围的未来运行状态

有效的项目会说明哪些不确定性对决策指标的影响最大。这可以为下一次传感器部署、试验、数据质量改进、基准研究、场景族或详细工程研究提供方向。

在交付前定义重新确认触发条件

经过校准的模型是一项具有明确证据适用范围的运营资产。交付材料应说明哪些情况会触发证据评审。

常见触发条件包括:

  • 设施布局、网络拓扑或生产设备发生重大变化
  • 冷却、通风、排风、泵送、控制或安全系统发生变化
  • 出现新的负载范围、工艺配方、机器人任务或运行模式
  • 传感器更换、迁移、重新校准或数据质量下降
  • 残差持续漂移并超出约定阈值
  • 现场观察到的行为与模型冲突
  • 出现后果更严重的新决策或不同的预期用途

重新确认的范围可以从数据与残差评审,扩展到针对性重新校准、新的基准对比、独立试验或完整模型更新。响应深度应与变化的重要程度相匹配。

接受校准结果前应提出的问题

预期用途

  • 该模型将支撑哪项决策?
  • 覆盖哪些变量、位置、条件和时间范围?
  • 错误结论会带来什么后果?

数据与校准

  • 使用了哪些测量数据?它们能否代表预期用途?
  • 调整了哪些参数?为什么选择这些参数?允许范围是什么?
  • 是否保留了基线结果?
  • 最终评审前约定了哪些残差和验收限值?

独立证据

  • 为确认保留了哪些数据或条件?
  • 性能在不同位置、时间、负载和设备状态下如何变化?
  • 哪些结论经过敏感性或不确定性分析后仍保持稳定?

结论与责任

  • 结论采用哪个证据等级?
  • 校准适用范围内可以支撑哪些决策?
  • 哪些条件需要重新运行或补充证据?
  • 谁批准了模型、证据包和由此产生的行动?

选择合适的下一项评估工作

当技术采购团队需要界定决策、比较概念并识别缺失证据时,适合开展探索性评估

当新方法或工作流需要与受控参考行为进行对比时,适合开展基准研究

当现场特定的量值、时序、裕量或运行响应十分重要,并且已有代表性数据时,适合开展实测数据校准研究

当决策后果较重,并且客户团队需要相关条件下的独立证据时,适合开展特定场景确认研究

当组织需要在自身环境中验证数据准备度、模型效用、验收标准、评审责任和交付要求时,适合开展聚焦试点

先定义一项决策,再确定与其相称的证据等级。仿真证据评估指南提供了评审完整证据链的更广泛检查清单。

DataMesh 如何支持证据生命周期

Data Fusion Services 通过身份、时间对齐、血缘和质量上下文帮助组织测量与工程数据。FactVerse Designer 维护空间场景、行为、仿真工况和带版本的评审上下文。DataMesh 项目工作流将物理场输出与指标、结论、行动和专业评审连接起来。

有关生产与机器人场景,请参阅工艺仿真与虚拟规划;有关热环境与韧性问题,请参阅数据中心运营;有关洁净室气流和探测研究,请参阅半导体厂务运营;有关网络校准与规划,请参阅智慧区域供热

公开参考

美国国家标准与技术研究院 (NIST) 关于工业验证、确认与不确定性量化的综述介绍了物理模型质量、分析人员能力、验证与确认以及不确定性量化对仿真可信度的贡献。

NIST 关于计算模型预测的校准与不确定性分析的论文讨论了依据有限物理实验开展校准,以及由测量和模型不足引入的不确定性。

美国机械工程师学会 (ASME) 计算流体力学与传热验证及确认标准 V&V 20 页面介绍了针对指定确认点上指定变量的确认,并将更广泛的插值或外推视为依赖具体应用的工程判断。

美国国家航空航天局 (NASA) 的公开建模与仿真常见问题将输入来源与处理记录、验证、确认、不确定性表征和结果稳健性列为决策者评估可信度时的参考因素。