如果人工智能处理数据发生错误，这种情况可能导致不可预见的决策，而这常常伴随着高昂的代价。为了避免生产中的人工智能功能失灵，弗劳恩霍夫应用与集成安全研究所及其姊妹研究所生产技术研究所正研究一种方法，使人工智能也能经受住现实的考验。让我们来看一个有关该问题的示例。

周一早晨，生产线全速运转。一个人工智能系统监控温度、振动和运行时间，以识别机器磨损及由此引发的潜在故障。一切似乎都在正常范围内，直到突然一个滚珠轴承卡死，设备停机。事后发现是传感器污染导致传输了错误数值。因此，系统未能识别出滚珠轴承的即将故障并保持了沉默。这并不奇怪，因为它从未被训练过质疑数据。

图1  您能确信您生产中的数据始终准确无误吗？如果并非如此——而这种情况相对常见，那么依赖这些数据的人工智能便会失效，并可能导致灾难性的错误决策。弗劳恩霍夫应用与集成安全研究所正致力于研究解决方案

要人工智能——但需具备必要的保障措施

遗憾的是，此类情景在工业制造中也并不少见。虽然人工智能被视为生产的“加分项”，例如在预测性维护或质量控制中但这些系统的性能完全取决于其训练所用的数据。在实践中，人工智能所处理的数据却常常存在错误或缺陷。

其原因在于传感器问题、人为操纵、数据丢失或不断变化的环境条件，这些都会对数据状况产生负面影响。

此外，这些缺陷通常难以识别。然而，如果一个人工智能系统不加甄别地采纳此类数据并据此做出决策，误解可能会带来灾难性后果。可能导致机器和设备停机并产生废品，甚至在最坏情况下，对操作人员构成安全风险。因此，如果没有坚实的数据基础，利用人工智能获取优势的机会就会变成风险。

图2  如果新的数据验证系统检测到制造数据异常，将来系统能够自动干预。例如，它会停止将有缺陷的输入传递给生产性人工智能系统

此前缺乏针对数据的质量保证

因此，像AID-pro这样的研究项目（生产中异常检测——面向生产流程的数据验证）着手于解决目前导致人工智能高效可靠应用出现动摇的环节——即数据质量的保障。目前缺失的关键环节是一个能够保障数据质量、降低人工智能应用风险，从而为更安全、高效和有韧性的生产铺平道路的系统。因此，在该项目中，正在开发一种验证系统，用于在运行过程中自动、实时地分析生产数据。它持续检查数据是否完全合理且一致。在此过程中，它能及早识别偏差和异常。其目标是为所有下游基于AI的流程建立一个可靠的数据基础。

系统结合了多个分析层级

这涉及到一种多层级的检查方法，系统将多个分析层级相互结合。

基于规则的检查：此处检查某个生产步骤的所有预期数据值是否存在。每个数据点都与预定义的数据模式进行比对。为此，生产中的专业知识：例如预期的值范围、格式节拍时间和被转化为形式化规则。这样，缺失的传感器数值、不切实际的测量数据或格式错误可以被自动识别。例如，超出技术可能范围的温度值，或者由于有缺陷的测量传感器导致的压力值突然跳变。

统计方法：对平均值、方差或相关性等关键指标进行统计分析，以识别与预期流程行为不寻常的偏差。例如，某些测量值的突然上升或骤降，可能表明部件故障或校准错误。时间序列分析也被应用，以显示趋势或重复出现的模式，这些模式暗示着系统行为的长期变化；

基于人工智能的分析：人工智能本身也有助于保障后续的流程步骤的数据质量。人工智能模型能够在生产数据中识别复杂模式、上下文及集体性离群值和异常，或数据漂移，即由于机器部件磨损或污染等原因导致的测量模式缓慢变化。此类关于生产条件变化的指示被用来有针对性地改进生产性模型的训练。之后，这些模型便能够将新的边界条件纳入其决策制定中。

图3  人工智能只有在稳定的数据基础上运作，才能改造工业制造。因此，AID-pro研究项目正致力于解决许多人工智能系统至今仍面临局限的领域

未来的数据预警系统将发出警报

如果数据验证系统检测到数据异常，将来系统能够自动干预。例如，它可以停止将有缺陷的输入传递给生产性AI系统，或者标记受影响的值以供检查。同时，它还提供提示，表明生产AI的训练数据是否需要改进。例如，因为流程条件发生了永久性变化。这样一来，即使在条件变化的情况下，基于AI的决策（例如关于维护或质量检查）基础也能保持稳定。

这些认知也直接应用于实践

为了在安全高效地在生产中应用人工智能建立可靠的基础，需要不仅能够确保数据质量，而且能够持续确保、并足够灵活以适应不同生产条件的系统。这正是AID-pro研究项目旨在发挥杠杆作用的着力点。

自2025年初以来，参与的弗劳恩霍夫研究所正在开发一个智能的监控与预警系统，用于优化制造业中人工智能的工业应用。Aventus、Aviat Networks、Bitmorec、Elunic、Giesecke+Devrient、KSB、Logsight.ai和Sikora等公司正将其实践经验融入其中。这样，项目参与者最终确保研究工作也能与工业需求保持一致。因此，该解决方案基于实际应用案例，非常贴近实践地开发，并且采用模块化构建。这使得最终成果能够灵活地集成到不同的生产环境中。

结论：只有凭借可靠的数据才能做出正确决策！

因此，人工智能只有在稳定的数据基础上运作，才能改造工业制造。AID-pro致力于解决许多人工智能系统至今仍面临局限的领域。这项研究工作创造了关于所用数据质量的透明度，系统能在产生后续错误之前识别偏差，并且它支持生产性AI模型，使其能有针对性地适应变化的条件。

因此，项目工作有助于人工智能系统在条件变化时仍能可理解地工作，而不是在不确定的基础上做出决策。其目标是使流程不仅更高效，而且更可持续、更具韧性。减少废品、更好地处理资源以及更高的设备可用性，这些都是可以收获的成果。保障数据质量的人，也自动保障了其生产的质量。