芝能科技出品
人工智能
（AI）
技术已渗透到从消费电子到工业控制的各个领域，其在功能安全中的应用日益受到关注。功能安全是指系统在异常情况下维持安全运行的能力，对于芯片设计、自动驾驶和关键基础设施等领域尤为重要。
本文通过解析工业安全仪表系统
（SIS）
与自动驾驶两大典型场景，揭示AI在提升系统自主决策能力的同时，引发的模型过度自信、数据漂移、标准适配性不足等核心矛盾。
●
AI为功能安全带来了创新解决方案，本文将分为两部分深入探讨：
◎
首先分析AI在功能安全中的应用及其对芯片设计的意义；
◎
其次聚焦AI面临的挑战及其应对策略；
◎
最后展望未来发展趋势。
AI与功能安全的融合既是机遇也是挑战，如何优化AI系统以确保安全性和可靠性，是当前亟需解决的关键问题。
AI 技术在功能安全领域，特别是安全仪表系统
（SIS）
和自动驾驶等安全关键场景中，为芯片设计带来了新机遇。
SIS 作为过程工业保障安全的核心系统，由传感器、控制器和执行器构成，执行安全仪表功能
（SIF）
并需满足特定安全完整性等级
（SIL）
要求。
●
AI 的引入提升了系统智能化水平，芯片作为 AI 计算核心载体至关重要。
◎
AI 可应用于 SIS 多个环节优化功能安全管理
（FSM）
和验证与确认
（V&V）
流程，如数据处理与分析，基于历史数据生成一致性分析结果并自动提取机器可读数据格式，这要求芯片具备高效计算与存储性能以支持实时数据处理；
◎
故障诊断与预测方面，协助故障分类和根本原因分析，芯片需集成高性能神经网络加速器
（如 NPU）
支持复杂推理任务；
◎
甚至在某些场景中 AI 可直接参与安全决策，像自动驾驶中 AI 模型分析传感器数据判断车辆状态并采取控制措施，这对芯片实时性和可靠性提出更高要求。
以自动驾驶为例，AI 芯片需处理大量传感器数据并实现毫秒级响应，不仅要有强大并行计算能力，还需确保极端条件下的稳定性，所以芯片设计采用高性能架构
（如多核 CPU+GPU+NPU 组合）
并集成冗余机制提升容错能力。
●
AI 在功能安全中的应用对芯片设计提出新需求，推动技术进步。
◎
高算力需求方面，AI 模型训练和推理需要强大计算能力，如自动驾驶芯片集成数十亿晶体管支持每秒数万亿次运算，促使芯片厂商采用先进制程技术
（如 5nm、3nm）
提升性能；
◎
低功耗设计上，在工业和汽车应用中，功耗是关键约束，芯片设计需在高性能与低功耗间平衡，通过动态电压频率调整
（DVFS）
或专用 AI 加速器降低能耗；
◎
安全与可靠性层面，功能安全要求芯片在硬件层面具备故障检测和自我修复能力，如采用错误纠正码
（ECC）
内存和双核锁步
（Dual-Core Lockstep）
技术确保计算结果正确。
◎
同时，AI 在 SIS 中的应用对功能安全标准提出挑战，现行标准
（如 IEC 61508）
主要针对传统硬件和软件系统，对 AI 动态性和不确定性缺乏充分覆盖，如 AI 模型训练过程难以通过传统验证方法评估安全性，这要求芯片设计不仅关注硬件可靠性，还需为 AI 算法提供支持，如集成硬件级分布外检测模块识别模型预测异常情况。
行业正在制定新的标准，如 ISO/IEC TS 22440 和 ISO/IEC TR 5469，芯片设计需与这些标准对接，在硬件层实现可追溯性和可验证性以满足合规性要求。
●
AI 在功能安全中也面临严峻挑战。
AI 模型存在过度自信问题，即在面对未知或不确定输入时给出高置信度错误预测，在安全关键领域可能导致灾难性后果，如亚利桑那州和佛罗里达州的自动驾驶事故中，AI 系统因未能正确识别复杂场景导致车辆未能及时刹车。
其原因包括
◎
训练数据偏差，未覆盖所有场景使模型在边缘情况失效；
◎
模型架构缺陷，深度神经网络易过拟合导致泛化能力不足；
◎
不确定性量化不足，传统模型仅输出预测结果未提供置信度评估。
为解决该问题，
◎
芯片设计需集成分布外检测硬件支持，如支持隔离森林或局部异常因子算法的专用模块，通过构建决策树快速隔离异常数据，芯片集成硬件加速器提升检测速度；
◎
不确定性估计模块，实现蒙特卡罗随机失活或贝叶斯神经网络的硬件支持，如特斯拉 FSD 芯片通过多核架构支持多次前向传播评估预测不确定性；
◎
实时监控，芯片内置监控单元实时检测模型输出是否超出安全范围，发现异常触发备用机制。
AI 在功能安全中
的数据相关问题
及芯片层面的应对策略
●
AI 系统运行时还面临数据漂移、概念漂移和数据缺失等数据相关问题，会降低模型性能威胁功能安全。
◎
数据漂移指传感器数据分布因环境变化偏离训练时状态，如自动驾驶车辆从晴天行驶到雨天图像数据分布变化；
◎
概念漂移是硬件升级导致数据语义改变；
◎
数据缺失则是传感器故障或传输中断导致输入不完整。
●
芯片设计需从硬件层提供支持，
◎
如持续学习支持，集成在线学习模块使模型在运行时适应新数据，采用片上存储器缓存最新数据供模型更新使用；
◎
