我们正在寻找一位AI安全专家,负责在ADAS/AD系统的软件和AI算法层面推动安全开发,确保安全概念有效地集成到AI开发生命周期中。
- 主导AI安全战略: 领导针对AI驱动功能的功能安全 (ISO 26262) 和 SOTIF (ISO 21448) 需求分析,管理ADAS项目中AI模型的安全需求讨论,并定义AI安全策略。
- AI安全概念与需求分解: 针对神经网络和AI算法推导功能安全/SOTIF概念。在软件和算法层面定义SOTIF策略以处理已知未知场景,并向AI开发团队交付全面的安全需求。
- AI安全分析与验证: 针对AI系统主导并执行安全分析,包括软件相关失效分析 (SW DFA)、AI特定危害分析及SOTIF触发条件分析。识别模型在边缘情况下的弱点及潜在的不安全行为。
- 安全工程支持: 支持安全相关的AI架构设计,并在整个开发生命周期中协助分析与AI相关的安全问题(如数据分布偏移、长尾场景、OOD检测)。
- 安全文档撰写: 准备并审核AI模型设计、训练、测试和验证的安全文档。确保所有安全关键的AI交付物符合严格的标准。
- AI安全PoC与创新: 负责安全特性概念验证的开发,重点关注:
- 针对安全覆盖度的关键数据属性/维度分析。
- 识别并缓解模型弱点(例如:不确定性估计)。
- 定义AI专属安全KPI并开发安全分析工具。
- 开发独立安全模型(例如:独立监控器、冗余系统)。
- 持续学习: 持续提升在AI安全工程和新兴技术(例如:大模型、端到端安全)方面的知识,确保团队紧跟最新行业标准及最佳实践。