支付宝“智能金融犯罪风险防控模型”高分通过中国信通院测评

12月27日消息，近日，在“2021 GOLF+ IT新治理领导力论坛”上，中国信息通信研究院正式发布了“人工智能模型风险治理能力成熟度测评”的首批评估结果。由支付宝、招商银行等企业送测的4个AI模型，成为首批通过风险治理成熟度测评的人工智能模型。

其中，支付宝送测的、基于可信AI技术的“智能金融犯罪风险防控模型”，在“AI模型全生命周期管理”、“应急响应”、“决策透明”三个测试项目中，均排名第一；并在考察AI可解释性的“决策透明”项目中，获得了本期测评的最高评级（卓越级）。

（图源CAICT数字化治理，下同）

据悉，此次测评参照的标准是由中国信通院联合京东、蚂蚁集团、字节跳动、快手、京东科技、滴滴等20余家企业和专家依托中国互联网协会平台联合制定的《人工智能模型风险治理能力成熟度模型》。该标准聚焦企业人工智能模型风险治理，建立了一套围绕人工智能模型的风险治理能力成熟度的治理框架。

测评围绕“AI模型全生命周期管理”、“应急响应”、“决策透明”、“专利保护”、“模型安全影响评估”、“交互与沟通”、“外部合作”等板块展开；对参评企业在可信人工智能领域，包括鲁棒性、可解释性、公平性、数据隐私保护等不同维度的技术能力及技术治理方案都做出了规范和要求。

人工智能模型风险治理能力成熟度可评估模块

蚂蚁集团全面风险管理部高级专家杨舟表示，此次送测的“智能金融犯罪风险防控模型”此前已广泛应用于反欺诈等金融犯罪风险防控领域，不仅在隐私保护、公平性等领域的技术创新及实践应用上积累了丰富的经验，在操作风险防控、模型全生命周期质量管控、模型使用管理等模型治理方面，也做出了许多积极探索。可信、智能模型风险管理体系已成为蚂蚁全面风险管理的核心模块。