阿里巴巴与清华大学启动AI安全专项合作

1月10日消息，阿里巴巴集团近日与清华大学签订协议，启动智能体与多模态安全产学研深度融合专项合作。双方此次合作为期5年，聚焦中国AI用户在真实应用场景中面临的核心安全挑战，首批启动6个课题。清华大学副校长吴华强、中国科学院院士张钹、中国工程院院士戴琼海、阿里巴巴集团副总裁钱磊出席签约仪式。

图源：央广网

本次合作，双方将围绕两大方向展开系统性研究：一是大模型自身的安全问题，包括模型鲁棒性、价值观对齐等基础安全能力；二是以大模型为核心驱动的智能体应用安全，涵盖AI智能体在人机交互、自主决策、多模态环境中的行为可信性、隐私保护与风险防控。项目将研发“AI智能体安全中枢”“高阶大模型内生安全架构”等关键技术，构建从底层模型到上层应用的全栈安全体系。

张钹院士表示，清华大学与阿里巴巴集团启动重大研究专项，旨在通过“从0到1”的基础理论与“从1到N”的产业场景深度融合，协同攻克多模态安全核心难题，筑牢下一代人工智能发展的安全基石。戴琼海院士表示，双方携手攻关“智能体与多模态安全”，将合力贯通“创新策源”与“产业转化”，是AI领域产学研深度融合的关键之举。

阿里巴巴集团副总裁钱磊表示，清华大学拥有国际领先的AI科研能力，阿里巴巴具备丰富的AI应用场景和实践经验，此次产学研合作实现了优势叠加。双方将围绕“负责任科技”理念开展前瞻性研发，并通过开源开放生态惠及全行业。

阿里巴巴集团与清华大学在安全领域的产学研合作由来已久，自2021年以来，双方联合研究累计完成近20个科研课题，在CVPR、ICML、NeurIPS等国际顶级学术会议发表近20篇高水平论文，多项技术从实验室创新转化为产业级应用；期间通过联合培养博士后、设立研究型实习岗位、共建学术交流平台等方式，向行业源源不断输送高素质复合型人才。