近日，阿里巴巴集團與清華大學簽訂協(xié)議，啟動智能體與多模態(tài)安全產(chǎn)學研深度融合專項合作。雙方此次合作為期5年，聚焦智能體與多模態(tài)大模型在真實應用場景中的核心安全挑戰(zhàn)展開攻關研究。中國科學院院士張鈸、中國工程院院士戴瓊海、阿里巴巴集團副總裁錢磊出席簽約儀式。

　　張鈸院士表示，清華大學與阿里巴巴集團啟動重大研究專項，旨在通過“從0到1”的基礎理論與“從1到N”的產(chǎn)業(yè)場景深度融合，協(xié)同攻克多模態(tài)安全核心難題，筑牢下一代人工智能發(fā)展的安全基石。戴瓊海院士表示，雙方攜手攻關“智能體與多模態(tài)安全”，將合力貫通“創(chuàng)新策源”與“產(chǎn)業(yè)轉化”，是AI領域產(chǎn)學研深度融合的關鍵之舉。

　　據(jù)介紹，雙方將圍繞兩大方向展開系統(tǒng)性研究：一是智能體安全問題，涵蓋AI智能體在人機交互、自主決策、多模態(tài)環(huán)境中的行為可信性、隱私保護與風險防控；二是多模態(tài)大模型自身的安全問題，包括模型魯棒性、價值觀對齊等基礎安全能力。項目將研發(fā)“AI智能體安全中樞”“高階大模型內(nèi)生安全架構”等關鍵技術，構建從底層模型到上層應用的全棧安全體系。

　　阿里巴巴集團副總裁錢磊表示，清華大學擁有國際領先的AI科研能力，阿里巴巴具備豐富的AI應用場景和實踐經(jīng)驗，雙方的產(chǎn)學研合作實現(xiàn)了優(yōu)勢疊加，圍繞“負責任科技”理念開展前瞻性研發(fā)，并通過開源開放生態(tài)惠及全行業(yè)。

　　據(jù)了解，阿里巴巴集團與清華大學在安全領域的產(chǎn)學研合作由來已久，在 CVPR、ICML、NeurIPS 等國際頂級學術會議發(fā)表近20篇高水平論文，多項技術從實驗室創(chuàng)新轉化為產(chǎn)業(yè)級應用。