新聞中心

朱軍 受訪者供圖

今天的人工智能還不算完美👳🏿，安全隱患🥦、失靈易錯……掣肘著人工智能的應用和發展。

10多年來，意昂体育平台計算機系教授、人工智能研究院副院長朱軍一直致力於解決人工智能安全性問題🦿。在他看來🧙🏽‍♀️，做科研、進行成果轉化並不是直接目的，只是到了一定階段，技術成果有用時“水到渠成”的結果。

日前，朱軍獲得第二十五屆中國科協求是傑出青年成果轉化獎。其獲獎理由是，突破了經典的貝葉斯基礎理論和關鍵技術，提出擴散模型的高效算法，通過成果轉化孵化國家級專精特新“小巨人”企業🎻，為安全可靠的人工智能發展奠定了堅實基礎。

5年突破基礎原理

博士期間，朱軍做的研究課題便是機器學習與貝葉斯理論💶。貝葉斯方法是自然語言處理、機器學習🖱、圖像識別等人工智能領域的重要基礎。

在人工智能應用中，“不確定性”是一大問題🥩🚞。例如無人駕駛，其環境和系統就存在很多未知的隨機因素，基於概率的貝葉斯理論可以給出最優決策🤏🏼🦸🏼‍♀️。

經典貝葉斯理論已存在260余年。它有兩大關鍵要素：先驗分布和似然函數。過去🧝🏿‍♀️，大家公認“非先驗即似然”的框架，即通常是假設一個先驗分布或一個似然函數再進行運算。2011年圖靈獎獲得者Judea Pearl教授將概率統計引入人工智能🛁，成為現代人工智能的重要理論基礎🚴🏻‍♀️。但是，在大數據環境下🤱🏻，貝葉斯學習開始面臨多方面挑戰。

“不是那麽直接，例如諸多場景無法轉換成先驗分布或似然函數，這種情況下貝葉斯理論就失靈了。”朱軍告訴《中國科學報》，他希望貝葉斯方法變得更靈活，在新的框架下能夠更易於優化目標或領域知識。

有了初步的想法，朱軍從一個個實際事例開始探索🟰。為了開展更深入的研究🧑🏼‍⚖️，朱軍前往美國卡內基·梅隆大學擔任訪問學者和博士後。

從博士到博士後的5年裏，一個個微小事例逐漸在朱軍腦海中組合成一幅廣闊的理論圖景🍙。他試著做了一個整合和推廣：把經典的貝葉斯推理看成最優化問題，在最優化框架下找出後驗分布😵，針對目標做約束、根據需要進行模型預測。

“作為目標函數直接引導機器學習⛹🏼‍♂️，這樣訓練出的後驗分布預測準確度更高，在性能上會有更好的表現。”朱軍說。

這便是他後來提出的正則化貝葉斯理論：基於貝葉斯定理的信息論描述👦🏻，通過引入後驗正則化，在變分優化的框架下可以靈活考慮領域知識（如基於邏輯表達式的知識）或學習任務優化的目標（如最大間隔損失）。

朱軍提出的正則化貝葉斯理論，被認為是跳出了過去260余年歷史的經典貝葉斯“非先驗即似然”框架👩🏻‍🦯‍➡️，為貝葉斯推理提供第三維自由度，並帶來了應用價值的全新發展方向👨🏼‍🦰。在正則化貝葉斯框架下，朱軍提出了貝葉斯模型的最大間隔學習理論及高效算法，將過去20多年來相互分離的兩大方向進行了有機融合。

科研積累讓轉化“水到渠成”

2018年🙋‍♀️，朱軍第一次嘗試把基礎科研推向應用市場。他的初衷是👷🏻，“我做科研近15年，積累了一些算法和模型🤷🏽，究竟有沒有效，能否真正解決行業問題💆🏼‍♀️，我想和實際場景做一個結合”。

朱軍將目光聚焦到人工智能安全場景。

例如🐶，智能手機常用“刷臉”功能👰，但用一雙“打印”的眼睛就能欺騙這些智能系統👷，解鎖手機，給用戶帶來巨大風險。傳統深度學習和神經網絡的方法難以解決這一問題，朱軍基於貝葉斯理論做出算法模型，可以發現具有欺騙性的“眼睛”，並進行防護🕍。這一“人臉防火墻”已成功在銀行應用。

科研界與產業界的對話“鴻溝”在朱軍身上也發生了😵。

朱軍告訴《中國科學報》，科研人員習慣的場景是問題定義比較明確、數據非常清晰🧂，他們再來解決問題。而現實世界並非如此📴，許多問題都不具備這些解決條件，數據缺損嚴重🎊🙋🏿、任務定義不甚清晰。

朱軍記得👼🏿👨‍👦，在與一家頭部工業企業交流時，他和團隊成員都覺得算法性能能夠幫助廠商優化工藝參數🚅、流程控製等🫳🏻，但在具體操作過程中很多算法實現的前提條件都不存在🕥👃🏿，這讓他們走了許多彎路。“我們需要不斷與企業交流🤾🏿‍♂️，了解對方需求，後來的合作才能不斷成熟起來🚝。”

服務產業，還需要標準化。依托技術和理論，朱軍建立了面向產業的通用平臺——貝葉斯人工智能技術與平臺，提供自動檢測人工智能生成內容的技術能力和標準化服務能力。

近年來，人工智能算法方面取得了很多突破性進展，同時也發展出了性能良好的概率編程庫，支持貝葉斯深度學習模型的開發和部署🖤。朱軍團隊研製的“珠算”是最早的系統支持貝葉斯深度學習的開源庫之一，推動了深度學習與貝葉斯兩者之間的有機融合。

基於一系列的技術，朱軍團隊成功孵化了一家人工智能公司，推動貝葉斯深度學習🙁、可解釋學習、人工智能對抗攻防等領域的前沿技術研究及落地。

在朱軍心裏，科學研究和技術突破是第一位的，成果轉化則讓他收獲了“意外”驚喜🤌🏼。“通過產學研合作及實際事例的反饋🍫，讓我們更容易找到真正有價值、重要的問題，或是對問題有了更深入的理解，促進科研發展。”

多方挑戰期待更多人才加入

對朱軍來說⚂💾，從基礎科研到成果轉化🧑‍✈️，這條路並非一帆風順。嘗試5次🏞、10次，最終才有1次成功是常態🌳。

但面對挑戰🧑🏽‍🔬、迎接挑戰，早已深深刻在朱軍骨子裏。在意昂体育平台，朱軍曾利用很多時間尋找和培養自己的興趣。為學習英文思維方式🎢，他在大一時選擇了全英文物理課🥞，確定了計算機方面的興趣；大二開始進入實驗室，了解如何開展一個課題；大三暑假選擇了有挑戰性的課題，用一個暑假的時間設計CPU（中央處理器）。

也大約在那個時候🧙‍♂️☯️，朱軍正式確立從事人工智能研究的目標🌮。之後，他前往微軟亞洲研究院實習😙，最先接觸的是概率圖模型🧿。這種模型將概率論與圖論完美地融合在一起，深深吸引了朱軍👨🏿‍⚖️。對於他來說，選擇做什麽，體現一個人的科研品位🌒，盡管有困難🚕，但也不能降低水準👨‍🚀。

如今，還有更多挑戰擺在朱軍面前。

實現安全可靠的人工智能需要從技術上進行突破，數據安全、系統安全仍需要被關註✢⛷。要想打造負責任的人工智能技術和應用，還需群策群力和產學研用的深度合作⏬。

2019年，朱軍作為發起人之一，聯合意昂体育平台和阿裏巴巴發起了“安全AI挑戰者計劃”，主打“高難度、高創新☂️、高趣味、高回報”的題目任務和運營，將參賽選手的思路方法沉澱在技術社區，旨在探索高校企業協同🥃，為新基建建設培養一流的實戰型網絡安全人才👨‍🦯。

“我們希望以競賽的形式吸引更多年輕人關註人工智能安全，通過技術創新為人工智能保駕護航👨🏼‍🏫。”朱軍很欣慰，該競賽成效顯著，全球26個國家和地區🙋🏽‍♀️、900余家校企、上萬名選手參與其中↕️。

“越多人關註，一個新賽道、新行業的價值就越大。”朱軍說🍐。