背景：人工智能作為引領第四次科技革命的戰略性技術 ， 給社會建設和經濟發展帶來了重大而深遠的影響 。 人工智能在純技術層面是價值中立的 ， 但在實際應用中 ， 兼具創造性和破壞性 。 可以看到 ， 數據隱私、算法偏見、技術濫用等安全問題正給社會公共治理與產業智能化轉型帶來嚴峻挑戰 。

此背景下 ， 張鈸院士發表題為《人工智能的治理與創新發展》演講 ， 他強調：“特別是要講發展第三代人工智能的必要性 。 ”
首先 ， 講人工智能的治理 。 信息產業發展與技術發展過程 ， 也出現過安全問題 。 信息系統安全性的問題 ， 主要來自于大型軟件設計漏洞或者缺陷 ， 或利用缺陷對系統進行攻擊 ， 進而產生安全問題 。
這時候 ， 安全問題的性質主要就是由于設計的缺陷造成的 ， 所以 ， 相對來講它是容易克服的 ， 一旦發現漏洞之后 ， 把漏洞補上就解決了 。
到人工智能技術發展之時 ， 出現完全全新的安全問題 。 這個安全問題不是來自于設計的考慮不周到 ， 主要來源于算法本身的不安全 。
所以 ， 這個問題是非常難以解決的 。
因為它是由算法本身造成的 ， 所以必須對算法本身做一個徹底的改變 ， 才能完全解決安全問題 。 人工智能的安全問題之所以這么被重視 ， 主要原因就是它的安全問題更加本質 ， 更加難以克服 。
所以 ， 我們要解決這個問題 ， 主要是從兩個方面入手 。
一個方面就是治理 。
治理有兩個含義：一是防止人工智能技術被誤用 ， 就是無意識的誤用 ， 因為人工智能算法本身帶來不安全問題 ， 是很難被預先發現 。
所以 ， 有時候在使用過程中間會出現很多錯誤 ， 如果我們在使用的過程中不注意到這個問題會產生無意識地錯用 ， 造成嚴重后果 。
第二類問題是有意識（故意）地濫用人工智能技術 ， 就是利用人工智能算法的不安全性 ， 去造成對人工智能系統的惡意攻擊或者濫用 ， 這個必須要通過法律法規來解決 ， 加以制止 。
今天 ， 我主要講算法的不安全性——如何來通過技術的創新 ， 解決人工智能算法的不安全性問題 。 我們提出來發展第三代人工智能 ， 得先說人工智能算法的安全性來自何處？
算法的不安全性 ， 由于第二代人工智能引起 ， 第一代人工智能并沒有存在這個問題 。
第二代人工智能我們用數據驅動的方法 ， 基本上無論對圖像處理 ， 語音處理 ， 文本處理是利用深度學習技術 。
大家可以看到 ， 在數據樣本比較多的情況下面 ， 識別率可以做到很高 ， 無論是語音或者圖像 。 但是 ， 這里存在非常本質的問題就是 ， 這個算法非常脆弱 ， 非常不安全 。 舉圖像識別的一個例子 ， 一張人類和計算機看起來都是雪山的圖像 ， 但是 ， 在這張圖像上加噪聲 ， 右邊和左邊的圖唯一的區別是多一點噪聲 。 人的眼睛看這張圖像當然是雪山 ， 但計算機系統把它認為是一條狗 ， 而且算法的置信度是99.99% ， 從這里就可以看出來 ， 人類的視覺跟計算機的識別完全是不一回事 。 同時 ， 也說明這個人工智能的算法是脆弱的 ， 容易被攻擊的 ， 容易被欺騙的 。
原因何在？
非常簡單 。 這個算法本身 ， 我們通常講的“黑箱學習算法” ， 一張馬的圖片 ， 告訴計算機這是馬 ， 但其實 ， 計算機根本不知道馬在哪兒 ， 不知道這個圖里面馬在什么地方 。 計算機怎么做“識別馬”這個事情？
計算機提取這張圖片的局部特征 ， 來馬跟其他動物區別開來 ， 換句話講計算機不是提取馬本身的語義特征 ， 而是提取這張圖里（不僅僅是馬）所有的底層特征 ， 跟其他動物進行比較 ， 計算機是用底層特征對動物加以區別 。
所以 ， 從原理上來看 ， 存在根本性的問題 ， 這種處理方法的局限性表現在：處理圖像 ， 是放在特征向量空間中來處理 ， 放在連續數據空間里面進行技術處理 ， 進行分類 。
計算機這個分類根本跟“認知”完全不是一碼事 。 換句話說 ， 計算機不是去“認識”這個馬 ， 而是用分類的方法把馬和其他動物區分開來 。
這個算法本身就是不安全的 ， 就是容易受攻擊的 ， 我們如何克服？
這是我們提出來第三代人工智能的動機 。
發展第三代人工智能包含三個方面的內容：
一個方面的內容是最主要的 ， 我們要建立一個可解釋的魯棒人工智能理論 ， 人工智能發展至今 ， 所以走過非常曲折的道路 ， 進展比較緩慢 ， 根本的原因就是它沒有一個堅實的理論基礎 ， 這個跟信息科技的發展完全不同 ， 信息科技的發展的初期所有理論都建立起來了 ， 所以信息科技發展非常順利 ， 一路高速發展 ， 因為三大理論 ， 圖靈機計算理論、通信理論、維納控制論 ， 一個在1936年 ， 兩個在1948年建立的 ， 人工智能缺少這個理論 。

• 國產APP的體積已經超越大型手游APP，里面到底加入了多少大數據算法程序？
• 醫療保健數據的數字化以及計算機的進步，促進了高級算法的開發
• 人工智能算法始于三個概念, 算法永遠無法跳出這三個“盒子”思考
• 60%感光能力提升，35%噪點降低！OPPO全新自研RGBW算法首次硬件化
• 向華為看齊？中興正式官宣，倪光南院士的呼吁正在實現
• 繼華為后又一企業遭難，留給中國的時間還有多少？院士給出了答案
• 被美國院士說對了！國產廠商開始發力，撕開了蘋果的“遮羞布”
• 美院士大呼上當，國內科技巨頭5G性能第一！沒辦法，防不住了
• 為什么不如華為？聯想終于醒悟，還是倪光南院士說的對！
• 美院士一語中的，蘋果的“遮羞布”被扯下，國產巨頭完成“雙殺”