科技是發(fā)展的利器，但也可能成為風(fēng)險(xiǎn)的源頭，人工智能也不例外。中國(guó)科學(xué)院院士、清華大學(xué)計(jì)算機(jī)系教授張鈸在“人工智能安全與產(chǎn)業(yè)治理”論壇上表示，人工智能的發(fā)展引發(fā)新一輪產(chǎn)業(yè)變革，帶來(lái)傳統(tǒng)產(chǎn)業(yè)的智能化，比如網(wǎng)絡(luò)搜索中采用推薦算法、用戶畫(huà)像等方式提高服務(wù)的效率和質(zhì)量。智能技術(shù)的產(chǎn)業(yè)化還催生了新產(chǎn)業(yè)，比如智慧交通、智慧醫(yī)療、智慧城市、自動(dòng)駕駛等。但是，這些變革也帶來(lái)了新的風(fēng)險(xiǎn)和安全隱患，因此人工智能的發(fā)展既要抓創(chuàng)新，也要抓治理。

與其他新興技術(shù)相比，人工智能發(fā)展與治理中存在一些特殊性。從算法層面來(lái)看，現(xiàn)有的人工智能算法比較脆弱，泛化能力較差。這就意味著，如果將算法運(yùn)用到與訓(xùn)練場(chǎng)景區(qū)別很大的實(shí)際場(chǎng)景中會(huì)存在安全問(wèn)題。以無(wú)人駕駛為例，人工智能在訓(xùn)練時(shí)不可能包含所有的情境，當(dāng)遇到突發(fā)事件，很容易導(dǎo)致算法無(wú)法處理，造成人工智能技術(shù)的誤用。同時(shí)，這種脆弱性還使人工智能系統(tǒng)容易被攻擊、被欺騙，給人工智能技術(shù)的濫用造成可乘之機(jī)。

從數(shù)據(jù)層面來(lái)看，現(xiàn)在人工智能應(yīng)用效果很大程度上依賴數(shù)據(jù)質(zhì)量，但由此會(huì)引發(fā)隱私泄露、數(shù)據(jù)確權(quán)等問(wèn)題。如果解決不好數(shù)據(jù)安全問(wèn)題，人工智能產(chǎn)業(yè)不可能健康發(fā)展。

從應(yīng)用層面來(lái)看，人工智能技術(shù)已經(jīng)逐漸對(duì)人們的生活造成沖擊，比如“困在算法里的外賣(mài)騎手”等事件就經(jīng)常發(fā)生。還有像深度偽造等可能對(duì)社會(huì)造成重大影響的技術(shù)，都必須保證安全可控。

人工智能的創(chuàng)新是發(fā)展的必然。縱觀信息科技的發(fā)展歷史，信息科技發(fā)展異常迅猛，但基本實(shí)現(xiàn)了安全可控。而人工智能的發(fā)展卻緩慢曲折，安全問(wèn)題層出不窮。兩者的不同在于，信息革命一開(kāi)始，信息學(xué)三大理論就已經(jīng)建立，即圖靈機(jī)理論、香農(nóng)理論以及維納的控制論。有了堅(jiān)實(shí)的理論基礎(chǔ)，才能引導(dǎo)信息技術(shù)健康發(fā)展。

人工智能則不同，它的理論基礎(chǔ)至今沒(méi)有建立，盡管經(jīng)歷了第一代人工智能的符號(hào)主義模型(知識(shí)驅(qū)動(dòng))和第二代人工智能的亞符號(hào)(連接)主義模型(數(shù)據(jù)驅(qū)動(dòng))，但由于它們均具有很大的局限性，不能構(gòu)成人工智能的理論基礎(chǔ)。由于缺乏理論指導(dǎo)，人工智能的發(fā)展處于難以控制的局面。因此，建立人工智能的理論基礎(chǔ)是“第三代人工智能”的初衷。

張鈸解釋說(shuō)，“第三代人工智能”的發(fā)展路徑是融合第一代的知識(shí)驅(qū)動(dòng)和第二代的數(shù)據(jù)驅(qū)動(dòng)的人工智能，利用知識(shí)、數(shù)據(jù)、算法和算力四個(gè)要素，建立新的可解釋和魯棒的人工智能理論與方法，從而發(fā)展安全、可信、可靠和可擴(kuò)展的人工智能技術(shù)，通過(guò)發(fā)展“第三代人工智能”和人工智能治理一起抓，才能實(shí)現(xiàn)相輔相成、共同發(fā)展的目標(biāo)。

人工智能剛剛拉開(kāi)序幕，更精彩的大戲即將上演。張鈸呼吁，產(chǎn)業(yè)需要共同發(fā)展安全可控的第三代人工智能，讓人工智能真正造福于人類(lèi)。

標(biāo)簽： 人工智能 安全 第三代 難題