關(guān)于人工智能與信息安全的思考

關(guān)于人工智能

隨著社會(huì)信息化的飛速發(fā)展，一項(xiàng)劃時(shí)代的技術(shù)正在掀起新的技術(shù)革命浪潮，那就是人工智能。

自1956年“人工智能”一詞第一次出現(xiàn)在達(dá)特茅斯會(huì)議上，已經(jīng)過去60多年。在經(jīng)歷了第一階段的符號(hào)主義、第二階段的數(shù)學(xué)建模之后，人工智能來到了移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、超級(jí)計(jì)算、萬物互聯(lián)為技術(shù)基石的信息時(shí)代。在算法和計(jì)算能力的驅(qū)動(dòng)下，這項(xiàng)曾經(jīng)只在科幻小說里被人們津津樂道的技術(shù)，終于化繭成蝶，第一次真真切切地站在普通大眾面前，以阿拉法狗在圍棋領(lǐng)域顛覆性的勝利為標(biāo)志，宣告了信息時(shí)代又一次新技術(shù)革命的到來。

根據(jù)中國電子技術(shù)標(biāo)準(zhǔn)化研究院在2018年1月最新發(fā)布的《人工智能標(biāo)準(zhǔn)化白皮書》，人工智能被定義為利用數(shù)字計(jì)算機(jī)或者數(shù)字計(jì)算機(jī)控制的機(jī)器模擬、延伸和擴(kuò)展人的智能，感知環(huán)境、獲取知識(shí)并使用知識(shí)獲得最佳結(jié)果的理論、方法、技術(shù)及應(yīng)用系統(tǒng)。人工智能通常被劃分為弱人工智能和強(qiáng)人工智能兩類。弱人工智能是能制造出真正地推理和解決問題的智能機(jī)器，但這些機(jī)器不具備自主意識(shí)；而強(qiáng)人工智能則是讓這些智能機(jī)器擁有思維能力和自主意識(shí)�，F(xiàn)階段的人工智能研究主要集中于弱人工智能，并且已經(jīng)在計(jì)算機(jī)視覺、語音識(shí)別、自然語言處理、大數(shù)據(jù)應(yīng)用和決策系統(tǒng)等方面取得重大突破。但是，關(guān)于強(qiáng)人工智能的研究仍處于探索階段。

 

 

人工智能是信息社會(huì)的核心技術(shù)

當(dāng)今社會(huì)已經(jīng)進(jìn)入信息時(shí)代。信息社會(huì)的主要資源就是信息。這些信息資源及其以大數(shù)據(jù)、人工智能、云計(jì)算和網(wǎng)絡(luò)通信為主的信息處理技術(shù)共同形成信息產(chǎn)業(yè)，逐步在經(jīng)濟(jì)和社會(huì)發(fā)展中發(fā)揮主導(dǎo)作用。當(dāng)信息的共享突破時(shí)空限制的時(shí)候，所有人類高端的生產(chǎn)、生活、學(xué)習(xí)形態(tài)都以信息的獲取、存儲(chǔ)、處理以及再產(chǎn)生為基本模式。這其中又以信息處理環(huán)節(jié)為核心。而人工智能技術(shù)正是借助算法和計(jì)算能力，仿照人腦同時(shí)在很多方面超越人腦的信息處理技術(shù)，因此人工智能技術(shù)將是構(gòu)成信息社會(huì)的核心技術(shù)。

鑒于人工智能技術(shù)對(duì)信息社會(huì)的重大推動(dòng)作用，我國“國家互聯(lián)網(wǎng)+行動(dòng)計(jì)劃”和“十三五”國家科技創(chuàng)新規(guī)劃均將人工智能作為戰(zhàn)略型新興產(chǎn)業(yè)，同時(shí)部署了智能制造等國家重點(diǎn)研發(fā)計(jì)劃和專項(xiàng)，對(duì)人工智能產(chǎn)業(yè)予以大力扶持。在2017年7月國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中對(duì)人工智能的發(fā)展制定了三步走的目標(biāo)：第一步，到2020年人工智能總體技術(shù)和應(yīng)用與世界先進(jìn)水平同步，人工智能產(chǎn)業(yè)成為新的重要經(jīng)濟(jì)增長點(diǎn)；第二步，到2025年人工智能基礎(chǔ)理論實(shí)現(xiàn)重大突破，人工智能成為帶動(dòng)經(jīng)濟(jì)轉(zhuǎn)型的主要?jiǎng)恿�；第三步，�?030年人工智能理論、技術(shù)與應(yīng)用總體達(dá)到世界領(lǐng)先水平，成為世界主要人工智能創(chuàng)新中心。這是國家層面的戰(zhàn)略規(guī)劃，必將得到強(qiáng)有力的推進(jìn)和實(shí)施。

我們正站在又一次技術(shù)大變革時(shí)代的門口。

工業(yè)革命中出現(xiàn)了動(dòng)力和機(jī)器，曾經(jīng)大量繁重的體力工作被機(jī)器所替代，從而大大提高了社會(huì)的生產(chǎn)效率。人工智能的出現(xiàn)也將把人們從繁重的腦力勞動(dòng)中解放出來。人工智能技術(shù)是知識(shí)和數(shù)據(jù)雙驅(qū)動(dòng)下的產(chǎn)物，隨著信息社會(huì)中數(shù)據(jù)的膨脹，人工智能的數(shù)據(jù)樣本趨于豐富，人類的一些規(guī)則明確、煩瑣單一的腦力勞動(dòng)直至分析、決策、規(guī)劃等高端腦力勞動(dòng)都可以逐步被人工智能所替代。人工智能技術(shù)給人類帶來的影響，可能遠(yuǎn)遠(yuǎn)超過計(jì)算機(jī)和互聯(lián)網(wǎng)在過去幾十年間給人類世界帶來的改變。

 

人工智能的安全問題

人工智能是信息社會(huì)的革命性技術(shù)，是智能化的信息社會(huì)的核心技術(shù)，目前正處于爆炸式發(fā)展的初期階段。但是，正如任何一個(gè)事物的出現(xiàn)都有其兩面性一樣，人工智能的加速發(fā)展也已經(jīng)帶來一些實(shí)際問題，最為突出的就是信息安全問題。

首先，是人工智能應(yīng)用帶來的安全問題

人工智能具有廣泛的應(yīng)用前景，目前已經(jīng)涉及制造、農(nóng)業(yè)、物流、金融、商務(wù)、家居等行業(yè)和領(lǐng)域。伴隨著人工智能應(yīng)用的推廣，其安全問題越來越凸顯出來。

以目前非常熱的智能交通領(lǐng)域?yàn)槔�，很多汽車廠家和互聯(lián)網(wǎng)公司都推出了無人駕駛汽車以及智能交通系統(tǒng)。在智能交通方面，目前在我國深圳，首批無人駕駛的公交車已成功運(yùn)行，預(yù)示著人工智能技術(shù)在決策系統(tǒng)應(yīng)用上有了重大突破。在人工智能控制交通的時(shí)代，指揮交通運(yùn)行的效率可以達(dá)到最優(yōu)，交通事故率理論上可以趨近于零。但是在已有風(fēng)險(xiǎn)消除的同時(shí)，新的風(fēng)險(xiǎn)被引入：曾經(jīng)駕駛員人為的交通事故可能被智能交通系統(tǒng)的信息安全事故所替代。黑客可以從無線渠道侵入智能汽車終端、從有線渠道侵入后臺(tái)信息控制系統(tǒng)，從而接管無人駕駛汽車甚至智能交通系統(tǒng)的控制權(quán)；也可以破壞自動(dòng)駕駛系統(tǒng)的信息采集和傳輸途徑，進(jìn)而誘導(dǎo)終端和后臺(tái)的智能算法作出錯(cuò)誤判斷。實(shí)際上，無人駕駛汽車或者智能交通系統(tǒng)由復(fù)雜的自動(dòng)化機(jī)器和信息系統(tǒng)組成，其信息采集、傳輸、處理各個(gè)要素環(huán)節(jié)都面臨安全風(fēng)險(xiǎn)，目前已有黑客通過盜取移動(dòng)App賬號(hào)密碼進(jìn)而控制自動(dòng)駕駛汽車的案例。

人工智能技術(shù)應(yīng)用于其他領(lǐng)域也同樣如此。安全問題最突出的包括工業(yè)智能制造、智慧城市管理、智慧醫(yī)療、智慧家居等和人們社會(huì)生產(chǎn)生活密切相關(guān)的領(lǐng)域。由于人工智能處于信息社會(huì)的核心層面，控制著大量生產(chǎn)、生活設(shè)備、數(shù)字化資產(chǎn)乃至社會(huì)運(yùn)轉(zhuǎn)規(guī)則，一旦黑客入侵后臺(tái)控制系統(tǒng)，技術(shù)系統(tǒng)遭到破壞，將帶來與其技術(shù)重要性相同的破壞力，嚴(yán)重威脅信息系統(tǒng)安全乃至人身安全和社會(huì)安全。

其次，人工智能作為一項(xiàng)信息領(lǐng)域的關(guān)鍵技術(shù)，其自身也存在一些安全問題

在信息領(lǐng)域，任何代碼、算法、開發(fā)框架乃至工程實(shí)現(xiàn)的軟件系統(tǒng)，毫無例外都會(huì)存在一定程度的信息安全問題。代碼量越大，系統(tǒng)越復(fù)雜，往往暴露出的安全問題越多。人工智能領(lǐng)域的專家往往不具備信息安全專業(yè)知識(shí)，因此，在這項(xiàng)技術(shù)的發(fā)展過程中，他們專注于實(shí)現(xiàn)機(jī)器模擬、延伸和擴(kuò)展人的智能這些核心目標(biāo)，安全問題往往被當(dāng)作次要因素加以忽略。目前，安全屆已經(jīng)暴露出人工智能技術(shù)自身存在的一些安全漏洞，包括開發(fā)框架穩(wěn)定性、算法設(shè)計(jì)缺陷、代碼自身漏洞等方面。以代碼漏洞為例，根據(jù)公開報(bào)道，國內(nèi)外安全技術(shù)團(tuán)隊(duì)曾發(fā)現(xiàn)數(shù)十個(gè)深度學(xué)習(xí)的軟件漏洞，其類型包括內(nèi)存訪問越界、空指針引用、整數(shù)溢出、除零異常等常見類型。人工智能技術(shù)自身的安全性和健壯性問題會(huì)導(dǎo)致人工智能系統(tǒng)出現(xiàn)錯(cuò)誤甚至崩潰，或被攻擊者利用進(jìn)行破壞、侵入乃至劫持系統(tǒng)。隨著人工智能應(yīng)用的推廣，其自身的安全問題也越來越引起人們關(guān)注。

再次，人工智能暴露出人們的隱私保護(hù)問題

人工智能技術(shù)的普及大大提升了人們生活的便利，但是，也帶來了非常嚴(yán)重的隱私保護(hù)問題。人工智能技術(shù)本身算法的準(zhǔn)確率高度依賴于海量用戶數(shù)據(jù)的訓(xùn)練分析，尤其需要獲取大量用戶個(gè)人信息，以便提供個(gè)性化、定制化服務(wù)，這些都會(huì)導(dǎo)致用戶個(gè)人信息泄露。谷歌DeepMind公司曾與英國NHS醫(yī)療服務(wù)機(jī)構(gòu)聯(lián)合開發(fā)了一個(gè)名為Streams的基于人工智能的手機(jī)應(yīng)用程序，希望能給患者提供更加個(gè)性化的智能服務(wù)。但是作為醫(yī)療服務(wù)機(jī)構(gòu)，NHS并沒有向患者明確說明他們的醫(yī)療信息將被如何使用，也沒有詢問患者是否同意DeepMind處理自己的醫(yī)療數(shù)據(jù)。它們之間的數(shù)據(jù)交易被英國信息專員辦公室認(rèn)定為“沒有遵守?cái)?shù)據(jù)保護(hù)法案”。從這個(gè)案例可以看出，人工智能技術(shù)的普及在為人們生活帶來便利的同時(shí)，存在非常嚴(yán)重的隱私保護(hù)問題。實(shí)際上，獲得生活便利和保護(hù)個(gè)人隱私，目前已經(jīng)成為一個(gè)兩難選擇。交出個(gè)人隱私和數(shù)據(jù)，獲得個(gè)性化、人性化的全方位技術(shù)服務(wù)，這是人工智能時(shí)代的基本模式。不管是無人駕駛、智能管家、數(shù)字助理還是機(jī)器人保姆，這些人工智能技術(shù)和產(chǎn)品能更好為你服務(wù)的前提都是全面收集處理你的各種行為數(shù)據(jù)。小到興趣、愛好、行為習(xí)慣，大到道德、宗教、政治傾向、人生觀價(jià)值觀，人工智能比你自己還要了解你自己。這樣一種生活狀態(tài)不管是拒絕還是歡迎，都會(huì)在未來20年左右的時(shí)間來到我們身邊。技術(shù)上為了保護(hù)用戶的隱私，在采集數(shù)據(jù)的時(shí)候可以對(duì)數(shù)據(jù)集進(jìn)行模糊處理，使得收集到的海量數(shù)據(jù)無法和個(gè)體用戶相對(duì)應(yīng)。這種信息模糊技術(shù)從上個(gè)世紀(jì)就存在，但是其發(fā)展速度遠(yuǎn)遠(yuǎn)落后于人工智能技術(shù)的發(fā)展。目前，我們的隱私和個(gè)人數(shù)據(jù)，在大數(shù)據(jù)和人工智能這些收集、處理和分析技術(shù)面前基本上處于裸奔的狀態(tài)。

 

人工智能在信息安全領(lǐng)域的應(yīng)用

人工智能技術(shù)在信息安全方面帶來的不只是威脅和風(fēng)險(xiǎn)，也對(duì)信息安全技術(shù)的提升有很大幫助。人工智能在信息安全領(lǐng)域的應(yīng)用十分廣泛，包括生物特征識(shí)別、漏洞檢測、惡意代碼分析等諸多方面。

基于生物特征的身份認(rèn)證和訪問控制是目前人工智能技術(shù)應(yīng)用最成功的信息安全領(lǐng)域。從前制約生物特征識(shí)別技術(shù)在信息安全領(lǐng)域應(yīng)用的關(guān)鍵問題是漏報(bào)率與誤報(bào)率達(dá)不到實(shí)用要求。而利用以深度學(xué)習(xí)為核心的人工智能技術(shù)，科研人員已經(jīng)將人臉、語音、指紋等等生物特征的識(shí)別率大大提升。以人臉識(shí)別為例，目前的準(zhǔn)確率已經(jīng)達(dá)到99%以上，技術(shù)的進(jìn)步為生物特征識(shí)別的應(yīng)用打下了良好基礎(chǔ)。目前，已經(jīng)有人臉支付等相關(guān)產(chǎn)品面世。支付領(lǐng)域的應(yīng)用涉及社會(huì)和金融安全，在人臉識(shí)別的漏報(bào)、誤報(bào)和檢測準(zhǔn)確率這些指標(biāo)沒有大幅提升的前提下是不可想象的。

在信息安全中尤為重要的漏洞檢測技術(shù)領(lǐng)域，目前還缺乏高效、準(zhǔn)確的漏洞分析自動(dòng)化技術(shù)，很多安全威脅和風(fēng)險(xiǎn)需要專業(yè)工作人員的經(jīng)驗(yàn)作深度的分析和最后的判斷。人工智能在處理海量數(shù)據(jù)方面極具優(yōu)勢，通過對(duì)樣本的訓(xùn)練可以模擬大量的攻擊模式，可以基于人類已有經(jīng)驗(yàn)也可以拋開人類經(jīng)驗(yàn)進(jìn)行全新的樣本空間學(xué)習(xí)和探索，這樣的技術(shù)解決思路將大大提高漏洞檢測的全面性、準(zhǔn)確性和時(shí)效性。

在惡意代碼檢測領(lǐng)域也是一樣。傳統(tǒng)的網(wǎng)絡(luò)安全技術(shù)應(yīng)急響應(yīng)速度慢，不能適應(yīng)惡意代碼的迭代進(jìn)化速度。而人工智能擁有強(qiáng)大的自主學(xué)習(xí)和數(shù)據(jù)分析能力，能夠加速響應(yīng)的流程，提升自動(dòng)化和響應(yīng)效率，縮短從發(fā)現(xiàn)到響應(yīng)的間隔。這就為提前預(yù)知危險(xiǎn)，及時(shí)預(yù)警并處理，將危險(xiǎn)扼殺在搖籃中提供了可能，進(jìn)而大大提高網(wǎng)絡(luò)安全防御的敏捷性。

人工智能將成為推動(dòng)我國信息社會(huì)變革的創(chuàng)新科技。國務(wù)院頒發(fā)的《新一代人工智能發(fā)展規(guī)劃》 提出 ，“人工智能在教育、醫(yī)療、養(yǎng)老、環(huán)境保護(hù)、城市運(yùn)行、司法服務(wù)等領(lǐng)域廣泛應(yīng)用，將極大提高公共服務(wù)精準(zhǔn)化水平，全面提升人民生活品質(zhì)”。但是，這項(xiàng)技術(shù)的發(fā)展也會(huì)產(chǎn)生沖擊法律與社會(huì)倫理、侵犯個(gè)人隱私、引入新的安全風(fēng)險(xiǎn)等問題。

為最大程度降低人工智能帶來的安全風(fēng)險(xiǎn)，應(yīng)從管理和技術(shù)兩方面采取一系列應(yīng)對(duì)措施。在管理上展開立法研究、標(biāo)準(zhǔn)制定、監(jiān)管體系建設(shè)，加強(qiáng)對(duì)人工智能技術(shù)和產(chǎn)品的監(jiān)管。在技術(shù)上，推動(dòng)大數(shù)據(jù)時(shí)代用戶隱私和數(shù)據(jù)保護(hù)技術(shù)的研究、提高人工智能技術(shù)和產(chǎn)品的內(nèi)生安全性設(shè)計(jì)水平、對(duì)智能產(chǎn)品和技術(shù)應(yīng)用可能帶來的威脅風(fēng)險(xiǎn)進(jìn)行從監(jiān)測到應(yīng)急處置等全安全要素的監(jiān)控，提高風(fēng)險(xiǎn)控制與處置能力。

我們相信唯有正視問題的存在，在發(fā)展技術(shù)的同時(shí)，重視可能存在的安全風(fēng)險(xiǎn)，在政府層面約束規(guī)范，進(jìn)行良性引導(dǎo)，在技術(shù)層面最大程度地規(guī)避風(fēng)險(xiǎn)，才能確保人工智能技術(shù)在我國安全、可靠、可控地發(fā)展。

 

（原載于《保密工作》2018年第4期）