|
近年來(lái)，人工智能技術(shù)發(fā)展取得了長(zhǎng)足的進(jìn)步，在多個(gè)領(lǐng)域廣泛應(yīng)用，特別是以 ChatGPT 為代表的生成式人工智能技術(shù)開(kāi)啟了人工智能應(yīng)用的新紀(jì)元。隨著人工智能技術(shù)及應(yīng)用的迅猛發(fā)展，也帶來(lái)了諸多由于人工智能引發(fā)的新安全問(wèn)題，人工智能相比傳統(tǒng)網(wǎng)絡(luò)安全將面臨更多新的安全形勢(shì)和挑戰(zhàn)，需要依托頂層設(shè)計(jì)、標(biāo)準(zhǔn)規(guī)范、安全策略、技術(shù)手段、管理措施等方面進(jìn)行有效的應(yīng)對(duì)與防范，上述問(wèn)題和情況都值得我們深入的思考和研究。
（一）人工智能的歷史與發(fā)展
人工智能（Artificial Intelligence，AI）是一門(mén)技術(shù)科學(xué)，它研究和開(kāi)發(fā)理論、方法、技術(shù)和應(yīng)用系統(tǒng)，以模擬、擴(kuò)展人類(lèi)智能。人工智能研究目的是通過(guò)探索智慧的本質(zhì)，擴(kuò)展人類(lèi)智能，使智能主體具備聽(tīng)、看、說(shuō)、思考、學(xué)習(xí)和行動(dòng)的能力。1951 年，馬文·明斯基與他的同學(xué)迪恩·愛(ài)德蒙一起，建造了世界上第一臺(tái)“隨機(jī)神經(jīng)網(wǎng)絡(luò)模擬加固計(jì)算器”。1956 年，約翰·麥卡錫首次提出了人工智能這個(gè)概念，當(dāng)時(shí)的定義為“制造智能機(jī)器的科學(xué)與工程”。人工智能自誕生之日起經(jīng)歷了多個(gè)發(fā)展階段。第一階段是人工智能起步階段，提出人工智能概念，發(fā)展出了神經(jīng)網(wǎng)絡(luò)、機(jī)器定理證明、人機(jī)對(duì)話(huà)等。第二階段是人工智能工程應(yīng)用階段，通過(guò)專(zhuān)家系統(tǒng)模擬人類(lèi)專(zhuān)家的知識(shí)和經(jīng)驗(yàn)解決特定領(lǐng)域問(wèn)題，實(shí)現(xiàn)人工智能從理論研究走向?qū)嶋H應(yīng)用的重大突破。第三階段是人工智能深度發(fā)展階段，互聯(lián)網(wǎng)技術(shù)的迅速發(fā)展加速了人工智能的創(chuàng)新研究，推動(dòng)人工智能技術(shù)進(jìn)一步走向?qū)嵱没?。第四階段是人工智能數(shù)據(jù)挖掘階段，新型數(shù)據(jù)和圖形處理器推動(dòng)人工智能技術(shù)飛速發(fā)展，在圖像分類(lèi)、語(yǔ)音識(shí)別、知識(shí)問(wèn)答、人機(jī)對(duì)弈和無(wú)人駕駛等方面實(shí)現(xiàn)重大技術(shù)突破。第五階段是人工智能蓬勃發(fā)展階段，生成式人工智能作為一種新型的人工智能技術(shù)，在自然語(yǔ)言處理、圖像生成、音頻合成等領(lǐng)域取得了顯著的成果。人工智能的核心技術(shù)主要包括深度學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理和數(shù)據(jù)挖掘等。深度學(xué)習(xí)是一種實(shí)現(xiàn)人工智能的重要方法，它源自早期的人工智能研究。深度機(jī)器學(xué)習(xí)能夠從數(shù)據(jù)中學(xué)習(xí)并自動(dòng)歸納總結(jié)出模型，最終使用模型進(jìn)行推斷或預(yù)測(cè)。計(jì)算機(jī)視覺(jué)指的是計(jì)算機(jī)可以從圖像中識(shí)別物體、場(chǎng)景和活動(dòng)的能力。例如，一些技術(shù)能夠檢測(cè)圖像中物體的邊緣和紋理，分類(lèi)技術(shù)可以用來(lái)確定識(shí)別到的特征是否代表系統(tǒng)已知的某一類(lèi)物體。自然語(yǔ)言處理是涉及計(jì)算機(jī)科學(xué)、人工智能和語(yǔ)言學(xué)的一個(gè)領(lǐng)域，它研究計(jì)算機(jī)與自然語(yǔ)言之間的互動(dòng)。自然語(yǔ)言處理面臨許多挑戰(zhàn)，包括自然語(yǔ)言理解，因此它涉及到人機(jī)交互的方方面面。數(shù)據(jù)挖掘是通過(guò)算法從大量數(shù)據(jù)中搜索隱藏信息的過(guò)程。數(shù)據(jù)挖掘通常與計(jì)算機(jī)科學(xué)相關(guān)，并通過(guò)統(tǒng)計(jì)、在線分析處理、情報(bào)檢索、機(jī)器學(xué)習(xí)、專(zhuān)家系統(tǒng)和模式識(shí)別等多種方法來(lái)實(shí)現(xiàn)目標(biāo)。近些年，人工智能技術(shù)正在朝著更多的分支領(lǐng)域發(fā)展，包括無(wú)人駕駛技術(shù)、人臉識(shí)別技術(shù)、神經(jīng)機(jī)器翻譯技術(shù)、聲紋識(shí)別技術(shù)、智能客服機(jī)器人、智能外呼機(jī)器人、智能音箱以及個(gè)性化推薦等。AIGC、AGI 是人工智能領(lǐng)域中兩個(gè)重要的概念，而 LLM 大型語(yǔ)言模型是推動(dòng)生成式人工智能聊天機(jī)器人迅猛發(fā)展的核心技術(shù)。AGI 是指一種具有與人類(lèi)相當(dāng)或更高的認(rèn)知能力的智能系統(tǒng)，能夠理解、學(xué)習(xí)、計(jì)劃和解決問(wèn)題。通用人工智能（AGI）的概念可以追溯到人工智能誕生之初，1950 年圖靈提出了著名的圖靈測(cè)試。AGI 的技術(shù)需要更多的支持，例如自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)和機(jī)器學(xué)習(xí)等。AGI 的應(yīng)用領(lǐng)域也比較廣泛，可以應(yīng)用于醫(yī)療保健、金融服務(wù)、交通運(yùn)輸?shù)阮I(lǐng)域中。AIGC（AI Generated Content）是一種利用人工智能技術(shù)自動(dòng)生成內(nèi)容的新型生產(chǎn)方式，其優(yōu)點(diǎn)在于高效性和自動(dòng)化生產(chǎn)。隨著人工智能的發(fā)展，越來(lái)越多的內(nèi)容不再需要人工編輯，而是由機(jī)器自動(dòng)生成。在 2021 年之前，AIGC 主要用于生成文字，自 2022 年以來(lái)，AIGC 的發(fā)展速度驚人，新一代模型能夠處理多種格式的內(nèi)容，達(dá)到專(zhuān)業(yè)級(jí)別。AIGC 技術(shù)主要應(yīng)用于新聞報(bào)道、廣告創(chuàng)意、視頻制作等行業(yè)。LLM（Large Language Model）是一種基于深度學(xué)習(xí)的自然語(yǔ)言處理模型，能夠?qū)W習(xí)自然語(yǔ)言的語(yǔ)法和語(yǔ)義，生成人類(lèi)可讀文本。2017 年，Deep Mind 提出了 RLHF 概念，同年 6 月，Google 發(fā)布了 Transformer，成為所有 LLM 的基礎(chǔ)架構(gòu)。2020年，OpenAI 發(fā)布 GPT-3，LLM 流行度穩(wěn)定增長(zhǎng)。ChatGPT、Bing Chat 和 Google Bard 這樣的聊天機(jī)器人迅速崛起，證明了該領(lǐng)域正匯集大量資源。人工智能在金融科技領(lǐng)域的應(yīng)用。機(jī)器學(xué)習(xí)、知識(shí)圖譜、生物識(shí)別和服務(wù)機(jī)器人等人工智能技術(shù)被廣泛應(yīng)用于金融預(yù)測(cè)、反欺詐、授信決策和智能投顧等領(lǐng)域，人工智能是未來(lái)金融科技創(chuàng)新與發(fā)展的重大推動(dòng)力。人工智能在能源領(lǐng)域的應(yīng)用。人工智能的機(jī)器學(xué)習(xí)與能源相結(jié)合將有助于加快可再生能源的采用，成為應(yīng)對(duì)氣候變化的有效工具，符合可持續(xù)發(fā)展目標(biāo)。人工智能在衛(wèi)星通信領(lǐng)域的應(yīng)用。美國(guó)衛(wèi)星通信創(chuàng)新集團(tuán)認(rèn)為衛(wèi)星是整個(gè)通信網(wǎng)絡(luò)依賴(lài)的基礎(chǔ)，人工智能可以管理虛擬通信網(wǎng)絡(luò)，幫助衛(wèi)星提供可靠的通信服務(wù)，實(shí)現(xiàn)通信任務(wù)自動(dòng)化。人工智能在農(nóng)業(yè)領(lǐng)域的應(yīng)用。人工智能在農(nóng)業(yè)生產(chǎn)中的運(yùn)用愈發(fā)廣泛，可以進(jìn)行農(nóng)作物的監(jiān)控，了解農(nóng)作物的生長(zhǎng)情況，及時(shí)補(bǔ)充所需要的養(yǎng)分或者農(nóng)藥，并且可以保證用量更精確。人工智能在城市公共安全領(lǐng)域的應(yīng)用。人工智能在提高城市公共安全保障能力方面優(yōu)勢(shì)明顯，隨著人工智能發(fā)展依賴(lài)的數(shù)據(jù)規(guī)模的不斷擴(kuò)大、算力的不斷提高以及算法的優(yōu)化與突破，應(yīng)用人工智能技術(shù)的成本將大幅降低。生成式人工智能是指利用機(jī)器學(xué)習(xí)技術(shù)讓計(jì)算機(jī)自動(dòng)生成不同模態(tài)高質(zhì)量數(shù)據(jù)的方法。生成式人工智能所涉及的技術(shù)非常綜合且廣泛，但就其文本生成核心功能而言，主要依賴(lài)于生成式預(yù)訓(xùn)練和提示學(xué)習(xí)兩個(gè)主要功能。從算力角度看，生成式計(jì)算是繼云計(jì)算之后的又一種新的算力形式，將會(huì)像電、網(wǎng)絡(luò)和云計(jì)算一樣，成為人們生活中不可或缺的基礎(chǔ)能力。從應(yīng)用生態(tài)角度看，以 ChatGPT 為代表的生成式人工智能產(chǎn)品將成為互聯(lián)網(wǎng)新的入口。從人機(jī)交互角度看，以 ChatGPT 為代表的產(chǎn)品將成為人類(lèi)大腦的延伸，提供更加智能、高效、自然的與人交互的方式。（四）人工智能行業(yè)與市場(chǎng)發(fā)展近年來(lái)，人工智能產(chǎn)業(yè)進(jìn)入高速發(fā)展階段，智能場(chǎng)景融合能力不斷提升，人工智能的應(yīng)用場(chǎng)景從硬件擴(kuò)展到了軟件、服務(wù)和平臺(tái)體系，在金融、工業(yè)、農(nóng)業(yè)、醫(yī)療領(lǐng)域的行業(yè)應(yīng)用不斷深入。商業(yè)化應(yīng)用已經(jīng)成為人工智能科技企業(yè)布局的重點(diǎn)，歐洲、美國(guó)等發(fā)達(dá)國(guó)家和地區(qū)的人工智能產(chǎn)業(yè)商業(yè)化已經(jīng)落地。我國(guó)政府高度重視人工智能的發(fā)展，通過(guò)發(fā)布政策、實(shí)施重大項(xiàng)目等方式積極推動(dòng)人工智能技術(shù)和產(chǎn)業(yè)創(chuàng)新發(fā)展，將人工智能融入國(guó)家整體創(chuàng)新體系，不斷增強(qiáng)產(chǎn)業(yè)競(jìng)爭(zhēng)力。“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃等多項(xiàng)政策圍繞“加快高性能、智能計(jì)算中心部署”“打造智能算力、通用算法和開(kāi)發(fā)平臺(tái)一體化的新型智能基礎(chǔ)設(shè)施”等作出具體部署。隨著我國(guó)新基建、新經(jīng)濟(jì)的不斷推進(jìn)，人工智能技術(shù)在各領(lǐng)域的應(yīng)用不斷深化，人工智能行業(yè)市場(chǎng)規(guī)模持續(xù)增長(zhǎng)。人工智能產(chǎn)業(yè)鏈主要包括算法、芯片、算力、數(shù)據(jù)及場(chǎng)景等幾大環(huán)節(jié)，各個(gè)環(huán)節(jié)都存在細(xì)分領(lǐng)域的龍頭企業(yè)。未來(lái)，在 5G+ 物聯(lián)網(wǎng)的加持下，各行各業(yè)都將進(jìn)入一個(gè)智能化階段。
二、人工智能安全形勢(shì)及風(fēng)險(xiǎn)分析
（一）人工智能安全形勢(shì)分析
在 5G、大數(shù)據(jù)、云計(jì)算、深度學(xué)習(xí)等新技術(shù)的共同驅(qū)動(dòng)下，人工智能作為新型基礎(chǔ)設(shè)施的重要戰(zhàn)略性技術(shù)加速發(fā)展，并與社會(huì)各行各業(yè)創(chuàng)新融合。人工智能的發(fā)展表現(xiàn)出以下特征：一是人工智能執(zhí)行的關(guān)鍵業(yè)務(wù)對(duì)安全防護(hù)的實(shí)時(shí)性提出了更高要求；二是人工智能的個(gè)性化服務(wù)需求對(duì)敏感信息保護(hù)提出了更高要求；三是人工智能跨組織融合對(duì)數(shù)據(jù)安全共享提出了更高要求；四是基于機(jī)器學(xué)習(xí)的安全算法與軟件漏洞問(wèn)題日益突出。人工智能技術(shù)的本質(zhì)使其與安全體系內(nèi)的多個(gè)環(huán)節(jié)形成密切相關(guān)，并產(chǎn)生多層次的影響，使得人工智能技術(shù)具有明顯的國(guó)家安全屬性，對(duì)國(guó)家主權(quán)、意識(shí)形態(tài)、社會(huì)關(guān)系等方面帶來(lái)沖擊。當(dāng)前，主要發(fā)達(dá)國(guó)家都將發(fā)展人工智能技術(shù)和應(yīng)用視為提升國(guó)家競(jìng)爭(zhēng)力和維護(hù)國(guó)家安全的重大戰(zhàn)略，并努力在新一輪科技競(jìng)爭(zhēng)中占據(jù)主導(dǎo)地位。美國(guó)國(guó)防部《人工智能戰(zhàn)略》提出，美國(guó)及其盟友和伙伴國(guó)家，必須采用人工智能來(lái)維持其戰(zhàn)略地位，確立未來(lái)戰(zhàn)場(chǎng)的優(yōu)勢(shì)，保衛(wèi)自由與開(kāi)放的國(guó)際秩序，美國(guó)中央情報(bào)局更是宣布將 ChatGPT 和類(lèi)似的生成式人工智能技術(shù)用于情報(bào)工作。（二）人工智能安全風(fēng)險(xiǎn)分析1. 人工智能技術(shù)安全風(fēng)險(xiǎn)目前，人工智能技術(shù)主要采用深度學(xué)習(xí)方法，以數(shù)據(jù)智能為主，智能程度與數(shù)據(jù)量成正相關(guān)。然而，這種人工智能缺乏基礎(chǔ)知識(shí)儲(chǔ)備，所有的知識(shí)都來(lái)自于輸入的數(shù)據(jù)，包括訓(xùn)練數(shù)據(jù)和與環(huán)境交互數(shù)據(jù)等。從原理上看，深度學(xué)習(xí)算法只能反映數(shù)據(jù)的統(tǒng)計(jì)特征或?qū)W習(xí)數(shù)據(jù)之間的關(guān)聯(lián)關(guān)系，無(wú)法解讀數(shù)據(jù)的本質(zhì)特征或因果關(guān)系。這種技術(shù)的風(fēng)險(xiǎn)主要表現(xiàn)在三個(gè)方面。數(shù)據(jù)風(fēng)險(xiǎn)：攻擊者可利用人工智能特點(diǎn)，在模型訓(xùn)練階段混入惡意樣本數(shù)據(jù)，引導(dǎo)模型訓(xùn)練過(guò)程。常見(jiàn)攻擊方式有數(shù)據(jù)投毒、對(duì)抗樣本和成員推理攻擊。生成式人工智能如 ChatGPT 和 BingAL 易竊取機(jī)密數(shù)據(jù)，用于迭代訓(xùn)練。算法風(fēng)險(xiǎn)：算法是人工智能的核心，目前算法風(fēng)險(xiǎn)主要表現(xiàn)在四個(gè)方面。首先，算法設(shè)計(jì)可能存在漏洞，導(dǎo)致訓(xùn)練數(shù)據(jù)不均、投毒或泄露等安全問(wèn)題。其次，算法后門(mén)攻擊使攻擊者能夠操控模型預(yù)測(cè)結(jié)果。第三，算法的“黑箱”問(wèn)題和不可解釋性導(dǎo)致人工智能算法在業(yè)界轉(zhuǎn)化過(guò)程存在安全隱患。最后，算法偏見(jiàn)與歧視可能導(dǎo)致人工智能在決策時(shí)偏向某些群體或個(gè)體，引起社會(huì)不公平。模型風(fēng)險(xiǎn)：人工智能模型存在多種攻擊風(fēng)險(xiǎn)，包括模型逆向攻擊、逃逸攻擊和模型竊取攻擊等。對(duì)于大型模型如 ChatGPT，竊取其完整功能可能并不現(xiàn)實(shí)，但可以針對(duì)某一領(lǐng)域進(jìn)行功能竊取。2. 人工智能應(yīng)用安全風(fēng)險(xiǎn)隨著 ChatGPT 等人工智能生成內(nèi)容的新突破，內(nèi)容生產(chǎn)方式發(fā)生了徹底的變革。這種變革使西方意識(shí)形態(tài)和價(jià)值觀的隱性傳播對(duì)中國(guó)產(chǎn)生了影響，增加了治理難度并帶來(lái)了多個(gè)安全風(fēng)險(xiǎn)。政治風(fēng)險(xiǎn)：人工智能技術(shù)使政治權(quán)力去中心化，非國(guó)家行為體權(quán)力擴(kuò)大，政治安全風(fēng)險(xiǎn)上升。技術(shù)如換臉和換聲等的利用使制造具有欺騙性的假新聞成為可能，從而對(duì)政治事件的進(jìn)展產(chǎn)生影響。人工智能對(duì)公眾行為的潛移默化影響干擾國(guó)內(nèi)政治行為，挑戰(zhàn)選舉制度。經(jīng)濟(jì)風(fēng)險(xiǎn)：人工智能技術(shù)導(dǎo)致資本和技術(shù)在經(jīng)濟(jì)中的地位提升，勞動(dòng)力價(jià)值削弱，引發(fā)機(jī)構(gòu)性失業(yè)、貧富分化和不平等。此外，人工智能技術(shù)帶來(lái)的全球經(jīng)濟(jì)結(jié)構(gòu)調(diào)整將引導(dǎo)全球資本和人才進(jìn)一步流向技術(shù)領(lǐng)導(dǎo)國(guó)使發(fā)展中國(guó)家實(shí)現(xiàn)現(xiàn)代化的機(jī)遇受限。同時(shí)，隨著經(jīng)濟(jì)生活數(shù)字化水平的快速提升，雖然為用戶(hù)帶來(lái)了便利，但也埋下了重大的安全隱患。社會(huì)風(fēng)險(xiǎn)：人工智能技術(shù)濫用帶來(lái)社會(huì)風(fēng)險(xiǎn)，如濫用人臉識(shí)別、智能殺熟、推薦算法問(wèn)題、隱私與數(shù)據(jù)泄露、個(gè)人數(shù)據(jù)過(guò)度采集等，擾亂市場(chǎng)和社會(huì)秩序。濫用人工智能技術(shù)深度挖掘、分析、處理個(gè)人數(shù)據(jù)和社會(huì)信息，加大了社會(huì)治理和國(guó)家安全挑戰(zhàn)。軍事風(fēng)險(xiǎn)：人工智能技術(shù)在軍事領(lǐng)域應(yīng)用將引發(fā)安全風(fēng)險(xiǎn)，改變戰(zhàn)爭(zhēng)機(jī)制，增加不確定性。如人工智能武器背后的邏輯和意圖難以理解，導(dǎo)致戰(zhàn)略判斷和不確定性風(fēng)險(xiǎn)。此外，人工智能武器本身存在安全風(fēng)險(xiǎn)，如智能情報(bào)系統(tǒng)的誤判、輔助決策系統(tǒng)的安全風(fēng)險(xiǎn)和自主武器系統(tǒng)的進(jìn)化風(fēng)險(xiǎn)。隱私與數(shù)據(jù)泄露風(fēng)險(xiǎn)：隨著數(shù)據(jù)信息的電子化和網(wǎng)絡(luò)化，數(shù)據(jù)的獲取和傳播變得更加便捷，但同時(shí)也帶來(lái)了數(shù)據(jù)泄露和擴(kuò)散的風(fēng)險(xiǎn)。由于人工智能對(duì)數(shù)據(jù)的依賴(lài)，信息的安全風(fēng)險(xiǎn)更加突出。人工智能系統(tǒng)需要大量數(shù)據(jù)進(jìn)行訓(xùn)練，這意味著企業(yè)需要通過(guò)自動(dòng)化方式獲取大量個(gè)人數(shù)據(jù)來(lái)支持人工智能算法的訓(xùn)練。然而，這種數(shù)據(jù)獲取和使用往往侵犯了個(gè)人的隱私權(quán)。倫理道德安全風(fēng)險(xiǎn)：人工智能技術(shù)帶來(lái)的倫理結(jié)果不確定，受主觀和客觀因素影響。包括道德算法風(fēng)險(xiǎn)、道德決策風(fēng)險(xiǎn)和隱私數(shù)據(jù)泄露風(fēng)險(xiǎn)等。人工智能倫理道德風(fēng)險(xiǎn)的成因多樣，包括算法目標(biāo)失范、算法和系統(tǒng)缺陷、信任危機(jī)、監(jiān)管和工具不足、責(zé)任機(jī)制不完善，以及受影響主體防御措施薄弱等因素。總之，人工智能的競(jìng)爭(zhēng)引發(fā)了國(guó)際安全不穩(wěn)定性。各國(guó)為爭(zhēng)奪主導(dǎo)權(quán)，強(qiáng)化在技術(shù)標(biāo)準(zhǔn)、國(guó)際規(guī)則、芯片、數(shù)據(jù)等方面的“科技脫鉤”。尤其是中美人工智能競(jìng)爭(zhēng)最為激烈。美國(guó)出臺(tái)一系列文件試圖排斥和防備中國(guó)，可能擾亂中國(guó)的人工智能發(fā)展步伐，帶來(lái)直接技術(shù)風(fēng)險(xiǎn)和經(jīng)濟(jì)損失。更嚴(yán)重的是，這可能引發(fā)全球人工智能技術(shù)、產(chǎn)業(yè)與標(biāo)準(zhǔn)生態(tài)體系的分裂甚至是對(duì)抗。（三）各國(guó)應(yīng)對(duì)人工智能安全問(wèn)題的舉措隨著人工智能的全球化發(fā)展，人工智能安全問(wèn)題也超越了國(guó)家邊界，成為人類(lèi)必須共同面對(duì)的挑戰(zhàn)。不同國(guó)家的政府，因其發(fā)展現(xiàn)狀、遠(yuǎn)景規(guī)劃的不同，在人工智能安全方面的側(cè)重點(diǎn)也有所不同。這就決定了各國(guó)在相關(guān)領(lǐng)域的投入、處理問(wèn)題的優(yōu)先級(jí)都存在差異。聯(lián)合國(guó)教科文組織于 2021 年 11 月通過(guò)了《人工智能倫理問(wèn)題建議書(shū)》，該建議書(shū)旨在促進(jìn)人工智能為人類(lèi)、社會(huì)、環(huán)境以及生態(tài)系統(tǒng)服務(wù)，并預(yù)防其潛在風(fēng)險(xiǎn)。該建議書(shū)的內(nèi)容包括規(guī)范人工智能發(fā)展應(yīng)遵循的原則，以及在這些原則指導(dǎo)下人工智能應(yīng)用的領(lǐng)域。美國(guó)白宮宣布了旨在遏制人工智能風(fēng)險(xiǎn)的首個(gè)新舉措，報(bào)告顯示美國(guó)國(guó)家科學(xué)基金會(huì)計(jì)劃撥款 1.4 億美元建立專(zhuān)門(mén)用于人工智能的新研究中心。政府還承諾發(fā)布政府機(jī)構(gòu)的指導(dǎo)方針草案，以確保對(duì)人工智能的使用的安全，保障“美國(guó)人民的權(quán)利和安全”。谷歌、微軟、OpenAI 等人工智能公司已同意在 8 月的網(wǎng)絡(luò)安全會(huì)議上對(duì)其產(chǎn)品進(jìn)行審查。在歐盟委員會(huì)發(fā)布的《歐盟人工智能》戰(zhàn)略規(guī)劃中，明確指出要確保歐盟具有與人工智能發(fā)展和應(yīng)用相適應(yīng)的倫理和法律框架，最大化歐盟整體在人工智能領(lǐng)域的國(guó)際競(jìng)爭(zhēng)力。歐洲議員同樣呼吁制定更多的規(guī)則來(lái)對(duì)人工智能技術(shù)加以監(jiān)管，并列出了幾項(xiàng)期待的舉措，包括在擬議的《人工智能法案》草案中提供一個(gè)框架，此外還提及應(yīng)召開(kāi)關(guān)注人工智能風(fēng)險(xiǎn)的全球峰會(huì)等。加拿大在 2022 年 6 月頒布了《人工智能和數(shù)據(jù)法案》，該法案旨在規(guī)范人工智能系統(tǒng)中的國(guó)際和省際貿(mào)易和商業(yè)。日本、韓國(guó)、新加坡等亞洲國(guó)家，更多是將人工智能安全的戰(zhàn)略重點(diǎn)放在促進(jìn)產(chǎn)業(yè)健康發(fā)展以及公共安全、國(guó)家安全的應(yīng)用上，并對(duì)人工智能的一些安全問(wèn)題、倫理問(wèn)題做出原則性規(guī)定。我國(guó)在 2017 年發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，2019 年政府工作報(bào)告將人工智能進(jìn)一步升級(jí)為“智能+”的戰(zhàn)略方向，2023 年國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法》公開(kāi)征求意見(jiàn)。
（一）國(guó)家安全需求
人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用為社會(huì)帶來(lái)了巨大的變革，同時(shí)也帶來(lái)了一系列的安全挑戰(zhàn)。這些挑戰(zhàn)不僅涉及到個(gè)人隱私和數(shù)據(jù)安全，也關(guān)乎國(guó)家安全和社會(huì)穩(wěn)定。人工智能為中國(guó)保障國(guó)家安全、推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化帶來(lái)了新問(wèn)題。因此，如何把握人工智能的發(fā)展主動(dòng)權(quán)與處理好相應(yīng)的風(fēng)險(xiǎn)，并實(shí)現(xiàn)良性、合理的國(guó)際合作與競(jìng)爭(zhēng)，已經(jīng)成為我國(guó)國(guó)家安全治理亟需解決的議題。人工智能因具有精準(zhǔn)識(shí)別和篩選需求信息、整合議題并優(yōu)化治理情景、智能模擬和輔助治理主體決策、實(shí)時(shí)跟蹤評(píng)估和反饋治理效能等方面的優(yōu)勢(shì)，深度嵌入公共治理領(lǐng)域。但也可能帶來(lái)國(guó)家網(wǎng)絡(luò)主權(quán)、意識(shí)形態(tài)、政治制度等維度的政治安全風(fēng)險(xiǎn)。以人工智能的技術(shù)效能提升國(guó)家政治安全效能并強(qiáng)化政治體系對(duì)政治安全風(fēng)險(xiǎn)的動(dòng)態(tài)適應(yīng)能力，強(qiáng)化對(duì)人工智能算法推薦的人工把關(guān)效能并提升“人機(jī)”雙重把關(guān)體系的風(fēng)險(xiǎn)防控水平，加強(qiáng)人工智能向善的制度設(shè)計(jì)并優(yōu)化國(guó)家政治安全制度保障體系，是智能社會(huì)語(yǔ)境中政治安全風(fēng)險(xiǎn)的善治之道。人工智能技術(shù)日新月異，各種創(chuàng)新思想層出不窮。在這個(gè)不斷進(jìn)步的領(lǐng)域，持續(xù)學(xué)習(xí)和適應(yīng)變化的能力非常重要。為了實(shí)現(xiàn)人工智能的高水平應(yīng)用和高質(zhì)量發(fā)展，我們要在以下幾個(gè)方面加強(qiáng)工作：一是培育科技創(chuàng)新主體的科技向善理念，維護(hù)好公民的個(gè)人數(shù)據(jù)隱私與信息安全；二是明確支撐中國(guó)科技創(chuàng)新的支點(diǎn)，強(qiáng)化基礎(chǔ)研究和創(chuàng)新生態(tài)建設(shè)；三是推動(dòng)數(shù)字技術(shù)與實(shí)體經(jīng)濟(jì)深度融合，助力傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)；四是優(yōu)化和加強(qiáng)產(chǎn)學(xué)研協(xié)同創(chuàng)新模式，支持國(guó)內(nèi)科研院校與人工智能領(lǐng)先科技公司的深度合作；五是有力地促進(jìn)產(chǎn)業(yè)規(guī)范和有序發(fā)展，加快制定相關(guān)的行業(yè)標(biāo)準(zhǔn)和規(guī)范。同時(shí)，還要加快人工智能領(lǐng)域的國(guó)際合作與交流。
四、人工智能安全技術(shù)與實(shí)現(xiàn)途徑
鑒于人工智能面臨的安全形勢(shì)和安全風(fēng)險(xiǎn)，為了確保人工智能系統(tǒng)的安全性和可靠性，需要采取科學(xué)、可行的安全策略和技術(shù)，從多個(gè)途徑進(jìn)行保護(hù)和控制。人工智能安全技術(shù)主要包括，智能篩查攔截技術(shù)，充分利用知識(shí)蒸餾、對(duì)抗樣本智能篩查攔截等技術(shù)手段強(qiáng)化其抵御對(duì)抗樣本的能力。數(shù)據(jù)隱私保護(hù)技術(shù)，在建立和操控人工智能系統(tǒng)的過(guò)程中，注意保護(hù)數(shù)據(jù)隱私，采取加密、權(quán)限控制等安全措施，避免數(shù)據(jù)泄露和濫用。安全漏洞檢測(cè)技術(shù)，采取主動(dòng)的安全漏洞發(fā)現(xiàn)與分析技術(shù)，識(shí)別并及時(shí)修復(fù)漏洞、緩解系統(tǒng)安全風(fēng)險(xiǎn)。監(jiān)控與校準(zhǔn)技術(shù)，對(duì)人工智能系統(tǒng)進(jìn)行實(shí)時(shí)的持續(xù)監(jiān)控，發(fā)現(xiàn)任何異常行為，及時(shí)糾正，避免出現(xiàn)重大事故。安全評(píng)估與審核技術(shù)，對(duì)人工智能系統(tǒng)進(jìn)行安全性評(píng)估與審核，包括 AI 芯片測(cè)試、算法審核、數(shù)據(jù)安全評(píng)估等，確保其符合相關(guān)標(biāo)準(zhǔn)和規(guī)范。實(shí)現(xiàn)人工智能系統(tǒng)安全保護(hù)的途徑主要包括以下方面：首先，需要科學(xué)規(guī)劃人工智能的發(fā)展方向，確保人工智能發(fā)展符合人類(lèi)預(yù)期并為人類(lèi)服務(wù)。其次，需要明確人工智能安全責(zé)任，建立完善的安全責(zé)任框架，不斷探索人工智能安全責(zé)任認(rèn)定和分擔(dān)機(jī)制。第三，需要加強(qiáng)人工智能依法合規(guī)管理，從國(guó)家層面進(jìn)行立法和政策方面的完善。第四，需要強(qiáng)化隱私保護(hù)和統(tǒng)一監(jiān)管，建立可審查、可回溯、可推演的監(jiān)管機(jī)制，確保技術(shù)一致性。第五，需要嚴(yán)格評(píng)估人工智能算法的安全性，明確算法設(shè)計(jì)動(dòng)機(jī)和可解釋性，克服不公正影響。第六，需要合理運(yùn)用人工智能技術(shù)，避免人工智能技術(shù)濫用所導(dǎo)致的恐怖主義和國(guó)家政治穩(wěn)定被破壞。
（一）開(kāi)展人工智能安全防護(hù)技術(shù)研究
人工智能安全防護(hù)的核心功能包括治理、映射、測(cè)量和管理，旨在幫助組織解決人工智能系統(tǒng)存在的風(fēng)險(xiǎn)。美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院（NIST）于 2023 年 1 月 26 日正式發(fā)布了《人工智能風(fēng)險(xiǎn)管理框架》1.0版本，該框架旨在為設(shè)計(jì)、開(kāi)發(fā)、部署和使用人工智能系統(tǒng)的個(gè)人和組織提供指導(dǎo)，以實(shí)現(xiàn)人工智能風(fēng)險(xiǎn)管理。想要構(gòu)建較為完善的人工智能安全防護(hù)體系需要多方的共同努力，首先，企業(yè)應(yīng)該根據(jù)自身的業(yè)務(wù)特點(diǎn)和安全需求，構(gòu)建適合自身的人工智能安全防護(hù)體系。其次，企業(yè)也應(yīng)該與政府、行業(yè)、學(xué)術(shù)等各方密切合作，共同推動(dòng)人工智能安全技術(shù)的創(chuàng)新和發(fā)展。同時(shí)，政府應(yīng)當(dāng)加強(qiáng)人工智能安全技術(shù)與應(yīng)用的研究和監(jiān)管。（二）完善人工智能安全領(lǐng)域的政策法規(guī)我國(guó)在立法規(guī)范方面已經(jīng)取得了顯著的成績(jī)，為人工智能安全治理奠定了堅(jiān)實(shí)的基礎(chǔ)。例如，《個(gè)人信息保護(hù)法》明確了個(gè)人信息處理的原則、條件、范圍、方式等，保障了個(gè)人信息主體的知情權(quán)、選擇權(quán)、控制權(quán)。然而，隨著人工智能在各行各業(yè)的廣泛應(yīng)用，其技術(shù)漏洞也被濫用甚至用于欺詐犯罪。因此，我們需要不斷完善和更新立法規(guī)范體系，以應(yīng)對(duì)時(shí)代變化和社會(huì)需求。首先，需要建立健全的人工智能算法和數(shù)據(jù)行業(yè)制度體系，制定處罰濫用和欺詐的細(xì)則。其次，逐步推進(jìn)《人工智能法》的立法進(jìn)程。最后，加強(qiáng)與國(guó)際社會(huì)的溝通和協(xié)調(diào)，推動(dòng)形成共同的人工智能安全治理規(guī)則和標(biāo)準(zhǔn)。（三）增強(qiáng)人工智能應(yīng)用中的道德法規(guī)約束人工智能的自主性引發(fā)了一系列倫理道德問(wèn)題，包括人工智能是否具有獨(dú)立人格、人與人工智能的關(guān)系、是否允許人工智能改造人類(lèi)、是否允許人工智能自我復(fù)制，以及人工智能社會(huì)倫理問(wèn)題涉及到人類(lèi)的尊嚴(yán)、平等、公平和隱私等多個(gè)方面。需要進(jìn)行人工智能倫理約束，制定人工智能倫理原則和框架，并引導(dǎo)全社會(huì)正確認(rèn)識(shí)和應(yīng)用人工智能。在合規(guī)管理方面，企業(yè)應(yīng)與政府、行業(yè)、學(xué)術(shù)界等各方密切合作，共同推動(dòng)人工智能倫理標(biāo)準(zhǔn)規(guī)范的制定和實(shí)施；在技術(shù)研發(fā)方面，強(qiáng)化科研人員的倫理觀念、道德約束和法律意識(shí)；在應(yīng)用方面，應(yīng)加強(qiáng)對(duì)人工智能行為的科學(xué)和倫理學(xué)等問(wèn)題的研究，提高人工智能應(yīng)用的道德水平和社會(huì)責(zé)任感。（四）加強(qiáng)人工智能安全國(guó)際交流與合作盡管人工智能技術(shù)競(jìng)爭(zhēng)、監(jiān)管競(jìng)爭(zhēng)已成為全球科技競(jìng)爭(zhēng)領(lǐng)域中的一個(gè)既定事實(shí)，但是全球各方在疫情應(yīng)對(duì)、氣候變化等方面的成功合作已經(jīng)讓各界意識(shí)到了只有通過(guò)廣泛的國(guó)際合作，才能夠徹底解決人工智能技術(shù)的發(fā)展和應(yīng)用帶來(lái)的安全問(wèn)題。目前，全球各層面已經(jīng)就相關(guān)問(wèn)題展開(kāi)了合作。在亞太地區(qū)，我國(guó)與東盟國(guó)家一直在人工智能領(lǐng)域保持密切合作與聯(lián)系。此外，我國(guó)還與法國(guó)積極拓展在人工智能領(lǐng)域的合作，共同應(yīng)對(duì)全球性挑戰(zhàn)。因此，只有通過(guò)構(gòu)建一個(gè)平衡包容的國(guó)際人工智能治理體系，才會(huì)有助于讓人工智能技術(shù)進(jìn)一步釋放其潛能，更好地造福于人類(lèi)，確保其自身運(yùn)用的安全性和可靠性。
通過(guò)對(duì)人工智能安全形勢(shì)和安全風(fēng)險(xiǎn)的深入分析，對(duì)人工智能安全保障重大意義的闡述，對(duì)人工智能安全技術(shù)、保障措施、實(shí)現(xiàn)路徑的總結(jié)得到以下結(jié)論：
一是人工智能安全保障要與信息技術(shù)、人工智能技術(shù)同步發(fā)展、緊密結(jié)合、統(tǒng)籌考慮、穩(wěn)步推進(jìn)；二是完善人工智能安全頂層設(shè)計(jì)，基于我國(guó)人工智能技術(shù)與應(yīng)用發(fā)展現(xiàn)狀做好系統(tǒng)規(guī)劃和全方位考慮；三是建立健全人工智能安全的協(xié)調(diào)與決策機(jī)制，政府職能部門(mén)統(tǒng)籌，匯聚產(chǎn)、學(xué)、研、用多領(lǐng)域資源，構(gòu)建人工智能安全發(fā)展新生態(tài)；四是加強(qiáng)人工智能應(yīng)用的規(guī)范性管理，加速人工智能安全方面法律法規(guī)、標(biāo)準(zhǔn)規(guī)范建設(shè)，綜合國(guó)際背景、國(guó)家戰(zhàn)略需求、技術(shù)發(fā)展趨勢(shì)以及實(shí)踐應(yīng)用，實(shí)現(xiàn)人工智能產(chǎn)業(yè)安全健康的發(fā)展；五是推進(jìn)人工智能安全產(chǎn)業(yè)發(fā)展，大力發(fā)展人工智能在數(shù)據(jù)采集、算法設(shè)計(jì)、技術(shù)開(kāi)發(fā)以及場(chǎng)景應(yīng)用中配套的安全產(chǎn)品與安全服務(wù)；六是加強(qiáng)人工智能安全人才培養(yǎng)，人工智能安全涉及多專(zhuān)業(yè)背景的跨學(xué)科研究領(lǐng)域，需要加強(qiáng)人工智能安全與其他學(xué)科的交叉融合，對(duì)人工智能研發(fā)人員加強(qiáng)安全培訓(xùn)，進(jìn)一步強(qiáng)化安全意識(shí)。總之，人工智能安全已經(jīng)上升到國(guó)家安全層面，但我國(guó)人工智能安全在戰(zhàn)略布局、頂層設(shè)計(jì)、法規(guī)標(biāo)準(zhǔn)、技術(shù)應(yīng)用等方面與歐美發(fā)達(dá)國(guó)家相比還存在一定差距，同時(shí)人工智能安全較傳統(tǒng)網(wǎng)絡(luò)安全還存在一定的差異性?；谏鲜銮闆r，我國(guó)在人工智能安全保障方面要緊扣國(guó)家安全戰(zhàn)略和社會(huì)需求，盡快完善人工智能安全的頂層設(shè)計(jì)，著力提升人工智能安全技術(shù)研發(fā)能力，加速推進(jìn)人工智能安全標(biāo)準(zhǔn)建設(shè)，加強(qiáng)人工智能安全技術(shù)的國(guó)際交流與合作，加大人工智能的監(jiān)管力度，規(guī)范人工智能行業(yè)應(yīng)用，為我國(guó)人工智能健康有序的發(fā)展打下堅(jiān)實(shí)基礎(chǔ)。
（本文刊登于《中國(guó)信息安全》雜志2023年第5期）
|
