在英國(guó)布萊奇利園，警察在首屆人工智能安全峰會(huì)上執(zhí)勤。 　　新華社記者 李 穎攝

　　日前，為期兩天的首屆人工智能安全峰會(huì)在英國(guó)布萊奇利園舉行。英國(guó)科學(xué)、創(chuàng)新和技術(shù)部的信息顯示，本次峰會(huì)邀請(qǐng)了約100名各國(guó)官員、人工智能企業(yè)代表和專家。美國(guó)、中國(guó)、日本、德國(guó)、印度等20多個(gè)國(guó)家的政府代表以及聯(lián)合國(guó)、經(jīng)合組織、國(guó)際電信聯(lián)盟等多個(gè)國(guó)際組織的代表參會(huì)。各方代表就人工智能技術(shù)快速發(fā)展帶來(lái)的風(fēng)險(xiǎn)和機(jī)遇展開(kāi)討論。28個(gè)國(guó)家和歐盟共同簽署了《布萊奇利宣言》（下稱《宣言》），同意通過(guò)國(guó)際合作，建立人工智能（AI）監(jiān)管方法。

　　呼吁國(guó)際合作

　　《宣言》指出，人工智能帶來(lái)巨大機(jī)遇，有潛力增強(qiáng)人類福祉、和平和繁榮，并已部署在日常生活的許多領(lǐng)域。但同時(shí)人工智能也帶來(lái)重大潛在風(fēng)險(xiǎn)?！缎浴窂?qiáng)調(diào)，人工智能的許多風(fēng)險(xiǎn)本質(zhì)上是國(guó)際性的，因此最好通過(guò)國(guó)際合作來(lái)解決。與會(huì)國(guó)家和地區(qū)同意協(xié)力打造一個(gè)具有國(guó)際包容性的前沿人工智能安全科學(xué)研究網(wǎng)絡(luò)，以對(duì)尚未完全了解的人工智能風(fēng)險(xiǎn)和能力加深理解。

　　《宣言》引發(fā)國(guó)際社會(huì)關(guān)注。據(jù)英國(guó)《金融時(shí)報(bào)》報(bào)道，《宣言》呼吁以“以人為本、值得信賴和負(fù)責(zé)任”的方式利用人工智能，是首個(gè)此類全球承諾。據(jù)《南華早報(bào)》報(bào)道，《宣言》提出雙管齊下的議程：重點(diǎn)確定各國(guó)共同關(guān)心的AI技術(shù)風(fēng)險(xiǎn)，對(duì)其形成科學(xué)認(rèn)知的同時(shí)，推動(dòng)跨國(guó)政策形成以降低風(fēng)險(xiǎn)。

　　英國(guó)科學(xué)、創(chuàng)新和技術(shù)部大臣米歇爾·多內(nèi)蘭表示，此次峰會(huì)為圍繞人工智能相關(guān)風(fēng)險(xiǎn)的全球討論奠定了基礎(chǔ)，也讓國(guó)際社會(huì)意識(shí)到，必須加深對(duì)人工智能相關(guān)風(fēng)險(xiǎn)的理解并采取應(yīng)對(duì)舉措。

　　中國(guó)現(xiàn)代國(guó)際關(guān)系研究院科技與網(wǎng)絡(luò)安全研究所研究員李艷表示，英國(guó)選擇在布萊奇利園召開(kāi)峰會(huì)意味深長(zhǎng)，這里是二戰(zhàn)期間盟軍破譯密碼的主要地點(diǎn)。半個(gè)多世紀(jì)前，有“現(xiàn)代計(jì)算機(jī)科學(xué)與人工智能之父”之稱的數(shù)學(xué)家圖靈也是在此發(fā)明了第一代圖靈計(jì)算機(jī)。今年以來(lái)，人工智能持續(xù)成為國(guó)際熱點(diǎn)，人工智能發(fā)展與安全、國(guó)際競(jìng)爭(zhēng)與規(guī)則制定牽動(dòng)多方。在全球熱議人工智能安全問(wèn)題的背景下，英國(guó)借此時(shí)機(jī)召開(kāi)峰會(huì)，其意有三：一是順應(yīng)國(guó)際大勢(shì)，回應(yīng)國(guó)際關(guān)切；二是搭建國(guó)際平臺(tái)，彰顯國(guó)家作為；三是成為未來(lái)國(guó)際合作重要貢獻(xiàn)方和“斡旋者”。

　　“英國(guó)脫歐后，加大了對(duì)人工智能領(lǐng)域的投入，開(kāi)發(fā)了許多底層技術(shù)和數(shù)據(jù)架構(gòu)，人工智能產(chǎn)業(yè)發(fā)展迅速?！北本├砉ご髮W(xué)網(wǎng)絡(luò)空間國(guó)際治理研究基地研究員裴軼說(shuō)，這為英國(guó)舉辦此次人工智能安全峰會(huì)提供重要支撐。 

　　根據(jù)英國(guó)政府發(fā)表的聲明，下屆人工智能安全峰會(huì)將于一年后在法國(guó)舉辦，韓國(guó)將在未來(lái)6個(gè)月內(nèi)聯(lián)合主辦一次小型虛擬峰會(huì)。據(jù)西班牙《國(guó)家報(bào)》報(bào)道，此次峰會(huì)期間，英國(guó)建議政府之間成立一個(gè)人工智能小組，類似于處理氣候變化問(wèn)題的政府間氣候變化專門(mén)委員會(huì)，每6個(gè)月舉行一次會(huì)議，英國(guó)將分別與韓國(guó)、法國(guó)共同主辦接下來(lái)兩場(chǎng)。

　　中國(guó)科技部副部長(zhǎng)吳朝暉率團(tuán)參會(huì)并在峰會(huì)開(kāi)幕式上發(fā)表講話。中方指出，此次峰會(huì)為各國(guó)提供了人工智能安全與國(guó)際治理議題的重要對(duì)話平臺(tái)與交流合作機(jī)會(huì)。人工智能治理攸關(guān)全人類命運(yùn)，是世界各國(guó)面臨的共同課題。發(fā)展人工智能，應(yīng)當(dāng)積極倡導(dǎo)以人為本，智能向善，加強(qiáng)技術(shù)風(fēng)險(xiǎn)管控，并在相互尊重、平等互利的原則基礎(chǔ)上，鼓勵(lì)各方協(xié)同共治，增強(qiáng)發(fā)展中國(guó)家在人工智能全球治理中的代表性和發(fā)言權(quán)，不斷彌合智能鴻溝和治理能力差距。與會(huì)期間，中國(guó)代表團(tuán)參與人工智能安全等問(wèn)題討論，積極宣介中方提出的《全球人工智能治理倡議》，并與相關(guān)國(guó)家開(kāi)展雙邊會(huì)談。

　　共同應(yīng)對(duì)風(fēng)險(xiǎn)

　　正如米歇爾·多內(nèi)蘭所言，世界正處于一場(chǎng)技術(shù)變革中，人工智能的蓬勃發(fā)展或?qū)⒏淖內(nèi)祟惿鐣?huì)的方方面面，不僅帶來(lái)巨大機(jī)遇，也會(huì)帶來(lái)威脅全球穩(wěn)定和破壞人類價(jià)值觀的風(fēng)險(xiǎn)。抓住機(jī)遇、應(yīng)對(duì)風(fēng)險(xiǎn)，全球要共同努力。      

　　“人們很早就開(kāi)始關(guān)注人工智能的風(fēng)險(xiǎn)問(wèn)題。人工智能技術(shù)歷史上歷經(jīng)幾輪熱潮，受益于大數(shù)據(jù)、算力等領(lǐng)域的突破，此輪人工智能發(fā)展浪潮最顯著的特點(diǎn)是研發(fā)、應(yīng)用和落地速度非?？欤@就給平衡安全與發(fā)展的有效治理帶來(lái)巨大挑戰(zhàn)。”李艷說(shuō)，最初，對(duì)人工智能風(fēng)險(xiǎn)的預(yù)判和管控主要聚焦于軍事領(lǐng)域，如無(wú)人操作系統(tǒng)、無(wú)人指揮系統(tǒng)。隨著ChatGPT等通用式人工智能技術(shù)突破，人工智能的應(yīng)用場(chǎng)景愈加廣泛，其風(fēng)險(xiǎn)也不再局限于某一特定領(lǐng)域。

　　在今年的聯(lián)合國(guó)大會(huì)上，人工智能安全治理是一個(gè)新興的熱門(mén)議題。7月18日，聯(lián)合國(guó)安理會(huì)舉行主題為“人工智能給國(guó)際和平與安全帶來(lái)的機(jī)遇與風(fēng)險(xiǎn)”高級(jí)別公開(kāi)會(huì)。這是安理會(huì)在聯(lián)合國(guó)總部舉行的首次人工智能會(huì)議。聯(lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯警告稱，人工智能正在多領(lǐng)域發(fā)揮作用，但它也可能被懷有惡意的人使用，包括將其用于恐怖主義、煽動(dòng)仇恨和暴力等。他說(shuō)，聯(lián)合國(guó)的人工智能監(jiān)管機(jī)構(gòu)應(yīng)當(dāng)規(guī)范、監(jiān)督和執(zhí)行人工智能規(guī)則，監(jiān)管方式與其他機(jī)構(gòu)監(jiān)管航空、氣候和核能的方式大致相同。

　　裴軼表示，目前人工智能技術(shù)主要造成三類問(wèn)題。一是信息安全問(wèn)題。人工智能需要實(shí)時(shí)更新海量數(shù)據(jù)用于模型訓(xùn)練。當(dāng)前，在個(gè)人隱私領(lǐng)域中，相關(guān)企業(yè)、平臺(tái)尚未達(dá)成遵循知情同意原則的共識(shí)，存在越權(quán)使用等現(xiàn)象。因此，用戶如果缺乏相關(guān)意識(shí)，在使用人工智能技術(shù)時(shí)，很可能導(dǎo)致個(gè)人隱私數(shù)據(jù)泄露。二是虛假信息問(wèn)題。盡管技術(shù)中立，但人為投放不實(shí)消息或片面事實(shí)可能導(dǎo)致人工智能模型產(chǎn)出虛假信息，也就是“深度偽造”。三是數(shù)字鴻溝問(wèn)題。人工智能具備高效的信息檢索和整合能力，雖然為人們的工作和生活提供了極大方便，但其產(chǎn)出的真實(shí)性和準(zhǔn)確性并不牢靠。因此，信息甄別、自主決策能力強(qiáng)的使用者將更善于使用這項(xiàng)工具，而盲從的使用者則可能為其所害。隨著兩者使用技術(shù)的差距不斷沉積，數(shù)字鴻溝也就此加深。

　　李艷表示，目前，人工智能技術(shù)和產(chǎn)業(yè)尚處于發(fā)展初期，很多風(fēng)險(xiǎn)還難以評(píng)估。但如果等人工智能安全風(fēng)險(xiǎn)明確顯現(xiàn)或爆發(fā)后再制定治理規(guī)則，人類將付出巨大代價(jià)。國(guó)際社會(huì)需要給予人工智能一個(gè)密切審慎觀察的空間，治理規(guī)則的制定需要在技術(shù)和社會(huì)的緊密互動(dòng)中保持靈活性，隨時(shí)根據(jù)實(shí)際情況校準(zhǔn)政策，從而有效且前瞻性地解決問(wèn)題。

　　兼顧安全與發(fā)展

　　為應(yīng)對(duì)人工智能安全領(lǐng)域的風(fēng)險(xiǎn)，各國(guó)已紛紛展開(kāi)行動(dòng)。

　　10月30日，法國(guó)、德國(guó)、意大利三國(guó)在意大利首都羅馬舉行高級(jí)別會(huì)議并發(fā)表聯(lián)合公報(bào)稱，法德意三國(guó)正在制定人工智能戰(zhàn)略愿景，商討歐洲的聯(lián)合項(xiàng)目和額外投資，并通過(guò)出臺(tái)人工智能監(jiān)管法規(guī)來(lái)管控風(fēng)險(xiǎn)。9月底，美國(guó)國(guó)家安全局宣布成立人工智能安全中心，負(fù)責(zé)監(jiān)督美國(guó)國(guó)防和情報(bào)部門(mén)人工智能能力的開(kāi)發(fā)和整合。6月，歐盟推出全球首部人工智能法案，對(duì)生成式人工智能企業(yè)提出更高的透明度要求。同月，英國(guó)首相蘇納克在訪美期間和美國(guó)總統(tǒng)拜登發(fā)表《大西洋宣言》，同意在人工智能等領(lǐng)域加強(qiáng)合作。  

　　此外，2019年，聯(lián)合國(guó)教科文組織發(fā)布了《人工智能倫理問(wèn)題建議書(shū)》，積極思考人工智能倫理問(wèn)題，推動(dòng)人工智能倫理原則在全球范圍內(nèi)的傳播與實(shí)施。同年，二十國(guó)集團(tuán)（G20）發(fā)布《G20人工智能原則》，強(qiáng)調(diào)人工智能的倫理和社會(huì)責(zé)任。2018年，歐盟委員會(huì)提出《人工智能的倫理準(zhǔn)則》，強(qiáng)調(diào)人工智能的應(yīng)用必須符合人類價(jià)值觀和倫理原則，并建議采取措施加強(qiáng)人工智能的監(jiān)管和透明度，促進(jìn)其可持續(xù)發(fā)展。

　　作為聯(lián)合國(guó)安理會(huì)常任理事國(guó)和國(guó)際社會(huì)負(fù)責(zé)任的一員，中國(guó)積極參與全球人工智能治理，致力于提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。早在2021年12月，中國(guó)就向聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)提交《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》。2022年11月，中國(guó)又向聯(lián)合國(guó)《特定常規(guī)武器公約》締約國(guó)大會(huì)提交了《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》。這些主張堅(jiān)持維護(hù)人類福祉，堅(jiān)守公平正義，體現(xiàn)了大國(guó)責(zé)任擔(dān)當(dāng)，為解決全球人工智能治理難題貢獻(xiàn)了中國(guó)智慧和中國(guó)方案。日前，中方在第三屆“一帶一路”國(guó)際合作高峰論壇期間提出《全球人工智能治理倡議》，就各方普遍關(guān)切的人工智能發(fā)展與治理問(wèn)題給出建設(shè)性解決思路，為人工智能相關(guān)國(guó)際討論和規(guī)則制定提供了藍(lán)本。

　　“首屆人工智能安全峰會(huì)為全球人工智能安全治理搭建了國(guó)際交流平臺(tái)，引起了各方關(guān)切，為今后開(kāi)展合作營(yíng)造了良好的輿論氛圍和國(guó)際政策環(huán)境。但此次峰會(huì)能否為全球人工智能治理搭建一個(gè)更具持續(xù)性、更有穩(wěn)定性的機(jī)制，還存在較大不確定性，有待進(jìn)一步觀察?！崩钇G說(shuō)。

　　“人工智能安全治理要達(dá)成全球性共識(shí)還面臨不少挑戰(zhàn)?！崩钇G表示，不同國(guó)家的國(guó)情和發(fā)展階段不同，對(duì)人工智能安全治理的利益訴求不盡相同。當(dāng)前，人工智能安全領(lǐng)域比較容易在原則和倫理層面達(dá)成共識(shí)，但是在軍事、技術(shù)標(biāo)準(zhǔn)等具體領(lǐng)域達(dá)成共識(shí)的難度相對(duì)較大。但無(wú)論如何，國(guó)際社會(huì)就此保持積極的對(duì)話交流，總是有助于在發(fā)展和安全之間求取最大的平衡。

　　裴軼表示，監(jiān)管要兼顧安全與發(fā)展，通過(guò)細(xì)化立法領(lǐng)域、拓寬管轄范圍、提高法律效力層級(jí)等方式，為人工智能的探索劃定原則底線。

返回列表