人工智能代表著推動(dòng)全球邁向更加公平未來的重要機(jī)遇，將激發(fā)創(chuàng)新、提升生產(chǎn)力、推動(dòng)可持續(xù)發(fā)展實(shí)踐，并切實(shí)增進(jìn)全人類福祉。

為實(shí)現(xiàn)上述愿景，人工智能全球治理須降低潛在風(fēng)險(xiǎn)，著力解決各國(guó)特別是全球南方國(guó)家的需要。治理須在《聯(lián)合國(guó)憲章》和各國(guó)監(jiān)管框架下開展，尊重國(guó)家主權(quán)，遵循代表性、發(fā)展導(dǎo)向、可及性、包容性、動(dòng)態(tài)更新和敏捷性原則。治理應(yīng)切實(shí)注重個(gè)人數(shù)據(jù)保護(hù)，保障人類權(quán)益，確保安全、透明、可持續(xù)，且有利于彌合本國(guó)及國(guó)家間日益擴(kuò)大的數(shù)字與數(shù)據(jù)鴻溝。世界各國(guó)應(yīng)共同努力，構(gòu)建以聯(lián)合國(guó)為核心的人工智能治理體系，弘揚(yáng)共同價(jià)值觀，應(yīng)對(duì)風(fēng)險(xiǎn)，建立信任，確保廣泛包容的人工智能國(guó)際合作與可及性，包括加強(qiáng)發(fā)展中國(guó)家人工智能能力建設(shè)。

在國(guó)際層面，各類治理倡議的激增及多邊協(xié)調(diào)中的分歧，可能加劇現(xiàn)有不對(duì)稱和全球數(shù)字治理的合法性赤字，從而進(jìn)一步削弱多邊主義。

為支持開展建設(shè)性對(duì)話，實(shí)現(xiàn)更加均衡的治理路徑，我們，金磚國(guó)家領(lǐng)導(dǎo)人一致同意制定一系列指導(dǎo)方針，以負(fù)責(zé)任方式推動(dòng)人工智能技術(shù)開發(fā)、部署和應(yīng)用，助力實(shí)現(xiàn)可持續(xù)發(fā)展和包容性增長(zhǎng)。這些方針僅限于非軍事領(lǐng)域的人工智能，應(yīng)通過國(guó)內(nèi)或適用的國(guó)際框架及具有互操作性的標(biāo)準(zhǔn)與協(xié)議，以包容、透明、基于共識(shí)的方式予以落實(shí)。

一、多邊主義、合法性與數(shù)字主權(quán)

聯(lián)合國(guó)是人工智能全球治理的核心。全球人工智能治理必須不惜一切代價(jià)避免碎片化與重復(fù)。我們必須依托聯(lián)合國(guó)系統(tǒng)作為充分包容且具有代表性的國(guó)際框架推進(jìn)人工智能國(guó)際治理。在聯(lián)合國(guó)相關(guān)倡議的決策進(jìn)程中，我們須推動(dòng)新興市場(chǎng)和發(fā)展中國(guó)家及全球南方國(guó)家有意義參與并發(fā)揮作用，同時(shí)認(rèn)識(shí)到區(qū)域和多利益攸關(guān)方框架的互補(bǔ)作用，鼓勵(lì)開展人工智能政策交流和對(duì)話，激發(fā)創(chuàng)新活力，促進(jìn)經(jīng)濟(jì)增長(zhǎng)。

人工智能協(xié)同共治錯(cuò)綜復(fù)雜，但前景可期。發(fā)達(dá)國(guó)家與發(fā)展中國(guó)家的相關(guān)利益攸關(guān)方網(wǎng)絡(luò)應(yīng)根據(jù)各自角色與責(zé)任，貢獻(xiàn)專業(yè)知識(shí)、觀念和資源。重申各國(guó)政府在人工智能治理中占據(jù)基礎(chǔ)性和主導(dǎo)性作用，我們?cè)竿綘I(yíng)部門、民間機(jī)構(gòu)、國(guó)際組織、科研和學(xué)術(shù)團(tuán)體以及其他利益攸關(guān)方密切合作，以實(shí)現(xiàn)代表性和包容性。

數(shù)字主權(quán)和發(fā)展權(quán)是全球人工智能治理的關(guān)鍵。我們堅(jiān)定支持各國(guó)在捍衛(wèi)基本權(quán)利的同時(shí)，有權(quán)充分利用數(shù)字經(jīng)濟(jì)與新興技術(shù)特別是人工智能帶來的發(fā)展紅利，通過加強(qiáng)數(shù)字基礎(chǔ)設(shè)施建設(shè)、培育本土技術(shù)人才、確保公民免受人工智能風(fēng)險(xiǎn)傷害等方式，制定本國(guó)法律權(quán)限范圍內(nèi)的人工智能監(jiān)管框架，提升人工智能研究能力，培育自主技術(shù)創(chuàng)新，確保數(shù)據(jù)安全，推進(jìn)本國(guó)數(shù)字經(jīng)濟(jì)發(fā)展。

二、市場(chǎng)規(guī)范、數(shù)據(jù)治理與技術(shù)可及性

公平競(jìng)爭(zhēng)和市場(chǎng)規(guī)范是人工智能邁向公平未來的基石。數(shù)字經(jīng)濟(jì)應(yīng)根據(jù)國(guó)內(nèi)法律框架和法規(guī)及適用的國(guó)際協(xié)定，明確國(guó)家、企業(yè)與用戶的權(quán)利和義務(wù)，構(gòu)建公平競(jìng)爭(zhēng)的市場(chǎng)環(huán)境，促進(jìn)創(chuàng)新和經(jīng)濟(jì)增長(zhǎng)。我們強(qiáng)調(diào)避免監(jiān)管體系碎片化，推動(dòng)公平、透明的市場(chǎng)規(guī)范重要性，鼓勵(lì)競(jìng)爭(zhēng)，增強(qiáng)競(jìng)爭(zhēng)力，避免任何形式的扭曲行為，營(yíng)造可持續(xù)、健康的市場(chǎng)環(huán)境。

數(shù)據(jù)治理是人工智能包容性治理的關(guān)鍵。我們強(qiáng)調(diào)，公平、包容和公正的數(shù)據(jù)治理對(duì)發(fā)展中國(guó)家利用數(shù)字經(jīng)濟(jì)和人工智能等新興技術(shù)至關(guān)重要。我們同樣認(rèn)識(shí)到需根據(jù)《金磚國(guó)家數(shù)據(jù)經(jīng)濟(jì)治理諒解》建立數(shù)據(jù)治理框架以建立信任，在尊重隱私權(quán)、個(gè)人數(shù)據(jù)保護(hù)、算法透明性、知識(shí)產(chǎn)權(quán)和國(guó)家安全等相關(guān)法律框架的同時(shí)，為發(fā)展中國(guó)家提供公平、一致、安全、可靠的高質(zhì)量數(shù)據(jù)。

人工智能技術(shù)獲取應(yīng)遵循公平、公正、賦能性與包容性原則。世界各國(guó)，無論處于何種經(jīng)濟(jì)發(fā)展階段，均享有開發(fā)、使用人工智能并從中受益的權(quán)利。我們強(qiáng)調(diào)應(yīng)通過國(guó)際合作促進(jìn)人工智能技術(shù)及關(guān)鍵部件的獲取，消除人工智能研究與創(chuàng)新的資金壁壘，尤其是在中低收入國(guó)家構(gòu)建必要的知識(shí)、技能與風(fēng)險(xiǎn)管理框架，以有效利用人工智能技術(shù)。

保護(hù)知識(shí)產(chǎn)權(quán)與維護(hù)公共利益之間需要平衡。應(yīng)在專利權(quán)、透明度及問責(zé)制之間建立平衡，以維護(hù)公共利益，促進(jìn)國(guó)際技術(shù)轉(zhuǎn)移，遵守國(guó)內(nèi)法律及適用的國(guó)際法。針對(duì)未經(jīng)授權(quán)的人工智能使用，應(yīng)建立適當(dāng)?shù)闹R(shí)產(chǎn)權(quán)特別是版權(quán)保護(hù)機(jī)制，防止剝奪性數(shù)據(jù)提取和隱私侵犯，同時(shí)建立公平的補(bǔ)償機(jī)制。相關(guān)保護(hù)措施應(yīng)明確問責(zé)機(jī)制，遵守人工智能模型輸入與輸出透明度要求等相關(guān)法律。

人工智能發(fā)展應(yīng)堅(jiān)持開放原則，鼓勵(lì)創(chuàng)新生態(tài)系統(tǒng)。在符合各國(guó)政策與優(yōu)先事項(xiàng)的情況下，我們鼓勵(lì)通過開放科學(xué)和開放創(chuàng)新機(jī)制推動(dòng)開源發(fā)展和國(guó)際科技合作，將其作為提升人工智能研究、開發(fā)、創(chuàng)新、數(shù)據(jù)保護(hù)、數(shù)據(jù)主權(quán)及部署能力的關(guān)鍵引擎，允許研究人員、開發(fā)者及相關(guān)組織進(jìn)行審查和審計(jì)，進(jìn)而構(gòu)建安全、可信、透明的人工智能系統(tǒng)。我們必須確保實(shí)質(zhì)性參與并培育包容性協(xié)作方式，防范全球人工智能發(fā)展和供應(yīng)鏈壁壘。我們鼓勵(lì)開發(fā)資源高效、專業(yè)、開放的基礎(chǔ)模型，促進(jìn)人工智能創(chuàng)新生態(tài)系統(tǒng)發(fā)展。

國(guó)際標(biāo)準(zhǔn)應(yīng)助力實(shí)現(xiàn)具有包容性、代表性及可及性的人工智能。制定人工智能系統(tǒng)技術(shù)標(biāo)準(zhǔn)、規(guī)范與協(xié)議應(yīng)有公共部門、標(biāo)準(zhǔn)制定組織及聯(lián)合國(guó)專門機(jī)構(gòu)的參與，以確保在人工智能技術(shù)全開發(fā)周期及跨平臺(tái)應(yīng)用中具備可信性、互操作性、安全性與可靠性。我們必須杜絕以標(biāo)準(zhǔn)制定變相為中小企業(yè)及發(fā)展中經(jīng)濟(jì)體構(gòu)筑市場(chǎng)準(zhǔn)入壁壘。

三、公平與可持續(xù)發(fā)展

人工智能應(yīng)普惠共享。健全的基礎(chǔ)設(shè)施、有意義的互聯(lián)互通和數(shù)字包容是任何國(guó)家部署人工智能的先決條件。在數(shù)字公共基礎(chǔ)設(shè)施等基礎(chǔ)上構(gòu)建的數(shù)字政務(wù)服務(wù)，可能會(huì)成為數(shù)字經(jīng)濟(jì)包容性發(fā)展、保障公民權(quán)利與福利的催化劑。應(yīng)通過國(guó)內(nèi)政策、多邊開發(fā)銀行等解決能力和基礎(chǔ)設(shè)施領(lǐng)域存在的普遍差距，以推進(jìn)人工智能在新興市場(chǎng)國(guó)家和發(fā)展中國(guó)家的應(yīng)用與開發(fā)。

人工智能引領(lǐng)協(xié)同可持續(xù)發(fā)展。我們致力于通過開源等方式支持人工智能應(yīng)用，應(yīng)對(duì)醫(yī)療衛(wèi)生、教育、安全、交通、能源、農(nóng)業(yè)、環(huán)境、水資源及廢棄物管理等領(lǐng)域的關(guān)鍵發(fā)展挑戰(zhàn)，相關(guān)工作需遵循各國(guó)法律與優(yōu)先事項(xiàng)。應(yīng)持續(xù)推廣人工智能對(duì)可持續(xù)發(fā)展的益處。我們將聚焦培育、賦能本土技術(shù)能力與抱負(fù)的研究、開發(fā)與創(chuàng)新倡議，彌合發(fā)達(dá)國(guó)家與發(fā)展中國(guó)家間的技術(shù)鴻溝。

環(huán)境可持續(xù)性是人工智能發(fā)展的前提。人工智能應(yīng)幫助減排、適應(yīng)氣候變化、助力環(huán)境保護(hù)、推動(dòng)可持續(xù)資源管理與優(yōu)化、維護(hù)生態(tài)平衡，助益經(jīng)濟(jì)社會(huì)可持續(xù)發(fā)展，并與各國(guó)優(yōu)先事項(xiàng)保持一致。開發(fā)和部署人工智能應(yīng)具有可持續(xù)性，最大限度減少其對(duì)環(huán)境的影響，應(yīng)對(duì)溫室氣體排放、能源和水資源消耗、材料使用以及電子廢棄物等問題。發(fā)展中國(guó)家應(yīng)把握低碳經(jīng)濟(jì)轉(zhuǎn)型帶來的機(jī)遇窗口，并通過人工智能領(lǐng)域的技術(shù)進(jìn)步引領(lǐng)發(fā)展。

人工智能應(yīng)保障體面勞動(dòng)，提高生產(chǎn)力。人工智能系統(tǒng)有提高生產(chǎn)力、激發(fā)創(chuàng)新活力、創(chuàng)造就業(yè)機(jī)會(huì)的潛力，但同時(shí)也給勞動(dòng)環(huán)境、工作強(qiáng)度和崗位替代帶來挑戰(zhàn)、關(guān)切和風(fēng)險(xiǎn)，對(duì)就業(yè)和勞動(dòng)者尊嚴(yán)構(gòu)成威脅。當(dāng)前，數(shù)字平臺(tái)快速發(fā)展，生成式人工智能等對(duì)就業(yè)市場(chǎng)的結(jié)構(gòu)性影響日益顯著，我們應(yīng)保障全體勞動(dòng)者特別是直接受到數(shù)字化轉(zhuǎn)型影響群體的權(quán)力與福祉。在設(shè)計(jì)、部署及使用人工智能時(shí)應(yīng)考慮人力資源的適應(yīng)性和兼容性，利用人工智能等技術(shù)的優(yōu)勢(shì)，促進(jìn)體面勞動(dòng)，實(shí)現(xiàn)充分和生產(chǎn)性就業(yè)。

人工智能應(yīng)成為變革教育和學(xué)習(xí)的工具。人工智能系統(tǒng)能夠整理信息、定制個(gè)性化體驗(yàn)和提供建議，我們擔(dān)憂，過度依賴人工智能系統(tǒng)可能對(duì)人類認(rèn)知、決策過程及應(yīng)對(duì)復(fù)雜信息環(huán)境的能力產(chǎn)生影響。我們致力于提升民眾數(shù)字素養(yǎng)，特別是教師與學(xué)生的數(shù)字素養(yǎng)，使其能夠?qū)徤髟u(píng)估人工智能生成內(nèi)容，理解算法固有的偏差，培養(yǎng)強(qiáng)大的知識(shí)自主意識(shí)和批判思維能力。

四、符合倫理的、可信的、負(fù)責(zé)的人工智能，造福所有人

人工智能必須具有包容性。我們認(rèn)識(shí)到，在數(shù)據(jù)集和人工智能模型中，知識(shí)、文化遺產(chǎn)和文化價(jià)值的缺乏存在被濫用和歪曲的風(fēng)險(xiǎn)。我們重申構(gòu)建合乎倫理的、透明的和負(fù)責(zé)的框架具有重要意義，例如聯(lián)合國(guó)教科文組織提出的《人工智能倫理問題建議書》。人工智能系統(tǒng)的研發(fā)必須充分尊重各國(guó)語言、文化、種族、地理及人口多樣性。我們?yōu)榇藨?yīng)開展國(guó)際合作，來訓(xùn)練全面、多語種、包容的優(yōu)質(zhì)數(shù)據(jù)集，并培育本土人工智能人才。

必須著力減輕歧視性偏見。我們需要有力工具識(shí)別并減少錯(cuò)誤及負(fù)面算法偏差，確保獨(dú)立審計(jì)機(jī)制以維護(hù)公平，制定針對(duì)偏見風(fēng)險(xiǎn)的評(píng)估標(biāo)準(zhǔn)，避免歧視性和排他性現(xiàn)象。使用歧視性數(shù)據(jù)訓(xùn)練的人工智能系統(tǒng)，往往對(duì)女性、少數(shù)族裔、殘障人士以及兒童、青少年、老年人等弱勢(shì)群體影響最為嚴(yán)重。推動(dòng)不同背景人員開展跨學(xué)科合作對(duì)制定標(biāo)準(zhǔn)、提升模型運(yùn)行與輸出的可解釋性、制定切實(shí)可行的治理策略至關(guān)重要，有助于防范負(fù)面偏見，支持負(fù)責(zé)任、公平地開發(fā)人工智能系統(tǒng)。

必須將公共利益置于首位。我們將秉持以人為本的理念，構(gòu)建和諧的人機(jī)交互關(guān)系，始終將人工智能作為提升人類自身能力的有力工具，確保人類對(duì)人工智能的最終控制權(quán)和監(jiān)督權(quán)。我們將構(gòu)建人類監(jiān)督機(jī)制、提升人工智能決策透明度和健全有效的問責(zé)體系作為優(yōu)先事項(xiàng)，以負(fù)責(zé)任且安全的方式推進(jìn)技術(shù)研發(fā)與應(yīng)用，降低相關(guān)風(fēng)險(xiǎn)，實(shí)現(xiàn)社會(huì)效益最大化。

必須堅(jiān)持以事實(shí)為基礎(chǔ)。人工智能生成的虛假文本、圖像、音頻及視頻內(nèi)容對(duì)信息真實(shí)性和完整性構(gòu)成嚴(yán)峻威脅，可能引發(fā)輿論操控、社會(huì)動(dòng)蕩，影響公共機(jī)構(gòu)公信力。我們將采取多維治理方式，提升信息完整性，強(qiáng)化媒體教育策略和地方傳播工作，包括研發(fā)快速識(shí)別虛假信息和錯(cuò)誤信息的工具，提升個(gè)體數(shù)字素養(yǎng)與批判性思維以增強(qiáng)網(wǎng)絡(luò)內(nèi)容鑒別力，制定明確的倫理準(zhǔn)則與法規(guī)，在保護(hù)隱私權(quán)與數(shù)據(jù)安全的同時(shí)，滿足人工智能在信息傳播領(lǐng)域的開發(fā)和應(yīng)用。

人工智能系統(tǒng)必須堅(jiān)守安全與信任。我們認(rèn)識(shí)到，需要實(shí)現(xiàn)人工智能安全、符合倫理、可信賴且負(fù)責(zé)任的發(fā)展，造福全人類。各國(guó)必須在遵循本國(guó)政策與安全考量的前提下，協(xié)同推動(dòng)人工智能技術(shù)創(chuàng)新與可及性，同時(shí)應(yīng)對(duì)人工智能技術(shù)引發(fā)的即時(shí)與長(zhǎng)期風(fēng)險(xiǎn)。我們重申，攜手應(yīng)對(duì)并防范人工智能技術(shù)惡意應(yīng)用的有關(guān)風(fēng)險(xiǎn)的重要性。應(yīng)審慎設(shè)計(jì)人工智能系統(tǒng)及其他信息通信技術(shù)，使其能有效檢測(cè)并防止技術(shù)濫用，例如欺詐、計(jì)算機(jī)攻擊、網(wǎng)絡(luò)犯罪或數(shù)據(jù)操縱等。

五、未來之路

通用人工智能應(yīng)以審慎方式發(fā)展。至關(guān)重要的是，通用人工智能研究應(yīng)遵循倫理準(zhǔn)則，并以負(fù)責(zé)任且可信賴的方式進(jìn)行應(yīng)用，助力各國(guó)特別是新興市場(chǎng)與發(fā)展中經(jīng)濟(jì)體的經(jīng)濟(jì)增長(zhǎng)，并應(yīng)對(duì)經(jīng)濟(jì)社會(huì)發(fā)展面臨的緊迫挑戰(zhàn)。若僅有少數(shù)實(shí)體掌控通用人工智能，將加劇不平等，催生新型技術(shù)依賴，對(duì)可持續(xù)發(fā)展帶來嚴(yán)峻挑戰(zhàn)。

邁向公平、包容的人工智能。金磚國(guó)家將采取共同、積極舉措，為所有人創(chuàng)造公平的數(shù)字環(huán)境，確定共同觀點(diǎn)，加強(qiáng)全球合作，推進(jìn)聯(lián)合國(guó)全球人工智能治理對(duì)話和國(guó)際人工智能科學(xué)小組，確保發(fā)展中國(guó)家有意義地參與相關(guān)進(jìn)程并發(fā)揮作用。我們將匯集各方力量，在國(guó)際平臺(tái)上推廣包括上述指導(dǎo)方針在內(nèi)的共同原則。我們歡迎各方特別是廣大發(fā)展中國(guó)家為完善指導(dǎo)方針貢獻(xiàn)智慧，將秉持開放態(tài)度持續(xù)優(yōu)化相關(guān)準(zhǔn)則。

返回列表