6163银河手机版

薛瀾：是的，人工智能全球治理也需要“敏捷性”。之前國(guó)際社會(huì)缺乏這種緊迫感。在ChatGPT發(fā)布之前，人們覺(jué)得通用人工智能距離我們還比較遙遠(yuǎn)。但現(xiàn)在，大家已經(jīng)意識(shí)到通用人工智能實(shí)現(xiàn)的可能性已經(jīng)越來(lái)越大，不受人類控制的、有自主意識(shí)的系統(tǒng)出現(xiàn)的可能性也越來(lái)越大。

因此，對(duì)于有極高風(fēng)險(xiǎn)的技術(shù)，我們需要持續(xù)關(guān)注安全問(wèn)題。這方面的典型案例是核技術(shù)。核技術(shù)的產(chǎn)生就與戰(zhàn)爭(zhēng)緊密相關(guān)，并且被直接應(yīng)用于戰(zhàn)爭(zhēng)，讓全世界所有人都看到了它所帶來(lái)的巨大傷亡和毀滅性風(fēng)險(xiǎn)。之后，從切爾諾貝利事故到福島核事故，一系列核事故帶來(lái)的災(zāi)難一再提醒人們關(guān)注核技術(shù)的風(fēng)險(xiǎn)防控。據(jù)說(shuō)目前全球核技術(shù)領(lǐng)域95%的研發(fā)經(jīng)費(fèi)都被用在安全防控的研發(fā)上。

中國(guó)新聞周刊：過(guò)去一年來(lái)，人工智能全球治理成為國(guó)際社會(huì)的熱門話題，中美領(lǐng)導(dǎo)人舊金山會(huì)晤就此達(dá)成重要共識(shí)，中國(guó)發(fā)布《全球人工智能治理倡議》，提出“確保有益，確保安全，確保公平”的基本原則。與此同時(shí)，歐盟、英國(guó)等也推動(dòng)召開(kāi)了多次關(guān)于人工智能議題的峰會(huì)。在此背景下，我們距離形成一個(gè)全球性的人工智能治理共識(shí)還有多遠(yuǎn)？

中國(guó)新聞周刊：你曾提出，人工智能技術(shù)發(fā)展變化迅速，因此政府需要“敏捷治理”。但在國(guó)際層面，治理規(guī)則的形成、新的國(guó)際組織的建設(shè)總是曠日持久。如何破解國(guó)際多邊談判速度跟不上技術(shù)發(fā)展速度的難題？

在發(fā)展問(wèn)題上，各方的差別更大一些。以美國(guó)為例，相比中國(guó)和歐盟，美國(guó)一般來(lái)說(shuō)比較強(qiáng)調(diào)自由市場(chǎng)的力量，依靠市場(chǎng)推動(dòng)科技創(chuàng)新。在人工智能發(fā)展和治理方面，態(tài)度比較寬松，沒(méi)有進(jìn)行單獨(dú)立法，而是以白宮行政令的形式要求企業(yè)遵循一系列規(guī)則。所以在人工智能規(guī)則制定方面，美國(guó)表現(xiàn)不算積極。

總的來(lái)說(shuō)，我認(rèn)為中國(guó)不必特別擔(dān)心所謂美國(guó)“搶跑”的問(wèn)題。我們需要加強(qiáng)和美國(guó)等西方國(guó)家在人工智能領(lǐng)域的對(duì)話。一方面，大國(guó)競(jìng)爭(zhēng)和地緣政治是現(xiàn)實(shí)問(wèn)題，美國(guó)及其盟友在很多方面排斥中國(guó)或給中國(guó)施加壓力，中國(guó)需要在對(duì)話中明確我們的底線，捍衛(wèi)我們的立場(chǎng)，不接受不平等的規(guī)則；另一方面，我們也要搭建更多平臺(tái)，加強(qiáng)對(duì)話，在有共同利益的問(wèn)題上增進(jìn)共識(shí)，推進(jìn)人工智能全球治理框架的形成。

中國(guó)新聞周刊：過(guò)去幾年，中美雙方就人工智能全球治理進(jìn)行了多個(gè)層次的交流對(duì)話。你覺(jué)得目前中美之間關(guān)于人工智能全球治理的討論是否充分？去年，美國(guó)在荷蘭舉行的“軍事領(lǐng)域負(fù)責(zé)任人工智能”峰會(huì)期間發(fā)布《政治宣言》，試圖和其全球伙伴先行商定一些人工智能全球治理共識(shí)，從而引領(lǐng)、主導(dǎo)國(guó)際社會(huì)的規(guī)則制定。中方應(yīng)如何應(yīng)對(duì)美國(guó)的“搶跑”活動(dòng)？

薛瀾：提到人工智能在軍事沖突中的應(yīng)用，我認(rèn)為禁止人工智能在軍事領(lǐng)域的應(yīng)用是我們大家共同努力的方向。只有這樣，才能最大程度地降低安全失控的風(fēng)險(xiǎn)。中國(guó)自2014年以來(lái)積極參與《特定常規(guī)武器條約》締約國(guó)關(guān)于致命性自主武器系統(tǒng)的討論，是最早提出應(yīng)禁止開(kāi)發(fā)和應(yīng)用完全自主的致命性武器的國(guó)家之一。

薛瀾：首先，在風(fēng)險(xiǎn)防控問(wèn)題上，要讓人類社會(huì)的所有成員表達(dá)自己的意愿。即使沒(méi)有掌握新技術(shù)的國(guó)家，也有權(quán)利和義務(wù)就技術(shù)安全問(wèn)題作出自己的判斷，表達(dá)自己的意愿并參與規(guī)則制定。

近年來(lái)，中國(guó)政府為此進(jìn)行了大量工作，發(fā)布了《全球人工智能治理倡議》等立場(chǎng)文件?，F(xiàn)在，我們要在此基礎(chǔ)上進(jìn)一步研究如何落實(shí)這些原則。不可否認(rèn)的是，美國(guó)的學(xué)術(shù)界和政策界在規(guī)則研究方面做了大量工作，并在國(guó)際社會(huì)上非?；钴S地推動(dòng)和宣傳他們的想法。而中國(guó)的學(xué)術(shù)界和政策界還應(yīng)該解放思想，加強(qiáng)在這方面的研究和宣傳工作。

薛瀾：一方面，各國(guó)對(duì)人工智能全球治理的宏觀原則存在基本共識(shí)。中國(guó)、美國(guó)、歐盟提出的人工智能治理原則，都以負(fù)責(zé)、包容、平等、安全等理念為核心。但另一方面，世界各主要經(jīng)濟(jì)體還沒(méi)有進(jìn)入到就人工智能全球治理的具體措施進(jìn)行充分、深入交流的階段。各國(guó)各自出臺(tái)了人工智能國(guó)內(nèi)治理的法律或措施，但還沒(méi)有把這些規(guī)則拿到桌面上進(jìn)行對(duì)比，看看對(duì)共識(shí)性原則的理解在實(shí)踐中是否有差異、是否可以協(xié)調(diào)形成全球性規(guī)則。

在具體操作層面，這就需要中國(guó)、美國(guó)等人工智能“第一梯隊(duì)”國(guó)家在全球技術(shù)共享上采取更多的積極措施。這包括和發(fā)展中國(guó)家的相關(guān)機(jī)構(gòu)、高校及企業(yè)合作，使他們盡快掌握和應(yīng)用人工智能技術(shù)，為社會(huì)造福，同時(shí)也要保證他們能安全地使用新技術(shù)。

中國(guó)新聞周刊：在人工智能自主武器的治理上，以美國(guó)為代表的部分技術(shù)先進(jìn)國(guó)家和其他國(guó)家之間的觀點(diǎn)并不相同。一些國(guó)家為了自己的軍事優(yōu)勢(shì)，不希望禁止對(duì)高風(fēng)險(xiǎn)技術(shù)的研發(fā)和應(yīng)用。這種難題如何破解？

當(dāng)然，如何幫助全社會(huì)對(duì)新興技術(shù)的風(fēng)險(xiǎn)建立一個(gè)全面客觀的認(rèn)識(shí)也是刻不容緩的事情。一些文學(xué)藝術(shù)作品或科幻作品對(duì)于人工智能技術(shù)的風(fēng)險(xiǎn)也有一些不切實(shí)際的夸大，使得社會(huì)部分人群也對(duì)人工智能技術(shù)產(chǎn)生不必要的恐懼，這樣的情況也是需要注意的。

以生命科學(xué)領(lǐng)域的基因編輯技術(shù)為例，像賀建奎事件所體現(xiàn)的那樣，對(duì)人類基因進(jìn)行編輯改造的事情在技術(shù)上是可能的，但在其背后的倫理和社會(huì)責(zé)任問(wèn)題想清楚之前，世界各國(guó)的學(xué)術(shù)共同體和醫(yī)務(wù)界都認(rèn)為這個(gè)技術(shù)不能再“向前一步”。通用人工智能技術(shù)從本質(zhì)上說(shuō)也是潛在風(fēng)險(xiǎn)極高，一旦出錯(cuò)其后果可能是無(wú)法挽回的，屬于人類社會(huì)必須面對(duì)的終極技術(shù)。

一旦人工智能系統(tǒng)不受人類控制，我們面對(duì)的問(wèn)題就不再是國(guó)家和國(guó)家之間沖突的問(wèn)題，而是“碳基和硅基的對(duì)抗”。此外，主權(quán)國(guó)家之間的沖突可能還會(huì)受到各種國(guó)際公約和規(guī)則的制約，但如果有極端組織或者個(gè)人出于對(duì)社會(huì)的不滿，使用人工智能技術(shù)報(bào)復(fù)社會(huì)，其后果將不堪設(shè)想。面對(duì)這些問(wèn)題，全人類的利益一致，所采納的風(fēng)險(xiǎn)防控機(jī)制和政策也應(yīng)一致。這就如同民航業(yè)的安全檢查，各國(guó)都會(huì)按照統(tǒng)一的國(guó)際標(biāo)準(zhǔn)執(zhí)行。

薛瀾：人類社會(huì)走到今天，在科技發(fā)展方面始終面臨著一個(gè)關(guān)鍵問(wèn)題，即需要對(duì)新科技的發(fā)展進(jìn)行收益和風(fēng)險(xiǎn)的評(píng)估和權(quán)衡。有些技術(shù)固然可以幫助我們實(shí)現(xiàn)更好的生活，但也可能帶來(lái)更大的安全風(fēng)險(xiǎn)，所以我們必須考慮在什么地方停步。

歷史上看，美國(guó)等西方國(guó)家在全球治理規(guī)則制定上一直希望占據(jù)主導(dǎo)地位，在人工智能治理領(lǐng)域也不例外。對(duì)此，中國(guó)應(yīng)當(dāng)加強(qiáng)對(duì)人工智能全球治理的研究，形成真正有價(jià)值的、站在人類命運(yùn)共同體立場(chǎng)上的想法和建議，讓包括美國(guó)等西方國(guó)家的國(guó)際社會(huì)對(duì)中國(guó)的建議產(chǎn)生共鳴。

6163银河手机版在機(jī)器人“三大法則”的限制下，人類與機(jī)器人和諧相處，但在一起離奇的兇殺案發(fā)生后，警探調(diào)查發(fā)現(xiàn)機(jī)器人產(chǎn)生了自我意識(shí)，隨時(shí)可能成為人類的“公敵”……近年來(lái)，隨著通用人工智能迅速發(fā)展，二十年前上映的電影《我，機(jī)器人》中的恐怖劇情，成為現(xiàn)實(shí)的概率正逐漸增加。但對(duì)于人工智能國(guó)際治理的具體準(zhǔn)則，國(guó)際社會(huì)仍未達(dá)成共識(shí)。

但現(xiàn)實(shí)情況是，由于一些全球治理問(wèn)題非常復(fù)雜，很多治理機(jī)制會(huì)同時(shí)參與、介入對(duì)其治理，形成“機(jī)制復(fù)合體”。人工智能就有這種問(wèn)題。從聯(lián)合國(guó)到各個(gè)國(guó)際組織、各國(guó)政府、行業(yè)標(biāo)準(zhǔn)組織、非政府組織等都提出了不同的要求和規(guī)則。

我希望人類社會(huì)的智慧可以讓我們盡快找到建立國(guó)際機(jī)制的可行方案。同時(shí)，很多專家也在呼吁人工智能技術(shù)公司放慢發(fā)展步伐，在不能確保安全、缺乏規(guī)制的情況下不要輕易推進(jìn)技術(shù)前沿。當(dāng)然，未來(lái)人工智能安全本身可能也會(huì)形成一個(gè)市場(chǎng)，全社會(huì)也需要加強(qiáng)對(duì)人工智能安全領(lǐng)域的研發(fā)投入，使得有更多的技術(shù)公司參與監(jiān)測(cè)和評(píng)估人工智能的安全性，政府監(jiān)管部門也有更加有效的工具來(lái)防范相關(guān)風(fēng)險(xiǎn)。

但是，目前技術(shù)轉(zhuǎn)移主要依賴市場(chǎng)手段，而國(guó)際技術(shù)轉(zhuǎn)移的市場(chǎng)還是有很多障礙的。我們未來(lái)也許應(yīng)該考慮將更多的資源投入到發(fā)展中國(guó)家的科技創(chuàng)新能力建設(shè)上。如果沒(méi)有更好的教育、創(chuàng)新和研發(fā)環(huán)境，即使技術(shù)轉(zhuǎn)移到發(fā)展中國(guó)家，也難以發(fā)揮最大的作用。所以，人工智能全球治理，也包括推動(dòng)發(fā)展中國(guó)家建立能接納人工智能技術(shù)落地的教育和創(chuàng)新體系。

人工智能技術(shù)和其他技術(shù)的安全風(fēng)險(xiǎn)還不太一樣。即使是原子彈這樣的核技術(shù)應(yīng)用，它帶來(lái)的危害還是在人類控制之下的。而如果通用人工智能系統(tǒng)產(chǎn)生了自我保護(hù)、自我發(fā)展的意識(shí)，不再受人類控制，乃至無(wú)法接受人類是它主人的現(xiàn)實(shí)，那我們所有人類的生存都將面臨危險(xiǎn)，這種安全問(wèn)題一旦失控就是不可挽回的。所以，我們希望千萬(wàn)不要走到這一步。

這種情況的特點(diǎn)是，不同治理機(jī)制之間存在重疊和沖突，彼此又沒(méi)有清晰的從屬關(guān)系。聯(lián)合國(guó)不是“世界政府”，并非對(duì)所有參與者和社會(huì)主體都有普遍約束力。這使得問(wèn)題的討論和解決變得更加復(fù)雜。在這種情況下，各方需要特別注意包容性，盡可能容納更多不同的社群和觀點(diǎn)，以尋找真正的共識(shí)。

國(guó)際政治的現(xiàn)實(shí)是，一些國(guó)家認(rèn)為自主武器是在戰(zhàn)爭(zhēng)中減少人員傷亡的好辦法，是讓自己形成戰(zhàn)略優(yōu)勢(shì)的好工具。所以對(duì)于應(yīng)當(dāng)如何限制自主武器的開(kāi)發(fā)應(yīng)用，各國(guó)還存在不同的判斷。但即使這樣，有些安全問(wèn)題是大家需要共同面對(duì)的。

但是，一些世界主要國(guó)家，特別是聯(lián)合國(guó)安理會(huì)的其他常任理事國(guó)，并沒(méi)有加入中國(guó)這一呼吁。之后，國(guó)際社會(huì)又提出禁止應(yīng)用完全自主的大規(guī)模致命性武器(但不禁止開(kāi)發(fā))等主張，依然沒(méi)有得到除中國(guó)以外的其他大國(guó)的響應(yīng)。

當(dāng)然，如果美國(guó)等西方國(guó)家的規(guī)則確實(shí)反映了世界各國(guó)的意愿，我們也應(yīng)該持支持態(tài)度。也就是說(shuō)，在人工智能領(lǐng)域的全球治理規(guī)則上，不應(yīng)該以國(guó)家或意識(shí)形態(tài)劃線，而應(yīng)該以人類社會(huì)的共同利益作為判斷的基準(zhǔn)。

考慮到種種分歧，各方最終能否形成治理人工智能的全球性規(guī)則，還要打一個(gè)問(wèn)號(hào)。一個(gè)可能的結(jié)果是：各國(guó)在安全底線問(wèn)題上達(dá)成共識(shí)并建立機(jī)制，但在其他問(wèn)題上，各國(guó)會(huì)按照各自的治理邏輯進(jìn)行規(guī)制，并在一定程度上協(xié)調(diào)。

在安全底線問(wèn)題上，全球有明顯的共同利益。大家都擔(dān)心人工智能未來(lái)可能不受人類社會(huì)控制。所以，大家會(huì)尋找為了維護(hù)共同利益而必須遵守的規(guī)則。但在一般的社會(huì)應(yīng)用層面的風(fēng)險(xiǎn)問(wèn)題上，各國(guó)對(duì)不同風(fēng)險(xiǎn)的評(píng)判不同，價(jià)值觀念不同等，會(huì)存在不同的立場(chǎng)。比如爭(zhēng)議很大的人臉識(shí)別技術(shù)，有些社會(huì)反應(yīng)比較強(qiáng)烈，擔(dān)心會(huì)侵犯?jìng)€(gè)人隱私及泄露個(gè)人信息；但也有些社會(huì)感覺(jué)如果應(yīng)用恰當(dāng)并加上合理的規(guī)制，承擔(dān)一些不高的風(fēng)險(xiǎn)可以換取更加方便的社會(huì)應(yīng)用。

關(guān)于未來(lái)可能達(dá)成的全球性共識(shí)，我們首先要明確，人工智能治理有兩個(gè)核心內(nèi)容。一是發(fā)展問(wèn)題，即如何構(gòu)建良好的制度規(guī)則，推動(dòng)人工智能創(chuàng)新發(fā)展，科技向善；一是安全問(wèn)題，包括保證安全底線和防范其他風(fēng)險(xiǎn)。這是所有治理邏輯都必須依托的出發(fā)點(diǎn)。

中國(guó)新聞周刊：人工智能的安全問(wèn)題，和歷史上新技術(shù)帶給人類的安全挑戰(zhàn)相比，有什么不同之處？歷史上是否有什么技術(shù)安全治理的經(jīng)驗(yàn)可以汲??？

中國(guó)新聞周刊：核技術(shù)確實(shí)是一個(gè)很好的例子，但對(duì)其安全問(wèn)題的重視是發(fā)生在災(zāi)難發(fā)生后。人類社會(huì)是否必須經(jīng)歷一場(chǎng)大災(zāi)難，才能真正推動(dòng)對(duì)某項(xiàng)新技術(shù)的安全風(fēng)險(xiǎn)防控？

我們需要在一定程度上跳出熟悉的國(guó)內(nèi)話語(yǔ)體系、跳出一些約束和限制，能夠站在人類命運(yùn)共同體的立場(chǎng)上，形成推動(dòng)全球各方達(dá)成共識(shí)的想法，讓世界能充分意識(shí)到“中國(guó)倡議”的價(jià)值。

所以，最近一兩年，在ChatGPT等產(chǎn)品發(fā)布后，人工智能的全球治理、特別是風(fēng)險(xiǎn)防控，得到的關(guān)注已經(jīng)越來(lái)越多。最近，我參與了一些著名人工智能技術(shù)專家和治理專家的共同努力，撰寫一篇提交給《科學(xué)》(Science)的論文。這篇論文就指出，我們已經(jīng)到了刻不容緩需要推動(dòng)人工智能全球治理的階段。

薛瀾：社會(huì)對(duì)于新技術(shù)的風(fēng)險(xiǎn)認(rèn)識(shí)確實(shí)存在滯后性。所以，如何讓社會(huì)公眾對(duì)新技術(shù)的潛在危害程度有更清晰的認(rèn)識(shí)，是一個(gè)巨大的挑戰(zhàn)。

薛瀾：在人工智能全球治理的交流上，2023年11月舉行的中美元首舊金山會(huì)晤達(dá)成了重要共識(shí)。此前，中美學(xué)術(shù)界和企業(yè)界關(guān)于人工智能全球治理有多層次的交流，去年7月基辛格先生訪華時(shí)，也就人工智能安全問(wèn)題和各個(gè)方面進(jìn)行了溝通。但總的來(lái)說(shuō)，中美兩國(guó)在人工智能全球治理問(wèn)題上缺乏系統(tǒng)性的、有組織的、全面深入的對(duì)話，也缺乏一軌對(duì)話機(jī)制。而現(xiàn)在，在中美元首舊金山會(huì)晤的共識(shí)中，雙方明確提出建立人工智能政府間對(duì)話機(jī)制，這是一個(gè)很重要的進(jìn)展。

實(shí)現(xiàn)人工智能全球治理難在何處？人類真的需要經(jīng)歷一場(chǎng)危機(jī)才能意識(shí)到人工智能的安全風(fēng)險(xiǎn)嗎？怎樣幫助發(fā)展中國(guó)家在人工智能發(fā)展中不掉隊(duì)？近日，就這些問(wèn)題，《中國(guó)新聞周刊》專訪了清華大學(xué)文科資深教授、國(guó)家新一代人工智能治理專業(yè)委員會(huì)主任薛瀾。

中國(guó)新聞周刊：在人工智能全球治理的發(fā)展問(wèn)題上，中共中央政治局委員、外交部部長(zhǎng)王毅在兩會(huì)記者會(huì)上強(qiáng)調(diào)，要促進(jìn)各方加強(qiáng)技術(shù)共享，努力彌合智能鴻溝，不讓任何國(guó)家掉隊(duì)。你認(rèn)為應(yīng)如何保證“全球南方”國(guó)家不在人工智能技術(shù)革命中落后？

其次，人工智能發(fā)展會(huì)帶來(lái)巨大的經(jīng)濟(jì)社會(huì)利益，要保證發(fā)展中國(guó)家在技術(shù)革命的過(guò)程中也能分享紅利。發(fā)展中國(guó)家在這個(gè)問(wèn)題上的意愿是非常強(qiáng)烈的。2022年，我在埃及作了一個(gè)關(guān)于中國(guó)人工智能發(fā)展的報(bào)告，埃及政府的許多官員、學(xué)者對(duì)此非常感興趣，特別希望和中國(guó)加強(qiáng)合作，希望埃及也能“趕上”。

此外，在國(guó)際政策輿論場(chǎng)中，西方國(guó)家的一些前政要、前官員、前商界領(lǐng)袖發(fā)揮著重要作用。他們有豐富的政策經(jīng)驗(yàn)，能提出切實(shí)可行的方案。中國(guó)也有很多非常有能力的政策界人士，可以在國(guó)際上發(fā)揮更大的作用。未來(lái)，如果形成人工智能的全球治理機(jī)構(gòu)，他們也可以深入?yún)⑴c工作，擴(kuò)大中國(guó)的話語(yǔ)權(quán)和影響力。