結(jié)合中國的優(yōu)勢(shì),姚期智表示可以建立符合中國國情的AI治理框架、簡化中國AI治理。包括建立AI大模型的分級(jí)體系;建立ID的實(shí)體映射,所有智能機(jī)器都有可以實(shí)名找到的ID;實(shí)現(xiàn)全產(chǎn)業(yè)鏈監(jiān)控AI。
在談及前沿大模型帶來的風(fēng)險(xiǎn)時(shí),姚期智表示,“大家關(guān)心AI安全治理的很大一部分原因是ChatGPT帶來的大模型的問題。信息安全有風(fēng)險(xiǎn),大模型幻覺產(chǎn)生的錯(cuò)誤信息可以誤導(dǎo)人類。同時(shí),AI控制更多基礎(chǔ)設(shè)施已成為一個(gè)不可改變的趨勢(shì),不安全的AI所帶來的危險(xiǎn),會(huì)真正變成生存的危機(jī)。那么我們?cè)撊绾喂芸厮???/p>
在“人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對(duì)措施”主題論壇上,圖靈獎(jiǎng)獲得者、中國科學(xué)院院士姚期智,聯(lián)合國副秘書長、聯(lián)合國大學(xué)校長Tshilidzi Marwala,香港科技大學(xué)首席副校長郭毅可等就人工智能安全治理的話題發(fā)表了主旨演講。
其中,姚期智分享的內(nèi)容為《人工智能安全治理的研究走向》。他首先介紹了前沿大模型帶來的信息、物理、生物智能風(fēng)險(xiǎn)與生存風(fēng)險(xiǎn),引申出AI系統(tǒng)安全與如何確保人的利益等問題,提出從技術(shù)和路徑的維度進(jìn)行分類治理。以大模型時(shí)代的數(shù)據(jù)安全研究舉例,他指出大模型會(huì)記住隱私數(shù)據(jù),而保護(hù)用戶隱私的研究尚處在較原始階段,重要方向是為大模型數(shù)據(jù)安全開發(fā)出一組核心技術(shù)。
此外,姚期智也談及中國在AI安全治理方面具有的優(yōu)勢(shì):“我們有完善的實(shí)名制身份驗(yàn)證系統(tǒng),減少了計(jì)算機(jī)網(wǎng)絡(luò)分布式系統(tǒng)的問題。中國有很多管控新科技風(fēng)險(xiǎn)的成功經(jīng)驗(yàn),同時(shí),數(shù)字化轉(zhuǎn)型、數(shù)據(jù)要素化、數(shù)據(jù)資產(chǎn)入表等都做得很好。”
乐鱼体育网赞助大巴黎7月4日,2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議在上海開幕。人工智能技術(shù)在治理上將遇到哪些挑戰(zhàn)、實(shí)際運(yùn)用的情況如何,是各界專家學(xué)者關(guān)心的話題。
姚期智表示,從長遠(yuǎn)看,AI安全治理不是縫縫補(bǔ)補(bǔ),他分享了兩個(gè)研究思路:一是讓AI和人類利益對(duì)齊的有益的通用人工智能(Beneficial AGI),在設(shè)計(jì)時(shí)要有數(shù)學(xué)規(guī)律,讓機(jī)器人的一切決定都以人為本,并且機(jī)器人要和人保持交流、能夠和人對(duì)話,了解人的需求到底是什么。另一個(gè)思路是設(shè)計(jì)數(shù)學(xué)上絕對(duì)安全的通用人工智能(Provably Safe AGI),即人類不直接和大模型接觸,只和可證明安全的白盒子交流。
“AI智能作為新的潮流,除了帶來益處,它的安全治理也變得越來越重要,超大型大模型的治理需要盡快研發(fā)出規(guī)范。其次,從學(xué)術(shù)角度來講,安全治理正成為學(xué)術(shù)交叉的新領(lǐng)域,涉及AI、密碼學(xué)、政治、法律、企業(yè)、經(jīng)濟(jì)等,多領(lǐng)域需要合作。第三,構(gòu)建AI安全系統(tǒng)的基礎(chǔ)研究是AI安全治理非常重要的前沿方向。”姚期智說道。
乐鱼体育网赞助大巴黎在哪下載安裝?乐鱼体育网赞助大巴黎好用嗎?
作者: 五常 ⛃485.49MB
查看704.13MB
查看10.7MB
查看908.48MB
查看
網(wǎng)友評(píng)論更多
63大慶s
名記稱CBA鬧事女球迷受朱芳雨指使⚳⚴
2024-09-25 06:29:20 推薦
187****8840 回復(fù) 184****7067:“火鍋”官宣撤檔引吐槽⚵來自伊春
187****4573 回復(fù) 184****7849:以色列戰(zhàn)時(shí)內(nèi)閣通過攻打拉法決定⚶來自鶴崗
157****5511:按最下面的歷史版本⚷⚸來自佳木斯
95雙鴨山964
“叫花雞沒有雞”涉事店鋪已關(guān)門⚹⚺
2024-09-25 05:28:26 推薦
永久VIP:姚明一家人現(xiàn)身千島湖⚻來自七臺(tái)河
158****2970:當(dāng)?shù)鼗貞?yīng)男孩遭多人圍毆并被砍傷⚼來自雞西
158****9254 回復(fù) 666⚽:外交部回應(yīng)美菲軍演⚾來自牡丹江
76綏化qq
《慶余年2》將開啟超前巡映禮⚿⛀
2024-09-23 0-1:12:34 不推薦
尚志yc:星紀(jì)元ET訂單突破13000+臺(tái)⛁
186****3269 回復(fù) 159****1039:女子搖晃嬰兒車小孩被抖落險(xiǎn)被碾壓⛂