具體而言,既要有足夠多的基礎(chǔ)安全數(shù)據(jù)用于訓(xùn)練安全大模型,也要有足夠貼近實戰(zhàn)的一手原始語料用于大模型推理。齊向東認(rèn)為,基于這種全而新的高質(zhì)量數(shù)據(jù)訓(xùn)練出來的大模型,精確性和實用性才能遠超未優(yōu)化的通用模型。
另一方面,無論是訓(xùn)練還是使用,必須把AI接入到公司內(nèi)部數(shù)據(jù)中,但大部分AI又是從外部“領(lǐng)養(yǎng)”,是否存在“后門”、是否會被人“投毒”,都無從可知,這也是數(shù)據(jù)安全帶來的潛在風(fēng)險,若長期使用被“投毒”后的AI給出的業(yè)務(wù)決策,可能就會把業(yè)務(wù)帶偏。
“誰能提前抓住AI變革的機遇,誰就能掌握網(wǎng)絡(luò)空間安全的主動權(quán)?!饼R向東判斷,當(dāng)前網(wǎng)絡(luò)安全格局正在被顛覆重構(gòu),但這種顛覆重構(gòu)不僅帶來新的安全挑戰(zhàn),也為網(wǎng)絡(luò)安全行業(yè)帶來前所未有的戰(zhàn)略機遇。
他在接受中新網(wǎng)等媒體采訪時提到了AI落地過程中的安全風(fēng)險問題。例如,一旦對AI“傾囊相授”、對AI發(fā)問時“掏心窩子”,其具備的解決問題能力會越來越強,涉及到相關(guān)知識產(chǎn)權(quán)、商業(yè)機密等方面的內(nèi)容可能會被競爭對手通過AI竊取,造成數(shù)據(jù)泄露的風(fēng)險。
面對人工智能時代新的網(wǎng)絡(luò)安全態(tài)勢,2024年政府工作報告提到,加強重點領(lǐng)域安全能力建設(shè),其中就包括“提高網(wǎng)絡(luò)、數(shù)據(jù)等安全保障能力”。
5日,以“AI驅(qū)動安全”為主題的2024全球數(shù)字經(jīng)濟大會數(shù)字安全高層論壇暨北京網(wǎng)絡(luò)安全大會戰(zhàn)略峰會在北京國家會議中心舉行,全國工商聯(lián)副主席、奇安信集團董事長齊向東在會上發(fā)表主旨演講稱,AI驅(qū)動安全是大勢所趨,未來網(wǎng)絡(luò)攻防就是得AI者得天下。
由此,齊向東也提醒說,AI大模型不是萬能鑰匙。尤其是在當(dāng)前“百模大戰(zhàn)”的狀態(tài)下,只有高質(zhì)量發(fā)展的大模型,才能真正帶來指數(shù)級能力躍升,激發(fā)網(wǎng)絡(luò)安全行業(yè)的新質(zhì)生產(chǎn)力。
一項對IT行業(yè)領(lǐng)導(dǎo)者進行的關(guān)于ChatGPT等大模型的調(diào)查顯示,安全性是受訪者最關(guān)心的問題,71%的受訪者認(rèn)為生成式人工智能會給企業(yè)數(shù)據(jù)安全帶來新的風(fēng)險。
此外,需要體系化的網(wǎng)絡(luò)安全建設(shè),為AI發(fā)揮效率創(chuàng)造平臺。齊向東稱,網(wǎng)絡(luò)安全防護有賴于體系化協(xié)同。當(dāng)前,通過AI賦能內(nèi)生安全體系,不僅可以實現(xiàn)網(wǎng)絡(luò)安全系統(tǒng)和客戶業(yè)務(wù)系統(tǒng)的完美融合,更能實現(xiàn)網(wǎng)絡(luò)安全響應(yīng)從滯后到實時的大躍升,全時段瞬時響應(yīng)成為可能,也為AI實時發(fā)揮防護功能和學(xué)習(xí)最新技術(shù)提供了真實海量場景。
“訓(xùn)練好的安全大模型,能否取得好效果取決于設(shè)備和體系是否有統(tǒng)一的標(biāo)準(zhǔn)?!饼R向東認(rèn)為,標(biāo)準(zhǔn)的統(tǒng)一至少包括兩個方面,一方面是數(shù)據(jù)輸入標(biāo)準(zhǔn)的統(tǒng)一,讓AI能通過標(biāo)準(zhǔn)系統(tǒng)讀懂“多國語言”,完成體系化分析。另一方面是指令輸出標(biāo)準(zhǔn)的統(tǒng)一,讓AI實現(xiàn)跨設(shè)備、跨系統(tǒng)的能力協(xié)同和全局聯(lián)動。(完)
爱游戏体育官方平台中新網(wǎng)北京6月5日電 (記者 夏賓)當(dāng)前,各行各業(yè)網(wǎng)絡(luò)化、數(shù)字化、智能化轉(zhuǎn)型加速,以數(shù)據(jù)為關(guān)鍵要素的新產(chǎn)業(yè),以人工智能為關(guān)鍵技術(shù)的新場景,面臨的安全挑戰(zhàn)更加復(fù)雜,各類攻擊威脅與日俱增。
但他也直言,我們不要被AI可能引發(fā)的數(shù)據(jù)泄露所嚇倒,應(yīng)該要擁抱AI,要把安全的問題交給安全公司,相信專業(yè)人辦專業(yè)的事。網(wǎng)絡(luò)安全公司要全面擁抱AI,利用AI實現(xiàn)安全能力的躍升。
在齊向東看來,做好“AI驅(qū)動安全”至少需要具備三大條件,一是高質(zhì)量的訓(xùn)練數(shù)據(jù),二是縱深防御的內(nèi)生安全體系,三是設(shè)備、體系具有統(tǒng)一的輸入輸出標(biāo)準(zhǔn)。
據(jù)奇安信發(fā)布的《2024人工智能安全報告》,AI既放大現(xiàn)有網(wǎng)絡(luò)安全威脅,又引入了新型威脅,引發(fā)網(wǎng)絡(luò)安全事件指數(shù)級增長。其中,2023年基于AI的深度偽造欺詐暴增3000%,基于AI的釣魚郵件數(shù)量增長了1000%。
網(wǎng)友評論更多
30神木e
人可以在A4紙上以準(zhǔn)確的比例尺畫出太陽系所有的行星和相對距離嗎?🕳🕶
2024-09-22 06:27:28 推薦
187****8293 回復(fù) 184****8479:跟著總書記探尋中華文明|平遙千年 活態(tài)傳承🕷來自子長
187****3859 回復(fù) 184****1288:博爾捷闖關(guān)港交所:招募配送騎手,凈利持續(xù)下滑🕸來自蘭州
157****3084:按最下面的歷史版本🕹🖇來自嘉峪關(guān)
63金昌240
中國、吉爾吉斯斯坦、烏茲別克斯坦三國元首視頻祝賀中吉烏鐵路項目三國政府間協(xié)定簽署🖊🖋
2024-09-22 16:04:25 推薦
永久VIP:蔚來一季度營收99.1億元,李斌:蔚來能源有獨立融資計劃🖌來自白銀
158****4986:低價“抄底”核心資產(chǎn),躍升全球第三大CRDMO,泰德醫(yī)藥赴港IPO🖍來自天水
158****8104 回復(fù) 666🖤:納指創(chuàng)新高,外匯額度擴容“解近渴”,多只美股QDII開放申購🖥來自酒泉
75張掖yq
總年薪超過董明珠,貝特瑞千萬年薪董事長賀雪琴因內(nèi)幕交易被罰🖨🖱
2024-09-22 00:32:38 不推薦
武威ms:今日A股市場🖲
186****6116 回復(fù) 159****5184:OpenAI🖼