91麻豆国产免费观看_国产成人精品一区二区免费_久久99免费视频_天天干天天操天天摸

首頁 > 自媒體學(xué)習(xí) > 自媒體學(xué)習(xí) > AI帶來復(fù)雜風(fēng)險(xiǎn),一場在杭州的“頭腦風(fēng)暴”解題數(shù)字安全

AI帶來復(fù)雜風(fēng)險(xiǎn),一場在杭州的“頭腦風(fēng)暴”解題數(shù)字安全

發(fā)布時(shí)間:2024-05-22 17:01:14來源: 15210273549

5月18日,2024第十二屆西湖論劍·數(shù)字安全大會(以下簡稱“數(shù)字安全大會”)在杭州舉辦。數(shù)字安全大會至今已舉辦12年,也伴隨著杭州城市數(shù)字化發(fā)展和數(shù)字技術(shù)變革迭代更新。

杭州把數(shù)字經(jīng)濟(jì)作為鮮明標(biāo)識,也正在實(shí)施數(shù)字經(jīng)濟(jì)創(chuàng)新提質(zhì)“一號發(fā)展工程”,爭創(chuàng)國家人工智能創(chuàng)新高地。網(wǎng)絡(luò)安全、數(shù)據(jù)安全是城市發(fā)展不可或缺的重要保障,如何在創(chuàng)新與安全之間尋求平衡?

在今年的數(shù)字安全大會上,21世紀(jì)經(jīng)濟(jì)報(bào)道記者觀察到,人工智能成為重要的討論話題及背景,數(shù)據(jù)安全、數(shù)據(jù)要素發(fā)展的技術(shù)、社會實(shí)踐也引發(fā)新思考。

在當(dāng)下的數(shù)字化時(shí)代,人工智能的迅猛發(fā)展不僅為各行各業(yè)帶來了巨大的創(chuàng)新與便利,也引發(fā)了一系列前所未有的安全挑戰(zhàn)。隨著AI技術(shù)的廣泛應(yīng)用,數(shù)據(jù)泄露、深度偽造等新型安全風(fēng)險(xiǎn)日益凸顯。

中國工程院院士鄔江興在接受21世紀(jì)經(jīng)濟(jì)報(bào)道記者采訪時(shí)表示,目前學(xué)界對人工智能的數(shù)學(xué)、物理性質(zhì)仍然不能作出解釋,這是它基本原理上的缺陷,因此人工智能一定會存在風(fēng)險(xiǎn),最好的方式是用多個(gè)系統(tǒng)進(jìn)行交叉驗(yàn)證,“例如國內(nèi)現(xiàn)在‘百模大戰(zhàn)’,使用者可以用多個(gè)大模型進(jìn)行交叉檢驗(yàn)。”

在鄔江興的演講中,他也提出傳統(tǒng)網(wǎng)絡(luò)安全治理的局限性日益凸顯,急需數(shù)字生態(tài)系統(tǒng)底層驅(qū)動范式轉(zhuǎn)型,以內(nèi)生安全賦能的網(wǎng)絡(luò)彈性設(shè)計(jì),能從根本上跳出經(jīng)典網(wǎng)絡(luò)安全理論與方法無法應(yīng)對的不確定安全問題威脅。

 

應(yīng)對數(shù)據(jù)安全不確定性

 

數(shù)據(jù)安全與網(wǎng)絡(luò)安全密不可分。隨著人工智能技術(shù)的快速發(fā)展,尤其是大模型和生成式AI的興起,數(shù)據(jù)安全問題日益凸顯。同時(shí),人工智能的廣泛應(yīng)用也帶來了新的安全挑戰(zhàn),如思維漏洞的利用和惡意攻擊等。

當(dāng)下的網(wǎng)絡(luò)安全威脅正在從信息擴(kuò)大到數(shù)據(jù)加物理域、認(rèn)知域。在數(shù)字經(jīng)濟(jì)時(shí)代,社會的數(shù)字化轉(zhuǎn)型也面臨著極大的系統(tǒng)性風(fēng)險(xiǎn)。

鄔江興認(rèn)為當(dāng)下網(wǎng)絡(luò)安全問題是多重的,“我將它稱之為廣義的功能安全問題,特點(diǎn)是物理失效的隨機(jī)性、軟件失效的不確定性、網(wǎng)絡(luò)攻擊的人為性以及受制于執(zhí)行環(huán)境的缺位,包括AI的內(nèi)生安全個(gè)性問題,出現(xiàn)了交織問題。”

中國工程院院士吳世忠在演講中也表示,在人工智能時(shí)代,安全問題呈現(xiàn)出了前所未有的復(fù)雜性。它不僅涵蓋了傳統(tǒng)的Security安全,即信息安全,還包含了Safety安全,即系統(tǒng)運(yùn)行的穩(wěn)定性和可靠性以及倫理安全,即技術(shù)應(yīng)用必須符合道德倫理標(biāo)準(zhǔn),這三者交織融合,形成了全新的安全圖景。

2022年以來,歐美國家較早地出臺多項(xiàng)戰(zhàn)略、法案和法規(guī),推動網(wǎng)絡(luò)安全、數(shù)據(jù)安全責(zé)任“左移”,也就是將網(wǎng)絡(luò)安全問題前置處理,認(rèn)為數(shù)字產(chǎn)品的制造者、數(shù)字應(yīng)用的開發(fā)者應(yīng)當(dāng)承擔(dān)更大的安全責(zé)任。

例如,2023年12月,歐盟就《網(wǎng)絡(luò)彈性法案》在技術(shù)和政治層面達(dá)成一致,該法案一旦生效,屆時(shí)進(jìn)入歐盟市場的數(shù)字產(chǎn)品須確認(rèn)滿足歐盟網(wǎng)絡(luò)安全標(biāo)準(zhǔn)。

隨著中國企業(yè)的全球化發(fā)展,跨境數(shù)據(jù)流動以及數(shù)字產(chǎn)品的網(wǎng)絡(luò)安全標(biāo)準(zhǔn)問題成為必答題。

鄔江興認(rèn)為,人類社會正在進(jìn)入以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟(jì)時(shí)代,需要建立一種可防御且富有彈性和韌性的數(shù)字生態(tài)系統(tǒng),使其更容易形成內(nèi)在防御能力,能讓攻擊方付出比防御方更高的代價(jià),實(shí)現(xiàn)防御優(yōu)勢的轉(zhuǎn)變,從而能始終挫敗數(shù)字生態(tài)系統(tǒng)面臨的種種威脅,筑牢網(wǎng)絡(luò)與數(shù)據(jù)空間安全屏障。

具體來說,需將數(shù)字產(chǎn)品安全置于產(chǎn)品全生命周期,從一開始就考慮產(chǎn)品的安全,要安全地設(shè)計(jì),“從附加安全到設(shè)計(jì)安全,將網(wǎng)絡(luò)安全融入到數(shù)字產(chǎn)品的設(shè)計(jì)與制造中。”鄔江興說。

吳世忠也表示,構(gòu)建一個(gè)安全、堅(jiān)韌、可信的人工智能發(fā)展生態(tài)至關(guān)重要,“這要求我們必須在推動技術(shù)發(fā)展的同時(shí),充分考慮到安全保障,實(shí)現(xiàn)發(fā)展與安全的統(tǒng)籌兼顧。”

教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會主任委員、杭州市人工智能協(xié)會副理事長 、俄羅斯國家工程院外籍院士胡瑞敏在接受記者采訪時(shí)表示,在平衡人工智能與安全方面,數(shù)字經(jīng)濟(jì)發(fā)展離不開數(shù)據(jù)要素的安全流通,“現(xiàn)在新的隱私保護(hù)技術(shù)發(fā)展得非常快,如何在新的技術(shù)支持下在數(shù)據(jù)要素流通中構(gòu)建一套安全運(yùn)行的機(jī)制,這個(gè)非常重要。”

浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院副教授金小剛在接受記者提問時(shí)表示,人工智能最大的特點(diǎn)是交互能力的提升,把原來積累的一些數(shù)據(jù)和能力通過交互釋放出來,但技術(shù)在使用之前并不能預(yù)知哪些壞的因素會被釋放出來,“首先技術(shù)的設(shè)計(jì)者要有良知,其次技術(shù)運(yùn)用過程中要時(shí)刻警惕,政府、社會要有一些良好的機(jī)制來保證糾偏。”

 

底線之上強(qiáng)化創(chuàng)新思維

 

不少與會專家在接受21世紀(jì)經(jīng)濟(jì)報(bào)道記者采訪時(shí)都提出,創(chuàng)新和監(jiān)管要齊頭并進(jìn),數(shù)字經(jīng)濟(jì)發(fā)展在安全基礎(chǔ)上一定要創(chuàng)新,尤其要抓住人工智能發(fā)展機(jī)遇。

吳世忠認(rèn)為,從數(shù)據(jù)孕育新動能的意義來講,由算力、模型、數(shù)據(jù)、應(yīng)用共同成就的人工智能是真正的新質(zhì)生產(chǎn)力。

國家行政學(xué)院電子政務(wù)專家委員會原副主任、全國數(shù)字經(jīng)濟(jì)聯(lián)盟學(xué)術(shù)委員汪玉凱在主題演講中也提出,數(shù)字經(jīng)濟(jì)在新質(zhì)生產(chǎn)力發(fā)展的結(jié)構(gòu)中起全局性、戰(zhàn)略性的意義。數(shù)字經(jīng)濟(jì)有可能成為新質(zhì)生產(chǎn)力中最關(guān)鍵的一個(gè)領(lǐng)域。

汪玉凱認(rèn)為,新質(zhì)生產(chǎn)力發(fā)展的重要目標(biāo)就是要擺脫傳統(tǒng)的經(jīng)濟(jì)增長方式,不是淘汰傳統(tǒng)的生產(chǎn)方式,而是要使它高端化、智能化、綠色化,“全球的數(shù)智化浪潮、新質(zhì)生產(chǎn)力的發(fā)展目標(biāo)以及高質(zhì)量發(fā)展的戰(zhàn)略定位,這三大因素將是中國數(shù)字經(jīng)濟(jì)實(shí)現(xiàn)新發(fā)展的黃金期。”

針對網(wǎng)絡(luò)安全和數(shù)據(jù)安全問題,汪玉凱提出一些解決思路,一是完善數(shù)據(jù)安全的相關(guān)法律,把數(shù)據(jù)安全全部納入法制框架下,二是提升核心數(shù)字技術(shù)能力和網(wǎng)絡(luò)安全監(jiān)管能力,為數(shù)字經(jīng)濟(jì)保駕護(hù)航,三是特別要關(guān)注跨境數(shù)據(jù)流通交易中的數(shù)據(jù)安全,包括個(gè)人數(shù)據(jù)大量被泄露。

“尤其還應(yīng)特別關(guān)注數(shù)據(jù)和信息保護(hù),才能讓數(shù)字經(jīng)濟(jì)真正騰飛成為推動社會進(jìn)步的新質(zhì)生產(chǎn)力。”汪玉凱說。

此外,不少參會嘉賓還提及數(shù)字經(jīng)濟(jì)發(fā)展中市場的作用。數(shù)字經(jīng)濟(jì)發(fā)展最主要的主體是企業(yè),而民營企業(yè)在數(shù)字經(jīng)濟(jì)發(fā)展中又扮演關(guān)鍵角色。

“我認(rèn)為未來在數(shù)字經(jīng)濟(jì)發(fā)展中仍然要打好民營經(jīng)濟(jì)這張牌,國有、民營企業(yè)一起上,要給民營企業(yè)創(chuàng)造更多的空間,提供更多助力政策。”汪玉凱說。

安恒信息董事長范淵在演講中明確表示,當(dāng)供得出、流得動、用得好的數(shù)據(jù),遇上人工智能大模型與智能體,傳統(tǒng)安全天花板已經(jīng)消失,安全底座和工作協(xié)同關(guān)系也在被重塑。

“我們也在思考人工智能安全大模型究竟給這個(gè)行業(yè)帶來什么?整個(gè)跨代的理解能力、邏輯推演能力、泛化能力正在對這個(gè)行業(yè)帶來巨變。”范淵表示。

去年8月,財(cái)政部對外發(fā)布《企業(yè)數(shù)據(jù)資源相關(guān)會計(jì)處理暫行規(guī)定》,明確數(shù)據(jù)資源的確認(rèn)范圍和會計(jì)處理適用準(zhǔn)則等,將于2024年1月1日起施行。

在數(shù)字安全大會上,《企業(yè)數(shù)據(jù)資源入表實(shí)踐白皮書》正式發(fā)布,該白皮書由杭州安恒信息技術(shù)股份有限公司、杭州數(shù)據(jù)交易所有限公司、中國軟件評測中心(工業(yè)和信息化部軟件與集成電路促進(jìn)中心)等單位參與編制而成。

安恒信息CTO劉博在接受記者采訪時(shí)表示,數(shù)據(jù)資產(chǎn)入表是一個(gè)開始,未來將為數(shù)據(jù)要素流通服務(wù),也將進(jìn)一步開展數(shù)據(jù)交易,用數(shù)據(jù)賦能醫(yī)療、教育、商業(yè)等各行各業(yè),也就是新質(zhì)生產(chǎn)力。

在劉博看來,當(dāng)前數(shù)據(jù)資源盤點(diǎn)階段倒逼企業(yè)梳理自身數(shù)據(jù)管理的盲區(qū),把數(shù)據(jù)安全問題做好,在數(shù)據(jù)要素流動方面企業(yè)也需要把安全作為一個(gè)前提,用好隱私計(jì)算、加密技術(shù),“在數(shù)據(jù)資產(chǎn)入表過程中,數(shù)據(jù)安全不再只是保護(hù)的角色,而是把價(jià)值釋放到最大。”

自媒體學(xué)習(xí)更多>>

寶馬CES2025首發(fā)新智能座艙,人機(jī)交互體驗(yàn)再升級! 國四車主換新車時(shí)代來臨,“以舊換新”新政能否再掀車市熱潮? 中國這五臺國產(chǎn)汽車,一旦上市,真沒合資車什么事了? 全新一代豐田榮放諜照曝光,延續(xù)家用定位,有消息稱取消燃油版 燃動冰雪,見證“相信”,紅旗智造中大型豪華純電SUV天工08正式上市 國外新車買家滿意度調(diào)查:純電車買家滿意度82%,燃油車滿意度75% 吉利2025年銷目標(biāo)揭秘:銀河新車矩陣挑戰(zhàn)百萬,智能化布局全球加速 本田“0”系列兩款原型車首發(fā)亮相,量產(chǎn)版計(jì)劃2026年推出 \"2025年度智能座駕評選\"啟動,首次加入跨品牌城市NOA評測 跌到“白菜價(jià)”?這些合資B級車“殺瘋了”! 小鵬汽車:穿過暴風(fēng)雨,繼續(xù)奔跑 中大型SUV汽車又來新選手,主打舒適和智能! 上汽大眾2024年銷售120萬輛 開啟合資2.0新時(shí)代 可醇可電可油!吉利今年內(nèi)將推兩款全新“超醇電混”車型 廣汽本田2024年銷量:累計(jì)售47萬余臺,連續(xù)第四年下滑 小鵬試飛成功,卻依然“頭頂”一盆冷水 中國品牌首次!比亞迪海豹榮獲日本年度風(fēng)云車“十大最佳車型”獎 60.98萬元起 2025款奧迪Q7上市 入門版配置大幅升級 歐萌達(dá)孿生兄弟?奇瑞瑞虎5x高能版12月23日上市 配1.5T動力 約合人民幣27萬元起 2025款奧迪Q2歐洲上市 三種配置可選 對標(biāo)元PLUS 奔騰悅意03將于2025年3月上市 續(xù)航565km 盲訂價(jià)10萬元起 吉利雷達(dá)金剛將于12月23日上市 最高續(xù)航460km 純電續(xù)航115km 奔馳GLC插混典藏版上市 售價(jià)51.8萬元 24.98萬元起 智界R7增程版上市 純電續(xù)航251km 網(wǎng)傳極氪007獵裝版路試諜照曝光,車尾底部配備了空氣懸架氣罐 第26屆中國農(nóng)洽會駐馬店開幕,18國企業(yè)攜“土特產(chǎn)”亮相展會 皇馬新春紫裝亮相,阿拉巴迪亞斯代言 億緯鋰能為小鵬P7+追加多條電芯產(chǎn)線,新車交付周期縮短至5-8周 助力汽車產(chǎn)業(yè)升級,強(qiáng)化中國本土化布局——Allegro攜汽車底盤系統(tǒng)解決方案亮相第四屆汽車智能底盤大會 亮道智能第二代Mini純固態(tài)激光雷達(dá)上市