11月9日,2023年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會前沿數(shù)字技術(shù)創(chuàng)新與安全論壇在浙江烏鎮(zhèn)舉行。論壇以“技術(shù)引領(lǐng)變革 數(shù)字開創(chuàng)未來”為主題,依托前沿數(shù)字技術(shù)發(fā)展浪潮,共議數(shù)字技術(shù)創(chuàng)新與安全。
技術(shù)的發(fā)展必然帶來新的風(fēng)險,如何發(fā)現(xiàn)、甄別、處理、預(yù)防風(fēng)險成為了一項重要課題。在論壇上,與會專家與嘉賓都談到了前沿科技發(fā)展可能帶來的風(fēng)險,也探討了一些相應(yīng)的應(yīng)對之法。
潮新聞記者 楊一凡 攝
“區(qū)別于一般的產(chǎn)業(yè)技術(shù),網(wǎng)絡(luò)空間安全有明顯的對抗性的特點,也就是說一方的勝利代表另一方的失敗。”中關(guān)村實驗室主任助理、首席科學(xué)家卿昱在主旨演講中談到,作為2015年正式設(shè)立的一級學(xué)科,“網(wǎng)絡(luò)空間安全是一門年輕但不簡單的學(xué)科?!?/p>
在網(wǎng)絡(luò)安全領(lǐng)域,新技術(shù)的發(fā)展會使已有的技術(shù)面臨安全風(fēng)險,比如說量子計算,它很可能會給經(jīng)典密碼帶來嚴(yán)重的挑戰(zhàn),“各種新技術(shù)的出現(xiàn)同時也帶來了安全威脅。”
中關(guān)村實驗室主任助理、首席科學(xué)家卿昱在前沿數(shù)字技術(shù)創(chuàng)新與安全論壇發(fā)表主旨演講。潮新聞記者 楊一凡 攝
哪些新技術(shù)需要我們重點關(guān)注?
卿昱分享了從2019年到2023年整個頂級會議期刊的一些熱詞分析:這5年來,研究者從對隱私計算、惡意軟件、數(shù)字取證、異常檢測技術(shù)的關(guān)注,到最近3年又?jǐn)U展到了人工智能、深度學(xué)習(xí)和隱私保護(hù)的相關(guān)的技術(shù)上。
“隨著人工智能的發(fā)展,我們已經(jīng)很重視相關(guān)的安全問題,比如像人工智能算法可能會在對抗攻擊的情況下被誤導(dǎo)?!鼻迦A大學(xué)人工智能研究院副院長、計算機系教授朱軍在論壇的主旨演講中舉例,監(jiān)控攝像頭的人臉識別驗證的安全,其實在之前應(yīng)用之前,就已經(jīng)開始做很多的學(xué)術(shù)研究和應(yīng)用,“一方面去發(fā)現(xiàn)漏洞,另一方面就是去做保密?!?/p>
倫理風(fēng)險、算法風(fēng)險、數(shù)據(jù)風(fēng)險、技術(shù)濫用,在朱軍看來,生成式人工智能的新型安全風(fēng)險正在顯現(xiàn)。
清華大學(xué)人工智能研究院副院長、計算機系教授朱軍發(fā)表主旨演講。潮新聞記者 楊一凡 攝
如何去應(yīng)對這些風(fēng)險?
“在清華大學(xué)人工智能研究院成立的時候,我們當(dāng)時討論就設(shè)定叫發(fā)展第三代人工智能的公司,我們實際上是想將大數(shù)據(jù)驅(qū)動和知識相融合地去發(fā)展新型的人工智能的方法和理論?!闭搲F(xiàn)場,朱軍演示了人工智能安全評測平臺、人臉人工智能安全防火墻、數(shù)據(jù)安全產(chǎn)品及人工智能內(nèi)容檢測平臺等人工智能治理的有效工具。
“關(guān)于大模型的一些最新的結(jié)果,我們可以從各個維度去評測我們的模型算法;針對人臉驗證這種最廣泛的應(yīng)用場景,我們專門做了稱之為人臉識別的自動防火墻;關(guān)于數(shù)據(jù)安全,我們發(fā)展的分布式機器學(xué)習(xí),或者用加密數(shù)據(jù)下的機器學(xué)習(xí)的技術(shù)來綜合來去解決這個問題。而對于人工智能發(fā)展之后創(chuàng)造的內(nèi)容,“我們最基本的就是想判斷哪些是人生成,哪些是人工智能生成的,這背后就需要算法模型來去幫我們自動去檢測識別”。
本次論壇由國家互聯(lián)網(wǎng)信息辦公室發(fā)起,工業(yè)和信息化部、中國科學(xué)院、世界知識產(chǎn)權(quán)組織、中關(guān)村實驗室主辦,國家工業(yè)信息安全發(fā)展研究中心、中國科學(xué)院計算技術(shù)研究所、百度公司協(xié)辦,來自中央和國家機關(guān)、中央新聞網(wǎng)站、國內(nèi)外知名專家及互聯(lián)網(wǎng)企業(yè)等各界代表共120余位嘉賓參加論壇。
信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證:120330032
中華人民共和國互聯(lián)網(wǎng)新聞信息服務(wù)許可證:45120170002
中華人民共和國互聯(lián)網(wǎng)出版許可證 (署)網(wǎng)出證(桂)字第020號
廣播電視節(jié)目制作經(jīng)營許可證編號:(桂)字第0230號
網(wǎng)警備案號:45010302000253
桂ICP備11003557 南寧新聞網(wǎng)版權(quán)所有
舉報電話:0771—5530647 郵箱:mail@nnnews.net
登錄南寧云賬號
登錄
還沒賬號?立即注冊
點擊頭像快速登錄
請輸入驗證碼