自去年底以來，生成式人工智能熱度高漲，國內(nèi)公開發(fā)布的大模型已達百余個，不僅帶動了人工智能產(chǎn)業(yè)的蓬勃發(fā)展，也為其他產(chǎn)業(yè)注入了新動能。

  在日前舉辦的第十一屆互聯(lián)網(wǎng)安全大會（ISC 2023）上，多位專家提出，通用人工智能發(fā)展日益體現(xiàn)出技術(shù)創(chuàng)新快、應(yīng)用滲透強、經(jīng)濟社會影響大、國際競爭激烈的特點。但發(fā)展與安全并重，對于當(dāng)前火熱的人工智能大模型以及人工智能技術(shù)，都需要把數(shù)字安全放在更突出的位置，讓數(shù)字安全與人工智能技術(shù)融合發(fā)展。

  發(fā)展與安全并重

  “人工智能是引領(lǐng)新一輪產(chǎn)業(yè)變革的核心技術(shù)引擎，為各領(lǐng)域提供信息化、數(shù)字化、智能化的解決方案，正在引發(fā)經(jīng)濟結(jié)構(gòu)重大變革，實現(xiàn)社會生產(chǎn)力整體躍升。”中國工程院院士鄔江興說。

  中國工程院院士鄔賀銓認為，以人工智能為代表的數(shù)字技術(shù)將重塑數(shù)字內(nèi)容生產(chǎn)方式和消費模式，通用人工智能將實現(xiàn)知識與數(shù)據(jù)雙輪驅(qū)動，把智腦加進去，未來單個模型有望通過遷移學(xué)習(xí)支持多種業(yè)務(wù)，并能精準(zhǔn)選擇節(jié)點，有效降低功耗和成本。數(shù)字化將逐漸走向智能化高峰，開啟人工智能時代。同時，數(shù)字安全也在不斷發(fā)展演進，傳統(tǒng)安全防護的手段亟待升級。

  “生成式人工智能正在引發(fā)新一輪智能化浪潮，但也伴隨著數(shù)據(jù)泄露、虛假信息、算法歧視等網(wǎng)絡(luò)和信息安全新挑戰(zhàn)、新問題。”中國互聯(lián)網(wǎng)協(xié)會理事長尚冰說。

  中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局副局長羅鋒盈也表示，當(dāng)前，生成式人工智能還有很多亟待解決的問題，比如生成信息的準(zhǔn)確性、真實性以及價值觀等問題。

  “當(dāng)前，深度學(xué)習(xí)進入快速發(fā)展期，但也是一把雙刃劍。如果不能有效應(yīng)對人工智能安全挑戰(zhàn)，數(shù)字社會、數(shù)字經(jīng)濟都會基礎(chǔ)不牢，成為國家安全戰(zhàn)略最脆弱、最致命的環(huán)節(jié)。”鄔江興認為，深度學(xué)習(xí)人工智能模型存在“三不可”內(nèi)生安全個性問題，即神經(jīng)網(wǎng)絡(luò)“黑盒”特點導(dǎo)致人工智能存在不可解釋性；深度學(xué)習(xí)對訓(xùn)練樣本過度依賴，導(dǎo)致學(xué)習(xí)結(jié)果的不可判定性；神經(jīng)網(wǎng)絡(luò)前向推進的不可逆，導(dǎo)致結(jié)果的不可推論性。

  “充分數(shù)字化，讓企業(yè)、政府、城市成為網(wǎng)絡(luò)安全的主陣地。當(dāng)大數(shù)據(jù)成為核心資產(chǎn)后，政府、企業(yè)都面臨數(shù)據(jù)泄露、丟失的安全威脅。生成式人工智能帶來的內(nèi)容安全、安全可控問題將更為顯著。”360集團創(chuàng)始人周鴻祎說。

  國家網(wǎng)信辦等7部門近日聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。

  創(chuàng)新技術(shù)手段

  第十三屆全國政協(xié)經(jīng)濟委員會副主任蘇波表示，推動人工智能產(chǎn)業(yè)快速發(fā)展，必須要把保障數(shù)據(jù)安全放在突出位置。要加快人工智能數(shù)據(jù)資源建設(shè)，創(chuàng)新人工智能技術(shù)手段，完善人工智能數(shù)據(jù)安全監(jiān)管體系。

  “要用技術(shù)進步解決安全風(fēng)險難題，加強人工智能數(shù)據(jù)安全保護基礎(chǔ)理論研究和技術(shù)研發(fā)。發(fā)展負責(zé)任、可信任、能受控的通用人工智能。鼓勵企業(yè)建設(shè)完善人工智能開源學(xué)習(xí)框架，增強框架內(nèi)置學(xué)習(xí)數(shù)據(jù)和基礎(chǔ)設(shè)施。并通過我國巨大的市場優(yōu)勢，加快培育人工智能開源平臺生態(tài)圈和產(chǎn)業(yè)鏈。”蘇波說。

  我國網(wǎng)絡(luò)安全產(chǎn)業(yè)綜合實力已顯著增強。數(shù)據(jù)顯示，2022年我國網(wǎng)絡(luò)安全產(chǎn)業(yè)規(guī)模近2200億元，北京、長沙、成渝地區(qū)國家三大網(wǎng)絡(luò)安全產(chǎn)業(yè)園區(qū)相繼成立，長三角、珠三角等網(wǎng)絡(luò)安全產(chǎn)業(yè)基礎(chǔ)優(yōu)勢逐步激發(fā)。截至2022年底，我國已有21家網(wǎng)絡(luò)安全企業(yè)上市，越來越多的互聯(lián)網(wǎng)企業(yè)、設(shè)備廠商、電信運營商成為網(wǎng)絡(luò)安全領(lǐng)域新生力量，傳統(tǒng)安全企業(yè)、互聯(lián)網(wǎng)企業(yè)紛紛布局數(shù)據(jù)安全賽道。

  同時，網(wǎng)絡(luò)安全技術(shù)體系持續(xù)完備，零信任、以太坊等信息安全技術(shù)逐步成熟落地。隱私計算、圖片加密等領(lǐng)域布局加快，網(wǎng)絡(luò)安全與人工智能、云計算、區(qū)塊鏈、工業(yè)互聯(lián)網(wǎng)融合發(fā)展加速。

  創(chuàng)新是網(wǎng)絡(luò)安全保障能力提升的根本動力。工業(yè)和信息化部網(wǎng)絡(luò)安全管理局局長隋靜表示，要健全科技創(chuàng)新體系，強化體系創(chuàng)新主體地位，全面激發(fā)企業(yè)創(chuàng)新活力。圍繞5G、工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)等重點領(lǐng)域開展關(guān)鍵技術(shù)攻關(guān)，加快突破安全風(fēng)險感知、監(jiān)測預(yù)警、實時阻斷、追蹤溯源等核心能力。前瞻布局人工智能與網(wǎng)絡(luò)安全技術(shù)融合創(chuàng)新，增強產(chǎn)業(yè)鏈、供應(yīng)鏈韌性和安全水平。

  培育產(chǎn)業(yè)生態(tài)

  “目前360集團有全球最大的網(wǎng)絡(luò)安全攻擊樣本庫和攻擊整個過程全記錄的知識庫，記錄了數(shù)以億計的網(wǎng)絡(luò)攻擊知識。我們也在試驗把這些知識加入專門的垂直大模型里，爭取下次遇到攻擊時，由大模型判斷這是否是一次真實攻擊。目前，大模型判斷網(wǎng)絡(luò)攻擊的準(zhǔn)確率已提升到97%，當(dāng)該準(zhǔn)確率超過99%時就可以投入應(yīng)用。”周鴻祎介紹。

  周鴻祎認為，隨著安全挑戰(zhàn)不斷升級，傳統(tǒng)安全方案已難以應(yīng)對數(shù)字文明時代的新挑戰(zhàn)，出現(xiàn)“企業(yè)抱怨沒效果、廠商抱怨投入少”的局面。企業(yè)實現(xiàn)體系化安全運營，存在缺平臺、缺探針、缺數(shù)據(jù)、缺專家四大障礙。云化和服務(wù)化將成為安全行業(yè)發(fā)展必然趨勢。為此，360推出“安全即服務(wù)”理念，將沉淀在全網(wǎng)安全大腦里的世界級安全能力全面云化和服務(wù)化，低成本、高效能輸送給企業(yè)級客戶，為政府、城市和企業(yè)筑牢數(shù)字安全屏障，守護數(shù)字經(jīng)濟成果。

  “要摒棄硬件式碎片化弱協(xié)同的傳統(tǒng)安全防護手段，向云化、服務(wù)化的理念升級。數(shù)字安全企業(yè)需要建立體系化的安全運營服務(wù)框架，面向各行各業(yè)輸出數(shù)字安全能力，幫助企業(yè)構(gòu)建安全防御體系，保護數(shù)據(jù)安全與商業(yè)秘密。”鄔賀銓說。

  全國工商聯(lián)副主席汪鴻雁表示，網(wǎng)絡(luò)安全龍頭企業(yè)要牽頭組建創(chuàng)新聯(lián)合體，發(fā)揮創(chuàng)新主體作用，主動承擔(dān)國家重大科技項目，開展數(shù)字安全的基礎(chǔ)理論創(chuàng)新，及重大問題研究和關(guān)鍵的核心技術(shù)攻關(guān)，著力加強數(shù)字安全的人才培養(yǎng)，推動人才、技術(shù)和產(chǎn)業(yè)的融通發(fā)展，不斷增進數(shù)字安全國際交流與合作，建設(shè)國際數(shù)字安全保障合作機制。

  “互聯(lián)網(wǎng)龍頭企業(yè)要積極開展原創(chuàng)性、引領(lǐng)性、基礎(chǔ)性安全技術(shù)攻關(guān)，延伸技術(shù)領(lǐng)域，拓展產(chǎn)品服務(wù)范圍，完善產(chǎn)品矩陣?；ヂ?lián)網(wǎng)初創(chuàng)企業(yè)要發(fā)揮快速靈活、資源集中的特點，以創(chuàng)新技術(shù)和產(chǎn)品切入細分領(lǐng)域，推動產(chǎn)品服務(wù)和行業(yè)發(fā)展緊密結(jié)合。”尚冰說。

  鄔賀銓強調(diào)，要完善數(shù)字安全的生態(tài)系統(tǒng)，覆蓋工業(yè)企業(yè)設(shè)備供應(yīng)商、基礎(chǔ)電信運營商、云服務(wù)商、工業(yè)互聯(lián)網(wǎng)平臺運營商、工業(yè)應(yīng)用提供商、數(shù)字安全提供企業(yè)、第三方檢測機構(gòu)與用戶等，實現(xiàn)危險威脅處置情報共享。

  隋靜表示，網(wǎng)絡(luò)安全產(chǎn)業(yè)是維護國家網(wǎng)絡(luò)安全的重要基礎(chǔ)，要完善支持產(chǎn)業(yè)發(fā)展的政策措施，引導(dǎo)供給不斷提升，需求充分釋放，構(gòu)建供需雙向發(fā)力，產(chǎn)業(yè)鏈協(xié)同聯(lián)動的高水平動態(tài)平衡。要創(chuàng)新網(wǎng)絡(luò)安全服務(wù)模式，大力發(fā)展網(wǎng)絡(luò)安全保險服務(wù)，深化產(chǎn)融合作，引導(dǎo)資本加大對產(chǎn)業(yè)支持力度，加快培育一批網(wǎng)絡(luò)安全專精特新企業(yè)。優(yōu)化產(chǎn)業(yè)園區(qū)產(chǎn)業(yè)布局，充分發(fā)揮聯(lián)盟協(xié)會紐帶作用，培育壯大產(chǎn)業(yè)生態(tài)，推動產(chǎn)業(yè)高質(zhì)量發(fā)展。（記者 黃 鑫）