中國(guó)日?qǐng)?bào)11月4日電（記者 樊菲菲）以“無(wú)界BOUNDLESS · 數(shù)織未來(lái)AI同行”為主題的2024 綠盟科技TechWorld智慧安全大會(huì)近日在北京啟幕。會(huì)上，綠盟科技重磅發(fā)布了多款數(shù)據(jù)要素流通安全能力和大模型創(chuàng)新成果。

綠盟科技集團(tuán)董事長(zhǎng)、總裁胡忠華在致辭中表示，近年來(lái)，綠盟科技持續(xù)加大在數(shù)據(jù)安全、人工智能等領(lǐng)域的創(chuàng)新投入。在數(shù)據(jù)安全領(lǐng)域，基于行業(yè)知識(shí)與大模型，提升了分級(jí)分類(lèi)和敏感數(shù)據(jù)識(shí)別的效率，結(jié)合訪問(wèn)控制、脫敏等安全技術(shù)幫助用戶構(gòu)建基于分類(lèi)分級(jí)的數(shù)據(jù)安全保障系統(tǒng)；圍繞政策、數(shù)據(jù)及數(shù)據(jù)環(huán)境的脆弱性、威脅等理清存在的數(shù)據(jù)安全風(fēng)險(xiǎn)，建立數(shù)據(jù)要素流通全流程合規(guī)與監(jiān)測(cè)體系；探索面向數(shù)據(jù)庫(kù)和各類(lèi)新型數(shù)據(jù)的水印技術(shù)，并提供機(jī)密、可信、云化的運(yùn)行環(huán)境，支持?jǐn)?shù)據(jù)確權(quán)、多方之間進(jìn)行的隱私計(jì)算，有效保護(hù)數(shù)據(jù)在流轉(zhuǎn)及共享交換過(guò)程中的安全。

他表示，在人工智能大模型領(lǐng)域，一方面，圍繞日志降噪、推理研判、自動(dòng)化滲透攻擊三個(gè)安全實(shí)戰(zhàn)場(chǎng)景，持續(xù)迭代安全垂域大模型，通過(guò)提示詞工程構(gòu)建安全專(zhuān)家思維鏈，并使用檢索增強(qiáng)、知識(shí)圖譜提升可信度和專(zhuān)業(yè)度，為用戶提供具備可落地的安全檢測(cè)、研判能力。另一方面，持續(xù)加強(qiáng)技術(shù)研究與創(chuàng)新，從構(gòu)建可信任的安全智能生態(tài)出發(fā)，逐步構(gòu)建大模型+小模型協(xié)同安全運(yùn)營(yíng)新體系，并在大模型安全性方向進(jìn)行深入研究，發(fā)布了AI大模型安全威脅矩陣及風(fēng)險(xiǎn)評(píng)估工具，幫助用戶在自有模型時(shí)管理安全風(fēng)險(xiǎn)。

中國(guó)工程院鄔江興院士發(fā)表題為《如何讓AI應(yīng)用系統(tǒng)安全向善》的主題演講，分享人工智能安全問(wèn)題剖析與內(nèi)生安全新范式領(lǐng)域的思考。鄔江興院士談到，以深度學(xué)習(xí)為核心的人工智能技術(shù)是一把雙刃劍，其作為賦能技術(shù)有著極其豐富的應(yīng)用空間，更帶來(lái)了前所未有的安全挑戰(zhàn)。隨后，鄔江興院士從AI系統(tǒng)安全問(wèn)題出發(fā)，分享AI運(yùn)行環(huán)境內(nèi)生安全問(wèn)題解決之道。他介紹稱，整個(gè)AI安全可以分為內(nèi)生安全問(wèn)題和非內(nèi)生安全問(wèn)題，內(nèi)生又分為個(gè)性問(wèn)題和共性問(wèn)題，當(dāng)下，網(wǎng)絡(luò)內(nèi)生安全問(wèn)題正在全面挑戰(zhàn)當(dāng)今世界生態(tài)系統(tǒng)底層驅(qū)動(dòng)技術(shù)。鄔江興院士表示，網(wǎng)絡(luò)內(nèi)生安全范式應(yīng)當(dāng)是AI可信應(yīng)用系統(tǒng)理論發(fā)展方向，智能時(shí)代需要正確的理論方向，以確保AI技術(shù)的健康發(fā)展。

中國(guó)科學(xué)院馮登國(guó)院士表示，當(dāng)前人工智能技術(shù)已經(jīng)從較為單一的算法發(fā)展階段跨越到了軟件、硬件與應(yīng)用場(chǎng)景相結(jié)合的全方位、一體化的發(fā)展階段，AI算法的更新迭代，使得傳統(tǒng)安全分析技術(shù)無(wú)法適應(yīng)人工智能領(lǐng)域出現(xiàn)的新算法和新模型。馮登國(guó)院士對(duì)當(dāng)下國(guó)內(nèi)外人工智能安全戰(zhàn)略部署進(jìn)行解讀，他談到，應(yīng)對(duì)網(wǎng)絡(luò)空間安全形勢(shì)變化，需要更堅(jiān)實(shí)、富有彈性的網(wǎng)絡(luò)空間安全保障體系。隨后，馮登國(guó)院士從數(shù)據(jù)泄露、關(guān)基保護(hù)、深度偽造、錯(cuò)誤信息涌現(xiàn)等角度解讀大模型伴生的安全風(fēng)險(xiǎn)和挑戰(zhàn)，并從政策法規(guī)制定、前沿技術(shù)探索和創(chuàng)新能力提升三個(gè)維度思考應(yīng)對(duì)之策。

國(guó)家工業(yè)信息安全發(fā)展研究中心首席專(zhuān)家、數(shù)據(jù)安全所所長(zhǎng)李俊談到，數(shù)據(jù)作為數(shù)字經(jīng)濟(jì)時(shí)代的關(guān)鍵新興生產(chǎn)要素，保障數(shù)據(jù)安全已成為事關(guān)國(guó)家安全與經(jīng)濟(jì)社會(huì)發(fā)展的重大問(wèn)題。隨著新一代信息技術(shù)與制造業(yè)深度融合，工業(yè)企業(yè)數(shù)字化、網(wǎng)絡(luò)化、智能化加速推進(jìn)，工業(yè)數(shù)據(jù)載體漏洞和后門(mén)、非受控運(yùn)維、數(shù)據(jù)暴露面等數(shù)據(jù)安全風(fēng)險(xiǎn)日益突出。在此形勢(shì)下，行業(yè)主管部門(mén)已構(gòu)建工信領(lǐng)域數(shù)據(jù)安全“1+5”政策體系，加快數(shù)據(jù)安全監(jiān)管技術(shù)能力建設(shè)與實(shí)踐落地，切實(shí)指導(dǎo)工業(yè)企業(yè)提升數(shù)據(jù)安全管理和防護(hù)水平。

胡忠華 綠盟科技集團(tuán)董事長(zhǎng)、總裁