智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
回放
品牌
其他品牌
今年兩會(huì)期間，全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎聚焦關(guān)注大模型安全和幻覺(jué)、網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型問(wèn)題。
建議對(duì)大模型“幻覺(jué)”給予適度包容
周鴻祎認(rèn)為，以DeepSeek為代表的大模型取得了“國(guó)運(yùn)級(jí)科技成果”，不僅促進(jìn)了大模型技術(shù)自主創(chuàng)新，也帶動(dòng)了上下游產(chǎn)業(yè)協(xié)同發(fā)展，讓大模型加速走進(jìn)百行千業(yè)，成為推動(dòng)中國(guó)科技進(jìn)步、經(jīng)濟(jì)增長(zhǎng)和國(guó)家強(qiáng)盛的關(guān)鍵力量。但包括DeepSeek在內(nèi)的大模型都存在“幻覺(jué)”，偶爾會(huì)生成看似不合理、與事實(shí)不符的情況。“幻覺(jué)”是一把雙刃劍，是大模型與生俱來(lái)的特點(diǎn)，不可消除，也決定其創(chuàng)造力和想象力，對(duì)于實(shí)現(xiàn)AGI(通用人工智能)極其重要。如果大模型沒(méi)有“幻覺(jué)”，就失去了想象力和創(chuàng)造力。并且越是能力強(qiáng)的模型，一般幻覺(jué)也越多。
周鴻祎認(rèn)為，在科研領(lǐng)域，大模型的“幻覺(jué)”能“想象”新藥分子結(jié)構(gòu)、蛋白質(zhì)的結(jié)構(gòu)等，為新研究指引方向。在醫(yī)療、法律、金融等對(duì)準(zhǔn)確性要求高的領(lǐng)域，“幻覺(jué)”雖然可能出錯(cuò)，但可以利用技術(shù)手段，如RAG(檢索增強(qiáng)生成)技術(shù)，通過(guò)比對(duì)專業(yè)知識(shí)庫(kù)、網(wǎng)絡(luò)實(shí)時(shí)信息等方式予以矯正。
周鴻祎表示，回顧過(guò)去30年，我國(guó)法律法規(guī)吸納了“避風(fēng)港原則”讓企業(yè)敢于投入創(chuàng)新，帶來(lái)了互聯(lián)網(wǎng)行業(yè)的繁榮，也為后來(lái)的“互聯(lián)網(wǎng)+”、如今的“人工智能+”提供了技術(shù)、產(chǎn)業(yè)和人才支撐。大模型發(fā)展關(guān)系國(guó)運(yùn)，不能因?yàn)檫^(guò)度追求準(zhǔn)確而限制其創(chuàng)造力。他建議，借鑒“避風(fēng)港原則”成功經(jīng)驗(yàn)，對(duì)大模型以及相關(guān)的產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管，適度包容大模型的“幻覺(jué)”，對(duì)于“幻覺(jué)”導(dǎo)致的一般性失誤，避免直接關(guān)停下架，給予企業(yè)自我糾正的機(jī)會(huì)，促進(jìn)企業(yè)大膽創(chuàng)新、放手競(jìng)爭(zhēng)，爭(zhēng)取讓更多企業(yè)“復(fù)制”DeepSeek的成功。
周鴻祎表示，回顧過(guò)去30年，我國(guó)法律法規(guī)吸納了“避風(fēng)港原則”讓企業(yè)敢于投入創(chuàng)新，帶來(lái)了互聯(lián)網(wǎng)行業(yè)的繁榮，也為后來(lái)的“互聯(lián)網(wǎng)+”、如今的“人工智能+”提供了技術(shù)、產(chǎn)業(yè)和人才支撐。大模型發(fā)展關(guān)系國(guó)運(yùn)，不能因?yàn)檫^(guò)度追求準(zhǔn)確而限制其創(chuàng)造力。他建議，借鑒“避風(fēng)港原則”成功經(jīng)驗(yàn)，對(duì)大模型以及相關(guān)的產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管，適度包容大模型的“幻覺(jué)”，對(duì)于“幻覺(jué)”導(dǎo)致的一般性失誤，避免直接關(guān)停下架，給予企業(yè)自我糾正的機(jī)會(huì)，促進(jìn)企業(yè)大膽創(chuàng)新、放手競(jìng)爭(zhēng)，爭(zhēng)取讓更多企業(yè)“復(fù)制”DeepSeek的成功。
用“以模制模”解決大模型應(yīng)用安全問(wèn)題
周鴻祎再度聚焦大模型安全。他認(rèn)為，DeepSeek-R1等先進(jìn)模型帶來(lái)了前所未有的機(jī)遇，也同樣面臨無(wú)法通過(guò)傳統(tǒng)網(wǎng)絡(luò)安全手段解決的安全挑戰(zhàn)。對(duì)此周鴻祎呼吁各界共同努力，構(gòu)建更加完善的大模型應(yīng)用安全治理體系，在保障安全的前提下最大化地釋放大模型技術(shù)的潛力。
周鴻祎認(rèn)為開(kāi)源帶來(lái)大模型的廣泛應(yīng)用，未來(lái)將會(huì)有各類專業(yè)大模型、垂直大模型、場(chǎng)景大模型，連接內(nèi)部知識(shí)庫(kù)，以智能體的形式在大批政府機(jī)構(gòu)和企業(yè)中廣泛部署，推進(jìn)“數(shù)轉(zhuǎn)智改”，實(shí)現(xiàn)降本增效。然而大模型存在幻覺(jué)、內(nèi)容安全等諸多問(wèn)題無(wú)法通過(guò)傳統(tǒng)安全方案有效化解，一旦部署在政府、企業(yè)內(nèi)部的基座模型、知識(shí)庫(kù)或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患，都極有可能誘發(fā)整個(gè)生產(chǎn)環(huán)境爆發(fā)系統(tǒng)性風(fēng)險(xiǎn)。
周鴻祎認(rèn)為，大模型應(yīng)用安全主要集中在基座模型、知識(shí)庫(kù)和智能體三個(gè)方面。基座模型安全方面，由于大模型普遍存在的幻覺(jué)現(xiàn)象，特別是在生成文本時(shí)可能輸出與現(xiàn)實(shí)不符的信息，這在政策制定、法律條文解讀或商業(yè)決策等場(chǎng)景下可能導(dǎo)致誤導(dǎo)性后果。
知識(shí)庫(kù)安全方面，政府和企業(yè)核心數(shù)據(jù)資產(chǎn)存儲(chǔ)于內(nèi)部知識(shí)庫(kù)中，若缺乏有效的安全控制措施，未授權(quán)用戶可能利用與大模型交互的機(jī)會(huì)竊取這些寶貴的數(shù)據(jù)資源。
智能體安全方面，智能體通常與政府、企業(yè)內(nèi)部各類IT、郵件、控制系統(tǒng)相連，一旦遭受攻擊，可能會(huì)引發(fā)一系列連鎖反應(yīng)，從發(fā)送有害郵件到中斷生產(chǎn)線運(yùn)作，造成嚴(yán)重的物理?yè)p害。
周鴻祎介紹，針對(duì)上述挑戰(zhàn)，360運(yùn)用人工智能技術(shù)重塑安全格局，采用“以模制模”的方式應(yīng)對(duì)新難題，依托安全大模型技術(shù)搭建起覆蓋“基座模型—知識(shí)庫(kù)—智能體”的全鏈路安全體系，護(hù)航政府與企業(yè)“數(shù)轉(zhuǎn)智改”。
為進(jìn)一步強(qiáng)化這一防御體系，周鴻祎建議采取兩項(xiàng)措施：一是推動(dòng)安全技術(shù)創(chuàng)新與成果轉(zhuǎn)化。建議相關(guān)部門及時(shí)出臺(tái)配套政策措施，鼓勵(lì)具備“安全+人工智能”完整解決方案的鏈主企業(yè)，針對(duì)人工智能應(yīng)用所涉及的基座模型、知識(shí)庫(kù)、智能體等安全問(wèn)題，基于安全大模型技術(shù)開(kāi)展研發(fā)工作，加速推動(dòng)技術(shù)成果轉(zhuǎn)化，將安全要素深度嵌入人工智能應(yīng)用全流程。
另一方面，組建產(chǎn)業(yè)聯(lián)盟，推廣安全產(chǎn)品。引導(dǎo)相關(guān)鏈主企業(yè)發(fā)揮牽頭作用，廣泛吸納產(chǎn)業(yè)鏈上下游企業(yè)、科研機(jī)構(gòu)及終端用戶，組建人工智能大模型安全聯(lián)盟，在聯(lián)盟內(nèi)部實(shí)現(xiàn)技術(shù)成果共享，共同開(kāi)展產(chǎn)品及服務(wù)測(cè)試，待產(chǎn)品與服務(wù)成熟穩(wěn)定后，向更廣闊的市場(chǎng)加以推廣，助力大模型安全保障普及至千行百業(yè)。
網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型，建議“以安全即服務(wù)破解網(wǎng)絡(luò)安全行業(yè)困境”
網(wǎng)絡(luò)安全是國(guó)家安全的重要組成部分，在國(guó)家數(shù)字化、智能化發(fā)展進(jìn)程中，安全挑戰(zhàn)日益增大。周鴻祎認(rèn)為，構(gòu)建國(guó)家網(wǎng)絡(luò)安全防御體系，不能僅關(guān)注大企業(yè)和國(guó)家機(jī)關(guān)，地方性企業(yè)及民營(yíng)企業(yè)同樣關(guān)鍵，它們是供應(yīng)鏈、產(chǎn)業(yè)鏈和生態(tài)鏈的重要一環(huán)。
然而，當(dāng)前網(wǎng)絡(luò)安全行業(yè)內(nèi)卷嚴(yán)重，傳統(tǒng)模式問(wèn)題重重，不僅難以實(shí)現(xiàn)安全能力的廣泛覆蓋，也無(wú)法幫助企業(yè)等客戶迅速構(gòu)建安全能力，這無(wú)形中加劇了國(guó)家網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。
一方面，售賣硬件盒子模式是“雙輸”，企業(yè)投入高卻效果不佳，而廠家也因多樣化的定制需求而成本飆升，疲于應(yīng)對(duì)定制任務(wù)，市場(chǎng)拓展受阻；另一方面，傳統(tǒng)安全軟件重營(yíng)銷、輕交付，常與客戶需求不符。而軟件即服務(wù)(SaaS)已成為全球趨勢(shì)，SaaS 服務(wù)產(chǎn)品可見(jiàn)、可體驗(yàn)、價(jià)格便宜、交付簡(jiǎn)單易推廣，能助力企業(yè)快速形成安全能力，如云計(jì)算行業(yè)的變革就是成功范例，可網(wǎng)絡(luò)安全行業(yè)仍停留在傳統(tǒng)系統(tǒng)集成層面，已跟不上安全形勢(shì)需求。
為此，周鴻祎提出兩條建議推動(dòng)網(wǎng)絡(luò)安全服務(wù)化轉(zhuǎn)型。一是順應(yīng)全球趨勢(shì)，鼓勵(lì)從購(gòu)買硬件產(chǎn)品轉(zhuǎn)變?yōu)橘?gòu)買安全服務(wù)。有關(guān)部門可將安全服務(wù)部署納入專項(xiàng)補(bǔ)助項(xiàng)目，對(duì)積極采用安全服務(wù)的企業(yè)給予財(cái)政補(bǔ)貼或稅收優(yōu)惠，引導(dǎo)市場(chǎng)向服務(wù)型轉(zhuǎn)變；二是鼓勵(lì)購(gòu)買 SaaS 化的安全產(chǎn)品，利用其優(yōu)勢(shì)幫助企業(yè)低成本適配需求、評(píng)估成效，提升網(wǎng)絡(luò)安全防護(hù)水平，為國(guó)家數(shù)字化建設(shè)筑牢安全基礎(chǔ)。
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
