全國政協委員周鴻祎:建議對大模型“幻覺”給予適度包容,讓中國AI大膽前行快訊
解決大模型應用安全問題 周鴻祎再度聚焦大模型安全,組建人工智能大模型安全聯盟,大模型應用安全主要集中在基座模型、知識庫和智能體三個方面。
【TechWeb】3月4日消息,今年兩會期間,全國政協委員、360集團創始人周鴻祎聚焦關注大模型安全和幻覺、網絡安全行業轉型問題。
建議對大模型“幻覺”給予適度包容
周鴻祎認為,以DeepSeek為代表的大模型取得了“國運級科技成果”,不僅促進了大模型技術自主創新,也帶動了上下游產業協同發展,讓大模型加速走進百行千業,成為推動中國科技進步、經濟增長和國家強盛的關鍵力量。但包括DeepSeek在內的大模型都存在“幻覺”,偶爾會生成看似不合理、與事實不符的情況。“幻覺”是一把雙刃劍,是大模型與生俱來的特點,不可消除,也決定其創造力和想象力,對于實現AGI(通用人工智能)極其重要。如果大模型沒有“幻覺”,就失去了想象力和創造力。并且越是能力強的模型,一般幻覺也越多。
周鴻祎認為,在科研領域,大模型的“幻覺”能“想象”新藥分子結構、蛋白質的結構等,為新研究指引方向。在醫療、法律、金融等對準確性要求高的領域,“幻覺”雖然可能出錯,但可以利用技術手段,如RAG(檢索增強生成)技術,通過比對專業知識庫、網絡實時信息等方式予以矯正。
周鴻祎表示,回顧過去30年,我國法律法規吸納了“避風港原則”讓企業敢于投入創新,帶來了互聯網行業的繁榮,也為后來的“互聯網+”、如今的“人工智能+”提供了技術、產業和人才支撐。大模型發展關系國運,不能因為過度追求準確而限制其創造力。他建議,借鑒“避風港原則”成功經驗,對大模型以及相關的產品和服務實施柔性監管,適度包容大模型的“幻覺”,對于“幻覺”導致的一般性失誤,避免直接關停下架,給予企業自我糾正的機會,促進企業大膽創新、放手競爭,爭取讓更多企業“復制”DeepSeek的成功。
周鴻祎表示,回顧過去30年,我國法律法規吸納了“避風港原則”讓企業敢于投入創新,帶來了互聯網行業的繁榮,也為后來的“互聯網+”、如今的“人工智能+”提供了技術、產業和人才支撐。大模型發展關系國運,不能因為過度追求準確而限制其創造力。他建議,借鑒“避風港原則”成功經驗,對大模型以及相關的產品和服務實施柔性監管,適度包容大模型的“幻覺”,對于“幻覺”導致的一般性失誤,避免直接關停下架,給予企業自我糾正的機會,促進企業大膽創新、放手競爭,爭取讓更多企業“復制”DeepSeek的成功。
用“以模制模”解決大模型應用安全問題
周鴻祎再度聚焦大模型安全。他認為,DeepSeek-R1等先進模型帶來了前所未有的機遇,也同樣面臨無法通過傳統網絡安全手段解決的安全挑戰。對此周鴻祎呼吁各界共同努力,構建更加完善的大模型應用安全治理體系,在保障安全的前提下最大化地釋放大模型技術的潛力。
周鴻祎認為開源帶來大模型的廣泛應用,未來將會有各類專業大模型、垂直大模型、場景大模型,連接內部知識庫,以智能體的形式在大批政府機構和企業中廣泛部署,推進“數轉智改”,實現降本增效。然而大模型存在幻覺、內容安全等諸多問題無法通過傳統安全方案有效化解,一旦部署在政府、企業內部的基座模型、知識庫或智能體中任一環節出現安全隱患,都極有可能誘發整個生產環境爆發系統性風險。
周鴻祎認為,大模型應用安全主要集中在基座模型、知識庫和智能體三個方面。基座模型安全方面,由于大模型普遍存在的幻覺現象,特別是在生成文本時可能輸出與現實不符的信息,這在政策制定、法律條文解讀或商業決策等場景下可能導致誤導性后果。
知識庫安全方面,政府和企業核心數據資產存儲于內部知識庫中,若缺乏有效的安全控制措施,未授權用戶可能利用與大模型交互的機會竊取這些寶貴的數據資源。
智能體安全方面,智能體通常與政府、企業內部各類IT、郵件、控制系統相連,一旦遭受攻擊,可能會引發一系列連鎖反應,從發送有害郵件到中斷生產線運作,造成嚴重的物理損害。
周鴻祎介紹,針對上述挑戰,360運用人工智能技術重塑安全格局,采用“以模制模”的方式應對新難題,依托安全大模型技術搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系,護航政府與企業“數轉智改”。
為進一步強化這一防御體系,周鴻祎建議采取兩項措施:一是推動安全技術創新與成果轉化。建議相關部門及時出臺配套政策措施,鼓勵具備“安全+人工智能”完整解決方案的鏈主企業,針對人工智能應用所涉及的基座模型、知識庫、智能體等安全問題,基于安全大模型技術開展研發工作,加速推動技術成果轉化,將安全要素深度嵌入人工智能應用全流程。
另一方面,組建產業聯盟,推廣安全產品。引導相關鏈主企業發揮牽頭作用,廣泛吸納產業鏈上下游企業、科研機構及終端用戶,組建人工智能大模型安全聯盟,在聯盟內部實現技術成果共享,共同開展產品及服務測試,待產品與服務成熟穩定后,向更廣闊的市場加以推廣,助力大模型安全保障普及至千行百業。
網絡安全行業轉型,建議“以安全即服務破解網絡安全行業困境”
網絡安全是國家安全的重要組成部分,在國家數字化、智能化發展進程中,安全挑戰日益增大。周鴻祎認為,構建國家網絡安全防御體系,不能僅關注大企業和國家機關,地方性企業及民營企業同樣關鍵,它們是供應鏈、產業鏈和生態鏈的重要一環。
然而,當前網絡安全行業內卷嚴重,傳統模式問題重重,不僅難以實現安全能力的廣泛覆蓋,也無法幫助企業等客戶迅速構建安全能力,這無形中加劇了國家網絡安全風險。
一方面,售賣硬件盒子模式是“雙輸”,企業投入高卻效果不佳,而廠家也因多樣化的定制需求而成本飆升,疲于應對定制任務,市場拓展受阻;另一方面,傳統安全軟件重營銷、輕交付,常與客戶需求不符。而軟件即服務(SaaS)已成為全球趨勢,SaaS 服務產品可見、可體驗、價格便宜、交付簡單易推廣,能助力企業快速形成安全能力,如云計算行業的變革就是成功范例,可網絡安全行業仍停留在傳統系統集成層面,已跟不上安全形勢需求。
為此,周鴻祎提出兩條建議推動網絡安全服務化轉型。一是順應全球趨勢,鼓勵從購買硬件產品轉變為購買安全服務。有關部門可將安全服務部署納入專項補助項目,對積極采用安全服務的企業給予財政補貼或稅收優惠,引導市場向服務型轉變;二是鼓勵購買 SaaS 化的安全產品,利用其優勢幫助企業低成本適配需求、評估成效,提升網絡安全防護水平,為國家數字化建設筑牢安全基礎。
1.TMT觀察網遵循行業規范,任何轉載的稿件都會明確標注作者和來源;
2.TMT觀察網的原創文章,請轉載時務必注明文章作者和"來源:TMT觀察網",不尊重原創的行為TMT觀察網或將追究責任;
3.作者投稿可能會經TMT觀察網編輯修改或補充。