久久99久久99精品中文字幕-久久国产欧美国日产综合精品-久久精品免费一区二区-久久这里只有精品首页

搜索 海報新聞 融媒體矩陣
  • 山東手機報

  • 海報新聞

  • 大眾網官方微信

  • 大眾網官方微博

  • 抖音

  • 人民號

  • 全國黨媒平臺

  • 央視頻

  • 百家號

  • 快手

  • 頭條號

  • 嗶哩嗶哩

首頁 >新聞 >時政新聞

兩會論“見”丨周鴻祎:用安全大模型防范智能大模型風險

2025

/ 03/10
來源:

海報新聞

作者:

辛振東

手機查看

  海報新聞記者 辛振東 北京報道

  國產推理大模型DeepSeek-R1的誕生,標志著我國AI技術實現從“追趕者”向“領跑者”的歷史性跨越,其開源、透明、免費等特質,尤其適合在政府與企業開展私有化部署。但是,隨之而來的安全問題也日益凸顯。

  今年全國兩會期間,360集團創始人周鴻祎委員再度聚焦大模型安全。他認為,DeepSeek-R1等先進模型帶來了前所未有的機遇,也同樣面臨無法通過傳統網絡安全手段解決的安全挑戰。對此,周鴻祎呼吁各界共同努力,構建更加完善的大模型應用安全治理體系,在保障安全的前提下,最大化地釋放大模型技術的潛力。

  周鴻祎認為,開源帶來大模型的廣泛應用,未來將會有各類專業大模型、垂直大模型、場景大模型,連接內部知識庫,以智能體的形式在大批政府機構和企業中廣泛部署,推進“數轉智改”,實現降本增效。然而,大模型存在幻覺、內容安全等諸多問題,無法通過傳統安全方案有效化解,一旦部署在政府、企業內部的基座模型、知識庫或智能體中任一環節出現安全隱患,都極有可能誘發整個生產環境爆發系統性風險。

  周鴻祎介紹,針對上述挑戰,他們嘗試運用人工智能技術重塑安全格局,采用“以模制模”的方式應對新難題,依托安全大模型技術,搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系。

  為進一步強化這一防御體系,周鴻祎建議采取兩項措施:一是推動安全技術創新與成果轉化,建議相關部門及時出臺配套政策措施,鼓勵具備“安全+人工智能”完整解決方案的鏈主企業,針對人工智能應用所涉及的基座模型、知識庫、智能體等安全問題,基于安全大模型技術開展研發工作,加速推動技術成果轉化,將安全要素深度嵌入人工智能應用全流程。

  另一方面,組建產業聯盟,推廣安全產品。引導相關鏈主企業發揮牽頭作用,廣泛吸納產業鏈上下游企業、科研機構及終端用戶,組建人工智能大模型安全聯盟,在聯盟內部實現技術成果共享,共同開展產品及服務測試,待產品與服務成熟穩定后,向更廣闊的市場加以推廣,助力大模型安全保障普及至千行百業。

責編:鞏小龍

審核:田連鋒

責編:田連鋒