2023中國互聯網大會 | AI安全論壇舉辦,業界首個《共建安全大模型高質量數據集倡議書》發布
2023年07月21日 14:12
7月18日,由中國互聯網協會主辦,北京經濟技術開發區管委會、北京市通信管理局、工業和信息化部新聞宣傳中心聯合主辦的2023(第二十二屆)中國互聯網大會在京開幕,本屆大會主題為“促進數實融合 賦能千行百業”。
AI安全論壇作為本屆大會的分論壇之一,以“AI重鑄安全,護航數字世界”為主題。會上,天翼安全科技有限公司(以下簡稱“電信安全”)發布了業界首個《共建安全大模型高質量數據集倡議書》,推出了“阡陌安全數據集”,旨在與業內伙伴共同探索人工智能時代下的安全行業健康發展新理念、新思路。
中國互聯網協會副理事長黃澄清,北京市通信管理局黨組成員、副局長王暉,中國電信集團網絡和信息安全管理部總經理谷紅勛出席會議并致辭。
黃澄清表示,未來的世界應該是一個人工智能驅動的世界,我們要統籌發展和安全牢牢抓住新一輪科技革命和產業變革的歷史機遇,加快人工智能產業創新發展的步伐,推動與實體經濟深度融合,達到新水平,推動行業規范發展,實現新突破。
中國互聯網協會副理事長黃澄清
王暉強調,人工智能技術的開發和應用必須要考慮到安全問題,應堅持發展與安全并重、堅持權利和義務并重、堅持自主與協作并重,助推人工智能產業未來的發展。
北京市通信管理局黨組成員、副局長王暉
谷紅勛指出,中國電信的網信安全工作緊密圍繞建設網絡強國、數字中國,維護網信安全的初心使命,秉持中國電信的紅色基因,將安全作為企業云轉、數轉的底座,中國電信將持續致力于為國家、社會提供數字化轉型的安全屏障。
中國電信集團網絡和信息安全管理部總經理 谷紅勛
本次論壇發起了業界首個共建安全大模型高質量數據集的倡議儀式,天翼安全科技有限公司總經理劉紫千作為代表宣讀了《共建安全大模型高質量數據集倡議書》,北京市通信管理局黨組成員、副局長王暉,中國互聯網協會副秘書長戴煒等九位領導嘉賓出席儀式并共同簽署了倡議書。
倡議儀式
當前,人工智能產業呈現蓬勃發展勢頭,通用人工智能產業的爆發給安全領域帶來機遇和挑戰。圍繞人工智能在安全行業應用的發展情況和研究應用,中關村國家實驗室、清華大學教授李丹,國家計算機網絡入侵防范中心主任、中國科學院大學教授張玉清,天翼安全科技有限公司總經理劉紫千,天翼安全科技有限公司高級安全研究員危嘉祺發表主旨報告。
劉紫千從AI for Security和Security for AI兩個方面,分享了AI與安全產業的融合方向以及行業發展現狀。他指出,這一輪AI革命的本質是數據驅動安全,海量數據中蘊含的能量轉化為生產力成為了可能,大大提升安全運營效能,這是此次AI革命的破局之道。
結合安全運營領域存在的痛點,劉紫千強調,大模型應用到安全領域,主要面臨準確性、專業性和時效性三方面的難點問題,電信安全當前的愿景是推出及持續運營一個安全領域的ImageNet——“阡陌安全數據集”,其提供統一平臺,匯集行業專家,共筑安全語料,服務國家安全。危嘉祺指出,“阡陌安全數據集”重視數據標準及體系構建,通過數據標注眾采平臺、模型評測 Benchmark、AI安全攻防練兵場和制定安全數據流通準則,使得數據可以流通統一。
電信安全旨在通過與業內伙伴一起解決數據難題,共同探索人工智能時代下的安全行業健康發展新理念、新思路。
天翼安全科技有限公司總經理劉紫千
天翼安全科技有限公司高級安全研究員危嘉祺
李丹圍繞“大語言模型在網絡安全領域的能力評測研究”的主題,深入評估了當前通用大語言模型在網絡安全領域的能力,分析了大語言模型在安全領域的應用場景。
張玉清進行了題為《ChatGPT與安全》的主旨報告,通過介紹ChatGPT在安全領域的應用,他指出人工智能當前面臨失控的風險,我們既要順應AI的發展,也應該控制將AI控制在不危害人類利益的范圍內使用。
左為中關村國家實驗室、清華大學教授李丹;右為國家計算機網絡入侵防范中心主任、中國科學院大學教授張玉清
在生態伙伴合作分享環節,華為計算首席安全專家TCG董事張瑞,安恒信息高級副總裁王欣,深信服科技股份有限公司安全BG副總裁、安全業務規劃總監訾然等嘉賓,結合當前人工智能發展趨勢和挑戰,分別介紹了各自的實踐經驗和進展成效。
從上至下為:華為計算首席安全專家TCG董事張瑞、安恒信息高級副總裁王欣、深信服科技股份有限公司安全BG副總裁兼安全業務規劃總監訾然