6月7日，中國互聯網協會召開第275期藍海沙龍——“AI時代下的數據安全治理與發展”研討會。工業和信息化部網絡安全管理局數據安全處負責同志，清華大學計算機科學與技術系教授、人工智能研究院知識智能中心主任李涓子，中國社會科學院法學研究所研究員支振鋒，北京理工大學計算機學院副教授、計算機網絡攻防對抗研究所所長閆懷志，北京交通大學電子信息工程學院副教授李勇，中國電子技術標準化研究院網絡安全研究中心數據安全部副主任郝春亮，北京理工大學法學院助理教授劉影，中國信息通信研究院安全研究所工程師秦博陽，奇安信集團數據安全治理部總經理楚赟，阿里巴巴集團公共事務總監肖堯，貝殼集團合規事務中心負責人張朝等專家參加了會議。會議由中國互聯網協會副秘書長裴瑋主持。

裴瑋表示，在“數智化”時代，數據作為新型生產要素，已成為社會經濟發展的重要驅動力，其安全問題關乎廣大群眾的切身利益。以ChatGPT為代表的AIGC應用迅猛發展，重塑了數據安全形勢。在AI場景下，數據的特性決定了其具有可復制、易泄露、來源廣、危害大、監管難等現實問題，使數據包括采集、存儲和處理等全生命周期階段面臨諸多新型風險，需要更具針對性的開展技術、機制與規則設計。本次研討會結合我國數據安全行業發展現狀，重點關注AI時代下的數據安全治理形勢，討論如何統籌推進數據安全與發展，旨在為政府部門的監管和治理提供思路和建議，更好地推動我國AI行業的建設和高質量發展。

秦博陽表示，近年來國家明確了數據安全產業的理論設計和總體部署，為產業發展提供了政策基礎和實踐指引。從技術視角看，數據安全產業在技術攻關和產品研發均有推進，依托政產學研已有資源加緊向互聯網、人工智能、數據安全實踐響應的關鍵技術研發與攻關。在應用示范方面，23年工信部組織開展工業和信息化領域數據安全典型案例遴選工作。在標準制定方面，數據安全標準體系陸續發布，朝著體系化繼續推進，產業標準加快制定，涵蓋數據分級分類、數據異常行為檢測等技術要求，逐步發揮對產業發展的支撐引領作用。產業生態方面，產學研用多方加速聚集，數據安全相關會展沙龍等系列活動持續不斷，為激發創新發展活力和培育產業生態營造了良好的氛圍。未來，產業參與主體需要抓緊發展機遇期聚焦相關能力創新，推動數據安全產業高質量發展。一是以推進關鍵技術攻關，推動基礎理論研究、加強相關技術研發，針對重點行業和重點業務場景，研制定制化、專業化的產品服務，強化供給側與需求側對接。二是構建繁榮數據安全產業生態，聚集相關資源，以園區的建設帶動周邊產業聚集發展，強化技術設施建設和數據信息共享。三是推進產業主體培育工作，建立多層次、梯度式的企業產品體系，鼓勵相關企業強化自身運營能力，加強中小微企業的自主創新能力。

張朝表示，伴隨著互聯網行業的發展，數據采集的類型也在不斷擴充，從信息類數據、到消費類數據、到供給類數據，到了產業互聯網階段，數據已變成企業決策與開展業務的核心參考要素，和驅動產業發展的核心要素。現在到了AI時代下，又有了新的問題范疇，比如生成式人工智能核心問題是數據輸入和數據輸出兩端的問題，數據輸入端的問題包括數據采集手段的合規性、數據隱私合規性、IP侵權性、數據內容的合法性，中間是算法的公允性問題。數據輸出階段，核心問題是防止實質性替代、防止誤導和偏見。面對大數據和AI時代，既往針對小數據集的監管思路不再完全有效，事先獲得數據權人授權的規范邏輯在ＡＩ時代很難行得通。如何不錯過發展的黃金期，在發展中解決問題避免抑制創新就非常關鍵。在監管框架方面，現行法律需要更加精準、可預測、可落地。同時，還需要一些與業務具有較高兼容性的技術方案或工具，用以解決技術阻礙。

肖堯表示，AI時代的數據安全問題與DT時代有很大不同，由于大模型更多需要專業化、高質量的知識性數據，而非用戶的行為數據和個人信息，因此不會對過往針對個信、算法等方面的監管措施產生顛覆性影響。AI時代的數據安全問題主要聚焦在價值觀對齊、內容合規、模型幻覺、模型被攻擊導致的數據泄漏等方面，這些都與模型的安全能力高度相關。因此應更多依靠模型的安全能力來應對數據安全風險。

當前，阿里集團通過在數據層面進行清洗和再構建、對風險數據進行過濾；在模型層面構建內生安全和外層護欄機制對攻擊進行防范；在評測層面開展持續性的內外部動態評測，指導模型安全能力迭代，并在訓練和生成環節開展知產保護和隱私保護措施，來確保全生命周期的安全。未來，建議建立一個產學研多方共治的機制，企業做好自身的安全策略和能力建設，向公眾進行闡釋和說明以提高公眾參與，并為立法提供支撐。行政部門指導企業利用人工智能合規開展業務，將底線風險指明，并在爭議性話題上，建立明確的法律規范。社會組織與企業、行政管理部門協同聯動，積極制定行業標準，開展行業自律。最終實現治理效能的平衡性、治理主體的協調性、治理手段的靈活性的有機統一。

楚赟表示，從當前數據安全治理發展現狀看，國家層面進展迅速，法律法規、標準體系紛紛建立起來，數據安全技術包括加密、脫敏、標記、隱私計算等也有很大進步，監管方面也多方開展數據安全專項檢查行動，監管力度越來越強，數據安全產業開始發展起來。但是數據安全落地還存在難點，數據確權存在爭議，數據安全治理的多部門協作也存在困難。一方面，數據合規的落地困難，合規標準、技術防護的基線要求無法明確，標準的落實在企業內部施行難度較大，另一方面，安全技術發展迅速，但在云環境、大數據環境下，原有技術的堆砌，無法解決新的數據安全問題，缺乏體系化的技術框架。建議從技術層面加強核心技術的研發和應用，例如隱私計算、匿名化等，在數據流通的全流程中進行安全防護，利用人工智能提升數據安全防護能力，如行為分析、數據安全風險防御，同時需要不同安全廠商的數據安全技術能力的互聯互通，構建統一的數據安全管控平臺，實現數據安全的集中管理和監控。協會可以通過更多組織廠商間技術拉通和交流，從整體上提升數據安全能力。并重視數據安全教育和培訓，提升全社會數據安全意識和能力水平。此外，數據安全應急機制與國際合作機制也要發展起來，實現數據安全能力的綜合提升。

劉影表示，從知識產權視角看，AI時代數據問題集中存在于著作權、專利權和反不正當競爭三個領域。著作權方面，存在獨創性認定、作品權利歸屬、著作權侵權、以及國際管轄權等問題。專利權方面，需要關注AIGC輔助完成的技術方案是否具有可專利性，特別是作為大模型核心的算法以及參數的技術構造是否有可專利性。此外，還可能涉及反不正當競爭中的關鍵問題，例如是否需要將模型參數作為商業秘密加以保護，以及如何與反法修訂草案中增設的商業數據專門條款相銜接。參考美國、日本等代表性國家，我國著作權權利限制改造需要考慮如何支持人工智能產業創新發展需求，同時避免大幅破壞對著作權人的的激勵。

李勇表示，當前隱私計算、區塊鏈等技術受到學術界和產業界的普遍關注。隱私計算與數據安全技術，正逐步從學術研究向產業實踐應用落地，實現數據“可用不可見”與AI時代的各方權益都有吻合。同時，不能僅依靠技術治理數據安全問題，還要重視人的因素在數據安全中的重要影響。在數據多元共治生態構建思路方面，借鑒跨領域、跨行業的有益經驗與策略，如思考以治水的思路，促進數據有序流動并引導數據發揮更大作用和價值。此外，以多方協作的方式確保數據健康、安全、有序流動。

閆懷志表示，人工智能的三駕馬車包括算力、算法和數據，從數據安全管控的角度來看，AI算力基本上無法控制，算法本身可以實施人為控制但是可控程度受限，而數據的可控程度較高且重要性也越來越強。當前，我國數據安全的法律法規較為健全，相關標準規范對數據安全覆蓋也比較全面，但針對AI背景下數據安全的相關約束尚處于起步階段。同時，數據安全人才也有較大缺口，相關人才儲備不足，培養力度不夠，數據安全領域的新增職業也未能充分考慮AI應用背景。此外，跨境數據流動、隱私保護、算法黑箱領域也存在不少短板。總體來看，加強數據本身的安全治理和防護至關重要。應對AI技術企業做好監管，實現數據利用和安全保護的平衡，從數據源頭展開治理，制定可行的政策促進數據安全基礎要求的落實，在實現數據脫敏、匿名化等傳統要求的基礎上，重點發展差分隱私計算、多方安全計算等安全技術。同時，數據安全評估與應急處置機制也需要完善，要嘗試構建多層次的監管平臺實現數據安全的全面治理。

支振鋒表示，要以從容的心態面對數據安全問題，我國數據安全領域的制度、規范、技術等都已建立了框架，對于風險認知也較以往更為清晰。目前看，AI應用未產生顛覆式的安全問題，再整體較好的框架的基礎上，建議將爭議問題討論明確后，再形成具體規范。具體到數據安全問題，主要是認知和數據處理的問題，當前對數據問題的認知存諸多悖論，如既追求生活便利，又希望受到良好保護，因此首先要建立符合發展需求的認知。在法規政策和標準上，可以對個人隱私、個人信息、個人數據做好區分。重視脫敏和匿名化處理的重要性，并要禁止還原，確保數據與個人能實現分離。另外基于生物識別信息不可變、不可篡改的特性，也需要重點明確該類信息的監管問題。

李涓子表示，對數據安全治理中對數據處理在安全方面的處理的要求是不會改變的，建議構建數據安全治理的基礎設施，不斷完善對已有數據安全治理方面的能力并提供服務；另一方面隨著AI技術發展考慮出現新的數據類型的治理，如AI生成的內容數據安全以及當前人工智能中工具調用中的安全問題。隨著人工智能的發展，可針對新要素完善相應的法律法規，并在法律、治理以及技術上實現對齊。另外由于人工智能使用門檻的降低，基于用戶數量的快速增長，應對互聯網企業施加更高的個人隱私保護標準，對人工智能的應用倫理也需要加強，同時對國外開源模型的滲透做好防范。政府、企業、用戶間要對齊思路，以數據使用的必要性作為數據安全發展和開發的核心，做到支持技術發展與數據安全并進。

會議認為，我國在數據安全治理領域發展迅速，在制度、規范、產業等方面均有良好進展，但需注意到其面對AI時代新的數據保護需求依然存在不足。AI時代下的數據安全保護要明確好新形勢、新特征，并在與現有治理體系做好銜接的基礎上開展保護工作。專家建議，政府應加快推動該領域下標準與政策的制定工作，持續推動各項治理規范的執行落地；同時，鼓勵發展各項數據安全保護技術，落實基礎安全技術的使用；未來，要嘗試構建多方共治的治理機制，充分發揮社會各方的積極作用，實現AI產業的健康持續發展。