由新華網聯合中國科學院計算技術研究所(簡稱“中科院計算所”)等行業機構共同研發打造的“生成式人工智能內容安全與模型安全檢測平臺”(AIGC-Safe)邀請測試發布會日前在北京舉行。該平臺旨在聯合行業權威生態伙伴共同加強AIGC行業監管，為AIGC產業安全治理和健康發展發揮重要作用。

邀請測試發布會現場。新華網 劉廈 攝

在數字世界和物理世界加速融合的大背景下，生成式人工智能正在重塑甚至顛覆數字內容的生產方式和消費模式，越來越顯性地影響著各行各業的變革，是未來邁入數字文明新時代不可或缺的支撐力量。今年以來，大模型技術與AIGC的快速融合發展，從技術層面提供以低邊際成本、高工作效率滿足海量內容個性化生產的方案，推動內容行業向更有創造力方向發展。但因其濫用而導致的對國家安全、經濟發展和社會穩定的威脅與挑戰也隨之而來，對生成式人工智能服務的監管已成為全球治理重大課題。

新華網副總裁張芮寧致辭。新華網 劉廈 攝

新華網副總裁張芮寧在致辭中表示，新華網作為新華社主辦的中央重點新聞網站和具有強大創新實力的互聯網上市企業，持續推進科技與傳媒的深度融合，積極服務國家數字經濟戰略，踐行使命擔當。由中央網信辦違法和不良信息舉報中心主辦、新華網承辦的中國互聯網聯合辟謠平臺，以“發布權威辟謠信息，提升網民媒介素養，營造清朗網絡空間”為宗旨，初步形成“聯動發現、聯動澄清、聯動處置、聯動辟謠”的工作體系，已經成為網上權威辟謠信息的主信源、主渠道、主陣地。此次測試發布的AIGC-Safe，是新華網在AIGC安全治理中的一次重要探索。該平臺有利于加強對AIGC多模態深偽內容的檢測和防范，用AI守護AI，護衛行業更好發展。

中科院計算所黨委委員王凡致辭。新華網 劉廈 攝

中科院計算所黨委委員王凡表示，新華網測試發布的AIGC-Safe，是構建“產、學、研、用”科研模式的一種嘗試，是通過行業落地來檢驗科技的創新之舉。中科院計算所將為該平臺全力做好核心技術支撐，為AIGC行業的健康發展貢獻力量。

中國科學學與科技政策研究會科研誠信與負責任創新專業委員會主任委員、中國科學院文獻情報中心科研誠信研究中心副主任袁軍鵬致辭。新華網 劉廈 攝

中國科學學與科技政策研究會科研誠信與負責任創新專業委員會主任委員、中國科學院文獻情報中心科研誠信研究中心副主任袁軍鵬表示，AIGC在提升效率的同時也對科研生態造成了挑戰，期待與各界攜手，以準確、可靠的AIGC檢測產品，共同推進科研科學的發展，營造誠信、公正、透明的科研環境。

AIGC-Safe平臺首席技術專家曹娟測試發布AIGC-Safe。新華網 劉廈 攝

AIGC-Safe平臺首席技術專家曹娟現場進行了測試發布。平臺產品基于國版鏈(國數鏈)的數字資產與數據要素管理技術底座，依托中科院計算所的技術積累打造，已形成AIGC深偽內容檢測和模型檢測兩大核心能力，并可開放賦能各類AIGC檢測業務場景。模型安全從訓練數據安全、模型防攻擊、模型輸入安全三方面來保障從訓練到推理的全過程;內容安全覆蓋文本、圖像及音視頻的檢測，保障內容的真實性與合規性，實現雙重安全防護。

此次AIGC-Safe平臺測試發布，重磅上線內容安全檢測功能，以領先的檢測大模型和深度偽造內容大數據為支撐。文本檢測支持AI生成的鑒別;圖像與視頻檢測可覆蓋人臉生成、人臉編輯、人臉替換、表情遷移等深度合成偽造，以及AI生成、PS篡改檢測;音頻偽造檢測支持TTS和VC音頻合成檢測，覆蓋主流音頻合成算法。AIGC-Safe平臺內容安全功能檢測速度快、準確率高、易于部署，有效降低產業安全技術投入成本，提高安全保護效率，可廣泛應用于虛假新聞、AI換臉詐騙、活體攻擊、版權內容保護和學術誠信等多種檢測場景，可為媒體、教育、金融、公安等領域的AIGC安全治理保駕護航。

發布會現場設置了邀請測試環節，AIGC-Safe對參會嘉賓提供文本、圖片、音頻、視頻等多模態AI生成或偽造的素材進行了在線實測，檢測范圍覆蓋主流AI生成算法，準確率、響應時間等性能表現優越，獲得現場嘉賓一致認可。

圓桌對話環節。新華網 劉廈 攝

發布會還舉行了以“用AI守護AI”為主題的圓桌對話。曹娟、袁軍鵬及中國互聯網聯合辟謠平臺運營中心總監荊克、中國南方航空公司信息中心中臺架構部副經理陳璟、騰訊智影生態負責人王輝、橙盾信息科技有限公司(阿里巴巴控股)信息安全產品總監雷濤分享了精彩觀點。行業專家及百度、360、微博、知乎、知網、國版鏈(國數鏈)超級節點逸融科技、中科睿鑒等機構代表到場參會。

據介紹，面對AIGC領域技術快速迭代和新業務場景不斷涌現等多重挑戰，AIGC-Safe將聯合行業管理機構、大模型研發機構、新聞媒體單位、數字場景應用平臺等合作伙伴，發起構建“生成式人工智能內容規范治理發展生態矩陣”，護航數字技術創新和應用，打造數字內容安全治理“新范式”。