瑞萊智慧AI攻防創新成果亮相高交會。

AI版“隱身衣”演示。

　　人民網深圳12月27日電 （王星）12月27日，第二十三屆中國國際高新技術成果交易會（下稱“高交會”）在深圳開幕。清華人工智能研究院的官方產學研機構瑞萊智慧科技攜自主研發的人工智能安全攻防創新成果與系列產品亮相，現場演示“數據驅動”的人工智能系統所存在的風險漏洞，以及展示如何通過升級技術手段打造動態防御機制，構建安全可控的智能新底座，助力人工智能產業從高速發展邁向高質量發展的新階段。

　　展會現場，一件“隱身衣”吸睛無數。正常情況下，廣泛應用於安防場景的目標檢測系統，能實時檢測出攝像頭前經過的人或物體。瑞萊智慧開發的這款特制T恤，衣服上印刷了特定的圖案，能夠讓識別算法出錯、捕捉不到目標，人一旦穿上便可以實現“隱身”。

　　研發人員解釋，目標檢測系統大多基於數據驅動的深度學習算法，存在不透明和不可解釋等局限性，即便是開發者也難以理解其內在的運行邏輯，這一結構性漏洞可能導致系統遭受惡意攻擊。衣服上看似奇怪的圖案是針對算法漏洞生成的“對抗補丁”圖案，能夠誤導識別算法使其出錯。

　　隨著人工智能技術在安防、交通、金融等關鍵應用場景的持續滲透，這也導致算法漏洞的威脅面不斷延展，對城市治理產生影響。例如，不法分子惡意攻擊視頻監控、安檢閘機等智能安防設備，躲避追蹤、冒充他人、破壞公共安全﹔交通領域，自動駕駛汽車可能被干擾“致盲”，引發安全事故等。

　　展會現場，瑞萊智慧展示自主研發的人工智能防火牆系統，通過集成多項國際領先的對抗防御算法，能夠有效檢測和抵御針對人工智能系統的新型攻擊風險，實現人臉識別、目標檢測等計算機視覺場景的安全加固升級，可用於安防門禁、人臉身份核驗、人臉解鎖等場景的安全防護，大幅提升人工智能系統的安全性。

　　當前，火爆社交網絡的“AI換臉”正成為人工智能技術濫用的重災區。展會現場，瑞萊智慧展示一段將觀眾的臉“換”到惡搞舞蹈中的視頻。研發人員表示，隨著開源工具的普及，AI換臉的技術門檻越來越低，因此被大規模用於非法偽造公眾人物肖像吸引流量牟利，甚至是色情宣傳、網絡欺詐等違法犯罪行為。

　　隨著技術的不斷升級，現有的“換臉”視頻精度已經實現肉眼難以辨別的程度，傳統人工審核團隊束手無策。展會現場，瑞萊智慧展示一款深度偽造內容檢測平台DeepReal，支持快速、精准地對多種格式與質量的圖像與視頻進行自動化的真偽鑒別，能夠應用於檢測圖像物証真實性、檢測網絡內容合規性、打擊侵害個人聲譽行為、提升人臉識別系統安全性等多個場景，為遏制和防范深度偽造技術的大規模濫用提供技術支撐。

　　新安全問題需要新解決方案，為應對人工智能新型安全風險需構建新一代安全體系。隨著攻擊形式的不斷增加、安全問題的不斷升級，對於未知威脅難以進行風險預判和策略調整，因此需打造動態升級、科學前瞻的防御機制。依托在人工智能安全攻防領域的豐富實踐經驗，瑞萊智慧創新性地提出“攻防動態平衡”機制，以子之矛、攻子之盾，通過攻防對抗不斷升級，針對性的演練防御技術，構筑人工智能安全新型防御體系。

　　現場，瑞萊智慧展示了業內首個人工智能安全靶場RealRange，包含攻擊靶場、防御靶場、攻防演練三大功能，提供實戰化、體系化的一站式人工智能攻防演練服務。類似於“演兵場”，該平台基於攻防實戰演練將人工智能安全風險暴露前置，提前發現和適應瞬息萬變的新型攻擊和高級威脅，動態提升團隊軟實力，快速彌補技術水平與經驗的不足，實現“讓風險發生在靶場，讓有效防御構建在安全事件之前”，全面提升人工智能時代新型安全威脅的應對能力。

　　瑞萊智慧副總裁唐家渝表示，伴隨規模化建設和應用加速發展，保証人工智能“安全、可靠、可控”成為其未來發展最重要的趨勢。憑借領先的科研成果和豐富的行業落地經驗，瑞萊智慧推出了系列自研的安全可控新一代人工智能基礎設施平台，為人工智能縱深賦能產業構筑安全基座，將推動整個智能化產業的安全可控升級。未來，瑞萊智慧也將持續加大核心技術和產品體系的研發力度，在保障人工智能安全的基礎上助力其形成更全面、更深入的產業生態。

分享讓更多人看到