強化AI安全應用，商湯打造“深偽檢測+數字水印”防火墻
“如果一臺機器能夠與人類展開對話（通過電傳設備）而不能被辨別出其機器身份，那么稱這臺機器具有智能”——1950年，艾倫·圖靈提出了著名的圖靈測試。
圖靈測試不僅首次從行為的角度對“智能”做出了清晰定義，也直接引申出了科技發展所具有的兩面性，一方面機器智能會越發接近或超過人類，而另一方面更強的AI也不可避免會帶來更多人類無法辨別的風險。
2023年以來，伴隨各類生成式超大模型爆發，“通過AI換臉和擬聲技術佯裝熟人實施詐騙”等AI新型騙局頻繁登上新聞頭條，引發廣泛社會關注。
除了提高全民反詐意識，還有哪些方法可以預防“新科技”騙局？
推動AI可信，強化新技術安全治理。針對“AI深度偽造（DeepFake）內容”在全球范圍內病毒式傳播，商湯科技從技術源頭出發，針對性打造兩把技術盾牌，并快速應用于各類AI產品中。 ▎深偽檢測+數字水印， 讓AI詐騙顯行
商湯在涉及隱私保護、數字取證及偽造檢測等領域的人像合成技術有著廣泛積累，并逐步開發了基于生成、鑒偽和溯源三位一體的綜合鑒偽解決方案。
為在偽造鑒別這場“攻防戰”中奪得先機，商湯打造了高效的對抗體系。
包括自建囊括數十種先進攻擊手段的偽造生成平臺，為鑒偽檢測和溯源提供豐富多樣的攻擊案例和海量數據支持。并可通過持續集成先進偽造算法，在zero/few-shot場景下快速響應難例樣本和長尾類型，幫助提升鑒偽算法的泛化性。
“防”的層面，商湯訓練的偽造檢測大模型，可充分利用面部表情一致性、動作序列連貫性，并結合頻譜、聲音和文字等多模態信息，準確鑒別包括PS、換臉、活化以及各種先進擴散模型（如：Stable Diffusion）合成的高清人像。主流評測數據集上算法檢測精度可達到99%以上，在應對新技術復合偽造方法上（如：通過MidJourney），檢測能力也高出行業同類產品20%以上。
作為偽造鑒別中的最后一環，溯源可追蹤偽造數據的數據物料源頭、偽造過程以及核心偽造方法。商湯通過自研基于解耦-重建的偽造檢測算法，能夠從偽造數據中分離出真實內容及偽影痕跡。在針對10余種主流偽造算法溯源上，準確率超過90%，同時還可給出數據中的相關偽造痕跡，提高檢測算法的可解釋性和可信度。這一技術為行業首創，并作為數字取證技術成功落地司法領域。 目前，商湯綜合鑒偽解決方案已投入實戰，為十余家銀行的安全系統提供服務，對各類灰黑產攻擊攔截成功率超行業同類產品20%以上，有效防范了灰黑產身份盜取、支付盜刷等網絡詐騙。
在AIGC技術大爆發時代，每天都會出現新的生成方法，僅僅依靠深偽檢測技術存在一定漏檢風險，從生成平臺源頭加入數字水印技術可以構成強力雙保險。
商湯數字水印結合頻域分析、深度學習、擴散模型等技術，將特定信息嵌入到數字載體中，同時不影響載體的使用價值，也不易被人的知覺系統察覺，只有通過特定的解碼器和專屬密鑰才能提取，可實現篡改內容的檢測且水印不可竊取。 數字水印技術可在AIGC相關產品發布時加入，能夠有效增強深偽檢測的可靠性，甚至進一步影響生成效果，從源頭上遏制深度偽造，實現主動防御。 具體應用中，商湯數字水印技術可用于版權保護，防偽溯源等場景，支持圖像、視頻、音頻、文本等各種模態的數字載體，在不同程度的干擾下(裁剪、壓縮等)能保證99%+的水印提取精度，且不影響數據本身質量(如高清圖畫質)，在保證水印信息容量大(256位)以及安全性(通過密鑰加密)的同時具備足夠的隱蔽性以及魯棒性。此外，數字水印技術也響應了《生成式人工智能服務管理辦法（征求意見稿）》監管要求。
目前，商湯數字水印技術已服務于“商湯秒畫SenseMirage”、 “商湯如影SenseAvatar”等多個產品，以及內容創作、大數據客戶。
▎持續推進可信AI體系化建設
提升AI安全治理水平、推動AI可持續發展，是行業健康成長的根基，也是商湯科技的責任。
多年來，商湯積極釋放在可信AI領域的技術沉淀和實踐經驗，產生一系列成果：
-
構建“商湯AI安全治理開放平臺”，提供可持續發展的AI安全公益平臺；
-
參與國家人工智能標準化總體組和全國信標委人工智能分委會組織編寫的《人工智能倫理治理標準化指南（2023版）》，助力人工智能研發及應用更健康發展；
-
成為新加坡“人工智能驗證基金會”（AI Verify Foundation）一員，促進新加坡可信AI建設，樹立具有積極社會影響力的國際實踐標桿；
- 榮獲隱私信息管理體系認證全部三項認證，并獲評中國人工智能產業發展聯盟（AIIA）頒發的“可信AI 2022年突出貢獻企業”；
波瀾壯闊的人工智能發展浪潮中，AI技術將不斷帶來巨大的創新和改變，但只有可信、符合倫理的AI產品才能造福人類。
相關閱讀，戳這里
《商湯獲評“可信AI 2022年突出貢獻企業”》
《多維度打造可信AI，商湯斬獲三項權威獎項》
原文標題：強化AI安全應用，商湯打造“深偽檢測+數字水印”防火墻
文章出處：【微信公眾號：商湯科技SenseTime】歡迎添加關注！文章轉載請注明出處。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
商湯科技
+關注
關注
8文章
518瀏覽量
36134
原文標題：強化AI安全應用，商湯打造“深偽檢測+數字水印”防火墻
文章出處：【微信號：SenseTime2017，微信公眾號：商湯科技SenseTime】歡迎添加關注！文章轉載請注明出處。
發布評論請先 登錄
相關推薦
云服務器防火墻關閉會怎么樣？
云服務器防火墻關閉會怎么樣？關閉云服務器防火墻將增加安全風險，使服務器易受攻擊，服務穩定性下降，可能導致數據泄露和服務中斷。同時，這可能違反行業合規要求，引發法律責任。此外，防火墻關閉
華為Flexus云服務器搭建SamWaf開源輕量級網站防火墻
在當今數字化高速發展的時代，網絡安全問題日益凸顯。為了保障網站的穩定運行和數據安全，我們可以借助華為 Flexus 云服務器搭建 SamWaf 開源輕量級網站防火墻。這不僅是一次技術的
云防火墻和web應用防火墻詳細介紹
云防火墻和Web應用防火墻是兩種不同的網絡安全工具，它們在多個方面存在顯著的區別，同時也在各自的領域內發揮著重要的作用，主機推薦小編為您整理發布云防火墻和web應用
云服務器防火墻設置方法
云服務器防火墻的設置方法通常包括：第一步：登錄控制臺，第二步：配置安全組規則，第三步：添加和編輯規則，第四步：啟用或停用規則，第五步：保存并應用配置。云服務器防火墻的設置是確保網絡安全
ubuntu防火墻規則之ufw
因公司項目的需求，需要對客戶端機器簡便使用防火墻的功能，所以可在頁面進行簡便設置防護墻規則，當然，這個功能需求放到我手上我才有機會學到。因為客戶端機器都是ubuntu的，所以當然用了ubuntu特有
物通博聯工業智能網關實現防火墻配置及應用
隨著工業信息化建設不斷發展及“兩化”進程不斷深入，工業網絡面臨的傳統安全威脅和工控網絡特有安全威脅在不斷增加。通過部署防火墻，能夠禁止不被允許的設備進行訪問，有效降低網絡被入侵、數據泄露的風險，從而
防火墻和堡壘服務器的區別
設備和技術手段，其中，防火墻和堡壘服務器是最為常見和重要的兩種設備。盡管它們的最終目標都是為了保護網絡和信息安全，但二者在概念、原理、功能和應用場景方面有著顯著的區別。本文將詳細探討防火墻和堡壘服務器的各個方面，并分析它們之間的
IR700與SSG5防火墻如何建立VPN模板？
防火墻配置登錄用戶名和密碼：
設置WAN接口
編輯“ethernet0/0”接口
設置LAN接口編輯“bgroup0”
設置DNS
設置DHCP
點擊編輯“broup0
發表于 07-26 08:12
深信服防火墻和IR700建立IPSec VPN的配置說明
深信服防火墻和IR700建立IPSec VPN 配置說明本文檔針對深信服防火墻 的常規使用以及與無線路由器InRouter配合使用時（主要是建IPSec VPN）雙方的相關配置而編寫注：并未
發表于 07-26 07:43
工業防火墻是什么？工業防火墻主要用在哪里？
工業防火墻是一種專為工業控制系統(Industrial Control Systems, ICS)設計的網絡安全設備，它結合了硬件與軟件技術，用以保護工業生產環境中的關鍵基礎設施免受網絡攻擊。工業
淺析Centos7 防火墻技術示例
iptables防火墻由Netfilter項目開發，自2001年1月在Linux2.4內核發布以來就是Linux的一部分了。
發表于 03-11 17:27
?435次閱讀
你真知道交換機、路由器和防火墻的區別嗎？
你真知道交換機、路由器和防火墻的區別嗎？ 交換機、路由器和防火墻是計算機網絡中常見的三種設備，它們各自起到不同的作用以提供網絡連接、數據轉發和安全保護。下面將詳細介紹交換機、路由器和防火墻
工商網監
評論