色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI換臉安全風險如何應用?用魔法打敗魔法,AI檢測模型上線

Monika觀察 ? 來源:電子發燒友網 ? 作者:莫婷婷 ? 2023-07-27 00:16 ? 次閱讀

電子發燒友網報道(文/莫婷婷)ChatGPT橫空出世,人工智能市場迎來快速的增長。數據顯示,2022年我國人工智能市場規模達到2680億元,預計2023年全年將達到3200億元,同比增長達到33.8%。

如今,AI技術席卷各個行業,“AI歌手”就是其中的一個例子。只不過,若是科技不向善,AI就不是科技行業的“戰士”,反而會成為一個“刺客”。在AI換臉技術為娛樂圈、直播圈帶來新意時,一些因為AI換臉帶來的騙局也是來勢兇猛。如何用技術手段解決AI安全問題,成為業內人士需要解決的挑戰。

當前,AI換臉技術制作出虛假的視頻和圖片可以以假亂真,用肉眼難以分辨出來。此前,有網友稱接到熟人的視頻電話,需要幫助其轉賬,在放松警惕之后受害人給對方轉了132萬。發現被騙后,受害人迅速報警追回被騙的132萬元。

在AI換臉技術里面,“Deepfake”是比較知名的技術之一。Deepfake由deep machine learning(深度機器學習)和fake photo(假照片)組合而成。但這些技術也并非找不到破綻。用肉眼難以判斷人臉是否真實存在還是由AI機器生成,而AI圖像篡改檢測模型等模型結構可以很好地進行鑒別。

合合信息智能創新事業部總經理唐琪在公開演講時分享了以AI機器生成人臉的相關鑒別技術,他提到,由AIGC生成的視頻,因為視頻本身具有連續的特征,所以會在人臉的周圍會形成細微偽影。因此合合信息在特征提取器的淺層引入紋理增強模塊放大淺層特征中的細微偽影,增強模型對真實人臉和偽造人臉的感知與判斷準確度。

wKgZomTA8qaAcdhlAAfuwOUkMjg557.png
AI人臉和真實人臉的對比(圖源:合合信息)


“因為不同的AIGC模型或者不同AIGC生成的形式,會在整個神經網絡的不同層次留下不同的特征行為。所以我們引入了注意力機制,讓模型可以很好地關注神經網絡不同層級的特征和紋理特征,有效融合這些特征,從而增強模型對于不同AIGC生成的人臉相關圖像的辨別和感知能力,從而提高模型的有效性?!苯Y合自身的研發方向和技術積累,合合信息推出了AI圖像安全技術的解決方案。

AI換臉技術在幾年前就已經被濫用,并且形成了黑色產業鏈,例如以前在淘寶、貼吧等平臺搜索關鍵詞,就會有相應的店鋪或者商家出現在首頁上。好消息是,隨著人們安全意識的增強,相關平臺都加大了審核力度。如今在淘寶上打入“AI換臉”等關鍵詞已經不會出現相關店鋪。

只不過店鋪的關注并不意味這條產業鏈已經斷裂,特別是隨著AIGC技術的成熟,不法分子利用AI技術的犯罪手段也越來越“高明”,他們利用偽造人臉進行身份驗證、信用卡詐騙、身份冒用、遠程會議等犯罪行為。

當這些假借AI的名頭進行欺詐的現象大量涌現時,讓人們開始質疑AI技術的安全性和可靠性。而AI技術帶來的問題,最終仍需依賴于更為成熟、先進的科技手段和方法來逐一解決。現階段,用AI檢測模型已經成為解決AI安全的手段之一。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30758

    瀏覽量

    268902
收藏 人收藏

    評論

    相關推薦

    AI對話魔法 Prompt Engineering 探索指南

    Engineering 就是設計和優化與AI對話的“提示詞”或“指令”,讓AI能準確理解并提供有用的回應。 Prompt Engineering 主要包括以下幾個方面: 1.明確目標:希望AI完成什么任務。例如:寫一篇文章,回
    的頭像 發表于 11-07 10:11 ?791次閱讀
    <b class='flag-5'>AI</b>對話<b class='flag-5'>魔法</b> Prompt Engineering 探索指南

    STM CUBE AI錯誤導入onnx模型報錯的原因?

    使用cube-AI分析模型時報錯,該模型是pytorch的cnn轉化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.
    發表于 05-27 07:15

    16家科技巨頭保證AI模型安全開發

    據路透社報道,微軟、谷歌以及OpenAI等16家全球科技巨頭在5月21至22日舉行的“人工智能(AI)首爾峰會”上,公開表態承諾進行AI模型安全開發,并在無法有效控制最極端
    的頭像 發表于 05-22 11:55 ?700次閱讀

    微軟、谷歌等科技巨頭承諾安全開發AI模型

    近日,微軟、谷歌、OpenAI等16家科技巨頭在“人工智能(AI)首爾峰會”上達成共識,承諾在AI模型的開發過程中注重安全性,并在無法控制最極端風險
    的頭像 發表于 05-22 11:25 ?500次閱讀

    英國AI安全研究所推出AI模型安全評估平臺

    據報道,英國人工智能安全研究院近日發布了名為“Inspect”的AI模型安全評估平臺,此平臺采用開源技術且對全球AI工程師免費開放,旨在提升
    的頭像 發表于 05-13 15:20 ?409次閱讀

    防止AI模型被黑客病毒入侵控制(原創)聆思大模型AI開發套件評測4

    ,應用場景和安全需求會有所不同。我會幫助客戶構建安全AI模型。上面的只是一些基本的安全措施,在實際中我可以利用eFPGA芯片對上述的
    發表于 03-19 11:18

    cubemx ai導入onnx模型后壓縮失敗了怎么解決?

    cubemx ai導入onnx模型后壓縮失敗。請問我怎么解決
    發表于 03-19 07:58

    AI模型遠程控制啟動車輛(原創)

    AI模型
    還沒吃飯
    發布于 :2024年03月18日 15:18:29

    使用cube-AI分析模型時報錯的原因有哪些?

    使用cube-AI分析模型時報錯,該模型是pytorch的cnn轉化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.
    發表于 03-14 07:09

    NanoEdge AI的技術原理、應用場景及優勢

    ,可以減少數據在傳輸過程中被竊取或篡改的風險,提高數據安全性。 - 低能耗:通過優化神經網絡模型和硬件設計,NanoEdge AI 可以在有限的資源下實現高效的計算,降低設備的能耗。
    發表于 03-12 08:09

    榮耀發布MagicOS 8.0和魔法模型

    榮耀近日舉辦了MagicOS 8.0發布會,正式推出了自主研發的操作系統MagicOS 8.0,并宣布了其端側平臺級AI模型——魔法模型的誕生。
    的頭像 發表于 01-18 15:16 ?1005次閱讀

    AI模型可以取代大學教育嗎?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 16:27:52

    AI模型怎么解決芯片過剩?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:42:05

    AI模型會不會取代電子工程師?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:11:43

    AI模型可以設計電路嗎?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:09:29
    主站蜘蛛池模板: 国产欧美一区二区三区久久| 97亚洲狠狠色综合久久久久| 伊人亚洲AV久久无码精品| 成人中文字幕在线观看| 萝莉御姐被吸奶| 中国老太太xxx| 久久综合久综合久久鬼色| 夜色私人影院永久入口| 经典WC女厕所里TV| 亚洲一品AV片观看五月色婷婷| 国内久久久久影院精品| 亚洲国产精品99久久久久久| 国产色精品久久人妻无码看片软件 | 抽插嫩B乳无码漫| 日本 稀土矿| 国产成人精品123区免费视频| 色婷婷国产精品视频一区二区三区| 第一次处破女完整版电影| 涩涩免费网站| 国产亚洲AV无码成人网站| 亚洲国产成人99精品激情在线| 国产系列在线亚洲视频| 亚洲AV无码国产精品色在线看| 国产在线播放91| 亚洲视频91| 免费人成视频X8X8国产更快乐| avtt天堂网Av无码| 色狠狠xx| 国语对白老女人8av| 友田真希息与子中文字幕| 免费人妻AV无码专区五月| 苍井空教师BD在线观看全集| 无码人妻精品一区二区蜜桃色欲| 国产专区青青在线视频| 在镜头里被CAO翻了H| 欧美乱妇15p图| 国产美女影院| 18禁在线无遮挡羞羞漫画| 三级色视频| 久久不射网| 成人无码在线超碰视频|