色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

面向汽車網(wǎng)絡(luò)安全的生成式人工智能

Vector維克多 ? 來源:Vector維克多 ? 2024-09-13 11:39 ? 次閱讀

企業(yè)IT和產(chǎn)品IT與標準化軟件的融合降低了惡意行為者的入侵門檻。適用于各種惡意軟件的入門工具包已然面市,最近更是得到了基于大語言模型(LLM),如ChatGPT等AI工具的加持。然而,Vector Consulting和Robo-Test研究認為,生成式人工智能也有潛力使現(xiàn)有系統(tǒng)及新系統(tǒng)更加強大和安全。

隨著企業(yè)IT與產(chǎn)品IT的融合,網(wǎng)絡(luò)攻擊及其帶來的影響不斷增加。圖1顯示工業(yè)物聯(lián)網(wǎng)領(lǐng)域受攻擊的增長幾乎呈指數(shù)級的趨勢[1,2]。而且,這些還只是已經(jīng)通報的影響公共事業(yè)、工廠生產(chǎn)等相關(guān)場景的關(guān)鍵工業(yè)物聯(lián)網(wǎng)攻擊,還有大多數(shù)攻擊沒有被報告或被認為不相關(guān)。

wKgaombjs-OAMuxUAAFbgO5VBlk404.jpg

圖 1:針對車輛的主要網(wǎng)絡(luò)安全攻擊

由于多種原因[1,2,3],汽車IT成為黑客的主要目標:

易于訪問,因為可以輕松觸及車輛來實施漏洞發(fā)掘而不被發(fā)現(xiàn)。

勒索軟件和支付帶來潛在好處,因為供應(yīng)商和OEM擔心網(wǎng)絡(luò)攻擊成為新聞頭條。

三分之一的公司沒有既定的產(chǎn)品網(wǎng)絡(luò)安全計劃和專門的安全研發(fā)團隊。

三分之二的公司漏洞測試只涵蓋了不到一半的硬件和軟件。

以前的專有軟件被標準軟件堆棧和工具取代,從而允許使用標準黑客工具和知識,并且增加了攻擊窗口期。

系統(tǒng)和組件具有更多的始終在線、連接性和用于軟件更新的智能應(yīng)用程序編程接口(API),從而允許遠程執(zhí)行幾乎所有攻擊。

沒有網(wǎng)絡(luò)安全就沒有功能安全。隨著軟件和數(shù)據(jù)被操縱,系統(tǒng)的初始合格、驗證或認證結(jié)果不再得到保障。隨著網(wǎng)絡(luò)犯罪的激增,整車廠和供應(yīng)商必須提供足夠的保護,防止其企業(yè)和產(chǎn)品IT系統(tǒng)被操縱。

網(wǎng)絡(luò)安全中的人工智能技術(shù)

人工智能(AI)將很快成為打擊網(wǎng)絡(luò)犯罪的主要工具,因為它有助于建立高效和有效的安全工程。網(wǎng)絡(luò)安全要求很高,需要系統(tǒng)化的流程。傳統(tǒng)方法需要大量的手動工作,例如可追溯性,當我們關(guān)注各行業(yè)的不一致性和不合理的測試時,會發(fā)現(xiàn)他們幾乎沒有系統(tǒng)化的部署。用于網(wǎng)絡(luò)安全的人工智能技術(shù)簡化了這些活動[4]。例如,從TARA和安全需求到安全測試的安全工程,在人工智能的輔助下實現(xiàn)了更好的一致性,進而有助于生成、驗證和關(guān)聯(lián)必要的工作產(chǎn)品。

為了有效減輕網(wǎng)絡(luò)安全風險,在安全生命周期內(nèi)必須落實安全目標并使其在工作產(chǎn)品之間保持一致。可追溯性有助于保持一致性并降低責任風險。如果添加了新的需求,我們必須找出哪些設(shè)計部分需要修改或者哪些測試需要變更并重新運行。為此,三重峰模型將需求、設(shè)計和測試系統(tǒng)地聯(lián)系起來[3]。

在此方法論基礎(chǔ)上,生成式人工智能(GenAI)可以針對您提出的問題合成或生成對應(yīng)的答案。自然語言處理(NLP),尤其是Transformer,為半自動安全分析、可追溯性和測試提供了新方法。特別是使用大語言模型(LLM)進行文本生成、匯總和分類,最近被證明有望提高安全分析和測試的效率和有效性[4]。雖然許多人已經(jīng)嘗試過基于直接輸入問題的人機界面,但這個場景可以進一步自動化,從而將此類工具無縫集成到生產(chǎn)工具鏈中。

為了評估哪種基于人工智能的輔助將為網(wǎng)絡(luò)安全帶來最大收益,讓我們看看整個產(chǎn)品生命周期。圖2將安全生命周期顯示為獨立于底層開發(fā)方法的V模型抽象。灰色框描述了模型中各活動的抽象,藍色框顯示了我們識別到的一些基于人工智能的方法,這些方法可以支持網(wǎng)絡(luò)安全開發(fā)過程中的相關(guān)環(huán)節(jié)。

wKgaombjs_6AeOfWAAO2raB_el4983.jpg

圖 2:安全工程中的人工智能和底層工具鏈

將生成式人工智能用于安全工程

為了將生成式人工智能實際應(yīng)用于網(wǎng)絡(luò)安全工程,我們開發(fā)了Transformers和基于生成式人工智能的方法,用于網(wǎng)絡(luò)安全需求的規(guī)范化和測試驗證。我們在下述行業(yè)案例研究中的重點是使用生成式人工智能和NLP將行業(yè)需求與法規(guī)要求聯(lián)系起來。

在實踐中,我們使用帶有網(wǎng)絡(luò)安全語料庫的定制化大語言模型作為基本模型。在評估哪種大語言模型最適合作為基準點時,我們測試了他們在令牌預測方面的能力,尤其是與安全相關(guān)的文本。為了進一步提高模型的適配度,我們使用CAPEC(常見攻擊模式枚舉和分類)、CVE(通用漏洞披露)和NVD(美國國家漏洞數(shù)據(jù)庫)等數(shù)據(jù)庫對模型進行了微調(diào),同時也使用了經(jīng)過驗證的網(wǎng)絡(luò)安全論壇和博客的內(nèi)容。該語料庫不包含客戶及專利數(shù)據(jù),而且它會隨著外部數(shù)據(jù)源的變化而不斷增長。圖3 顯示了語料庫最初的數(shù)據(jù)分布,這種分布既不是來源于現(xiàn)成的方案,也不是行業(yè)或標準既定的方法,而是基于Vector Consulting Services過往15年的安全分析經(jīng)驗。

在運行時,使用具有特定關(guān)聯(lián)的敏感數(shù)據(jù)對模型進行投喂。為了保護軟件免遭濫用和漏洞挖掘,它不會被存儲,當然也不會脫離我們本地化的大語言模型引擎。例如,關(guān)聯(lián)信息可以是為不同系統(tǒng)創(chuàng)建的TARA。這將有利于促進重用先前創(chuàng)建的TARA,并且進一步提高效率,TARA的某些部分通常可以重復使用,因為產(chǎn)品設(shè)計中使用了相同或非常相似的組件。這種使用本地化數(shù)據(jù)的雙重方法會消耗大量內(nèi)存、功耗和性能,但可以確保非常高的機密性。

wKgZombjtAuAc_2sAAHV9xA8BK4495.jpg

圖 3:帶有網(wǎng)絡(luò)安全語料庫的定制化大語言模型

市場和產(chǎn)品需求通常存儲在應(yīng)用程序或產(chǎn)品生命周期管理(ALM/PLM)數(shù)據(jù)庫中,可以使用ReqIF或Excel將它們導出到我們的大語言模型中。圖4顯示了在將結(jié)果轉(zhuǎn)移到專門的TARA工具之前,我們的大語言模型導出界面上的此類結(jié)果。根據(jù)此導出結(jié)果和其他關(guān)聯(lián)信息(例如基于啟發(fā)式的威脅目錄),AI會生成針對條目、威脅和攻擊路徑的建議。

隨后,生成的建議將加載到Vector COMPASS TARA工具中。緊接著,安全工程師將對其質(zhì)量和準確性進行評估和評級。工程師還會決定GenAI工具給出的哪些建議將保留在TARA中,以及哪些應(yīng)該被替換或刪除。如果TARA是完整的,則將數(shù)據(jù)存儲到白盒信息數(shù)據(jù)庫中。該白盒數(shù)據(jù)庫包含所有內(nèi)部可用信息,稍后可用于執(zhí)行白盒滲透測試。與此相反,灰盒數(shù)據(jù)庫僅包含公開可用的數(shù)據(jù)和常見的攻擊模式,他們將在灰盒滲透測試時被使用。根據(jù)需要執(zhí)行的滲透測試類型,下一階段的人工智能將使用兩個或一個數(shù)據(jù)庫來建議攻擊或滲透策略。此策略信息用于對待測系統(tǒng)(SUT)進行攻擊,該攻擊通過使用CANoe測試環(huán)境或類似的集成測試框架來實現(xiàn)。

使用AI生成灰盒與白盒攻擊路徑是一種檢查方法,它可以查明有多少可用的與系統(tǒng)或組件相關(guān)的信息(例如SUT中使用的庫和依賴項)。將這些方法引入安全生命周期后,將有助于更好地對工具進行集成,以及實現(xiàn)敏捷交付流程中應(yīng)對變更的快速部署,進而實現(xiàn)從TARA到安全需求和(回歸)測試用例的一致性。

wKgaombjtAuAVCSQAANBoUeEzDQ489.jpg

圖 4:集成到開放的TARA接口

結(jié)論

關(guān)于網(wǎng)絡(luò)安全領(lǐng)域應(yīng)用人工智能的一個提醒,請注意隱私和安全影響:

人工智能本身可能會成為風險,因為它可以更改或添加代碼。

人工智能可能會威脅您的知識產(chǎn)權(quán),因為大多數(shù)模型都試圖捕獲您的數(shù)據(jù)。

許多人工智能工具,例如代碼生成和分析工具,通常會將數(shù)據(jù)反饋給工具供應(yīng)商,從而嚴重影響知識產(chǎn)權(quán)和隱私。

您的專利代碼必須受到良好的保護,并且確保其不會離開您的私人數(shù)據(jù)庫。因此,我們建議您建立自己的大語言模型,并針對您的特定應(yīng)用領(lǐng)域?qū)ζ溥M行訓練。同時,避免使用GenAI建議的代碼或代碼片段。我們已經(jīng)檢測到生成式AI工具和平臺在處理代碼時會插入不需要的代碼片段。此類片段可能看起來無風險,但存在引入后門、操縱數(shù)據(jù)或向外部目標提供信息的風險,例如庫調(diào)用和外部接口(例如 REST API)。如果您想重用代碼或嵌入生成的片段,請對所有外部代碼運行徹底的靜態(tài)分析以識別潛在的漏洞。

作者信息

Christof Ebert

Vector Consulting Services總經(jīng)理,

德國斯圖加特大學教授。

Maximilian Beck

德國斯圖加特大學Robo-Test孵化器的人工智能企業(yè)家。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • IT
    IT
    +關(guān)注

    關(guān)注

    2

    文章

    875

    瀏覽量

    63796
  • 網(wǎng)絡(luò)安全
    +關(guān)注

    關(guān)注

    11

    文章

    3230

    瀏覽量

    60610
  • 人工智能
    +關(guān)注

    關(guān)注

    1800

    文章

    48107

    瀏覽量

    242269

原文標題:面向汽車網(wǎng)絡(luò)安全的生成式人工智能

文章出處:【微信號:VectorChina,微信公眾號:Vector維克多】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    汽車網(wǎng)絡(luò)安全攻擊實例解析(二)

    本文則選取典型的智能網(wǎng)聯(lián)汽車網(wǎng)絡(luò)安全攻擊實例展開詳細介紹。
    的頭像 發(fā)表于 08-08 15:17 ?1855次閱讀
    <b class='flag-5'>汽車網(wǎng)絡(luò)安全</b>攻擊實例解析(二)

    人工智能和機器學習提高網(wǎng)絡(luò)安全性的方法

    人工智能和機器學習可以幫助組織提高網(wǎng)絡(luò)安全性的一些方法
    發(fā)表于 01-25 06:25

    人工智能汽車芯片設(shè)計的影響是什么

    點擊上方“藍字”,關(guān)注我們,感謝!人工智能(AI)以及利用神經(jīng)網(wǎng)絡(luò)的深度學習是實現(xiàn)高級駕駛輔助系統(tǒng)(ADAS)和更高程度車輛自主性的強大技術(shù)。隨著人工智能研究的快速發(fā)展,設(shè)計人員正面臨激烈的競爭
    發(fā)表于 12-17 08:17

    人工智能安全有哪一些軟肋

    涉及國家網(wǎng)絡(luò)安全大腦建設(shè)、智能汽車網(wǎng)絡(luò)安全人工智能安全風險等安全熱點話題。
    發(fā)表于 05-01 21:23 ?444次閱讀

    華為智能汽車解決方案BU正式獲得汽車網(wǎng)絡(luò)安全ISO/SAE證書

    華為智能汽車解決方案BU正式獲得汽車網(wǎng)絡(luò)安全ISO/SAE 21434:2021符合性證書,成為全球首個通過DEKRA德凱ISO/SAE 21434認證的智能
    的頭像 發(fā)表于 10-14 15:55 ?3949次閱讀

    汽車網(wǎng)絡(luò)安全左移實踐——基于信任構(gòu)建汽車安全的探索

    汽車網(wǎng)絡(luò)安全左移實踐——基于信任構(gòu)建汽車安全的探索
    的頭像 發(fā)表于 02-06 15:06 ?1028次閱讀
    <b class='flag-5'>汽車網(wǎng)絡(luò)安全</b>左移實踐——基于信任構(gòu)建<b class='flag-5'>汽車</b><b class='flag-5'>安全</b>的探索

    【文章轉(zhuǎn)載】基于ISO 21434的汽車網(wǎng)絡(luò)安全實踐

    商業(yè)領(lǐng)域的IT系統(tǒng)和嵌入產(chǎn)品的IT系統(tǒng)正在融合為一種多功能系統(tǒng)。相應(yīng)地,關(guān)注汽車網(wǎng)絡(luò)安全的ISO21434標準應(yīng)運而生。該標準的意義在于提供了一個指南,可用于降低產(chǎn)品、項目和組織中存在的安全風險
    的頭像 發(fā)表于 04-23 09:33 ?1099次閱讀
    【文章轉(zhuǎn)載】基于ISO 21434的<b class='flag-5'>汽車網(wǎng)絡(luò)安全</b>實踐

    生成人工智能將如何影響網(wǎng)絡(luò)安全領(lǐng)域的技能差距

    目前,生成人工智能對尋求招聘的網(wǎng)絡(luò)安全高管來說是福是禍的問題基本上是無法回答的。這并沒有阻止關(guān)于它可能如何改變網(wǎng)絡(luò)安全專業(yè)人員工作的更廣泛討論。
    的頭像 發(fā)表于 08-08 16:55 ?1207次閱讀

    汽車網(wǎng)絡(luò)安全:防止汽車軟件中的漏洞

    汽車網(wǎng)絡(luò)安全汽車開發(fā)中至關(guān)重要,尤其是在 汽車軟件 日益互聯(lián)的情況下。在這篇博客中,我們將分享如何防止汽車網(wǎng)絡(luò)安全漏洞。 靜態(tài)分析工具有助于執(zhí)行關(guān)鍵的
    的頭像 發(fā)表于 12-21 16:12 ?1191次閱讀
    <b class='flag-5'>汽車網(wǎng)絡(luò)安全</b>:防止<b class='flag-5'>汽車</b>軟件中的漏洞

    汽車網(wǎng)絡(luò)安全-挑戰(zhàn)和實踐指南

    汽車網(wǎng)絡(luò)安全-挑戰(zhàn)和實踐指南
    的頭像 發(fā)表于 02-19 16:37 ?623次閱讀
    <b class='flag-5'>汽車網(wǎng)絡(luò)安全</b>-挑戰(zhàn)和實踐指南

    國內(nèi)首個生成人工智能安全技術(shù)文件發(fā)布,燧原科技深度參編

    近日,全國網(wǎng)絡(luò)安全標準化技術(shù)委員會(TC260)正式發(fā)布了《生成人工智能服務(wù)安全基本要求》(以下簡稱《基本要求》),是國內(nèi)首個
    的頭像 發(fā)表于 03-12 10:35 ?808次閱讀
    國內(nèi)首個<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b><b class='flag-5'>安全</b>技術(shù)文件發(fā)布,燧原科技深度參編

    黑芝麻智能獲得ISO/SAE 21434:2021汽車網(wǎng)絡(luò)安全流程認證證書

    4月3日,黑芝麻智能獲得 ISO/SAE 21434:2021汽車網(wǎng)絡(luò)安全流程認證證書,標志著黑芝麻智能已建立起符合ISO/SAE 21434要求的網(wǎng)絡(luò)安全產(chǎn)品開發(fā)流程體系,構(gòu)筑起
    的頭像 發(fā)表于 04-03 17:22 ?808次閱讀
    黑芝麻<b class='flag-5'>智能</b>獲得ISO/SAE 21434:2021<b class='flag-5'>汽車網(wǎng)絡(luò)安全</b>流程認證證書

    人工智能大模型在工業(yè)網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用

    隨著人工智能技術(shù)的飛速發(fā)展,人工智能大模型作為一種具有強大數(shù)據(jù)處理能力和復雜模式識別能力的深度學習模型,已經(jīng)在多個領(lǐng)域展現(xiàn)了其獨特的優(yōu)勢和廣闊的應(yīng)用前景。在工業(yè)網(wǎng)絡(luò)安全領(lǐng)域,人工智能
    的頭像 發(fā)表于 07-10 14:07 ?1115次閱讀

    經(jīng)緯恒潤榮獲ISO/SAE 21434汽車網(wǎng)絡(luò)安全流程認證

    市場環(huán)境下賦能主機廠量產(chǎn)項目的安全、合規(guī)落地,為智能網(wǎng)聯(lián)汽車網(wǎng)絡(luò)安全提供堅實保障。經(jīng)緯恒潤ISO/SAE21434汽車網(wǎng)絡(luò)安全流程認證證書
    的頭像 發(fā)表于 12-03 01:00 ?292次閱讀
    經(jīng)緯恒潤榮獲ISO/SAE 21434<b class='flag-5'>汽車網(wǎng)絡(luò)安全</b>流程認證

    時代智能獲TüV南德ISO/SAE 21434汽車網(wǎng)絡(luò)安全認證

    汽車網(wǎng)絡(luò)安全領(lǐng)域取得了顯著成就。 ISO/SAE 21434標準是全球范圍內(nèi)針對智能網(wǎng)聯(lián)汽車網(wǎng)絡(luò)安全管理的權(quán)威標準。通過獲得這一認證,時代智能成功建立了完善的
    的頭像 發(fā)表于 01-23 14:07 ?222次閱讀
    主站蜘蛛池模板: 成人影片大全 | 麻豆影视在线直播观看免费 | 色妺妺免费影院 | 亚洲精品AV无码喷奶水糖心 | 超污视频带污疼免费视频 | 午夜在线观看免费完整直播网页 | 袖珍人与大黑人性视频 | 国产偷抇久久精品A片蜜臀A | 伊人狼人久久精品热9 | 欧美video巨大粗暴18 | 51精品国产AV无码久久久 | 嗯啊不要老师 | 一二三四在线视频社区8 | 99久久中文字幕伊人情人 | 日本孕妇大胆孕交 | 99久久精品久久久久久清纯 | 日本漫画无彩翼漫画 | 哒哒哒高清视频在线观看 | 99久久精品免费看国产免费 | 国产精品一区二区AV97 | 在线免费公开视频 | 国产小伙和50岁熟女23p | 131美女爱做视频午夜剧场 | 武汉美女洗澡 | 一二三区乱码不卡手机版 | 久久精品中文騷妇女内射 | 51xx午夜影视福利 | 一本道久在线综合色色 | 365电影成人亚洲网在线观看 | 嘿嘿视频在线观看 成人 | 美女被抽插到哭内射视频免费 | 国产免费人视频在线观看免费 | 最近免费中文字幕MV在线视频3 | 最新精品学生国产自在现拍 | 成人免费一级毛片在线播放视频 | 精品久久久无码21P发布 | 麻豆XXXX乱女少妇精品-百度 | 欧美 亚洲 中文字幕 高清 | 美女用手扒开粉嫩的屁股 | 影音先锋av丝袜天堂 | 国产日韩精品SUV |