標注多跳問答(Multi-hop QA)數據集費時費力!本文首次研究了無監督的多跳問答的可能性,提出了MQG-QA,一種無監督的框架,從同構和異構數據源中自動生成多跳問答對。使用生成的數據預先訓練QA系統將大大減少對人工標注訓練數據的需求。
多跳問答(QA)訓練數據的獲取是非常耗時費力的。為了解決這個問題,我們探索了無監督的多跳QA問答對生成的問題,可以在沒有標注的QA對場景下使用,非常的適合真實場景。
我們模型首先通過首先從每個數據源中選擇或生成相關信息,然后將多個信息整合起來,形成一個多跳問題。我們發現,用我們模型產生的訓練數據訓練出來的模型,性能和完全監督模型之間的F1差距較小。這個現象是非常激動人心的,表明我們可以通過無監督預的構造數據來大大減少對人工標注的訓練的需求。
下圖是該方法的簡易用法演示:
原文標題:【NAACL2021】初探無監督的多跳問答對
文章出處:【微信公眾號:深度學習自然語言處理】歡迎添加關注!文章轉載請注明出處。
責任編輯:haq
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
原文標題:【NAACL2021】初探無監督的多跳問答對
文章出處:【微信號:zenRRan,微信公眾號:深度學習自然語言處理】歡迎添加關注!文章轉載請注明出處。
相關推薦
AI(人工智能)對產品設計帶來了廣泛而深遠的可能性,這些可能性主要體現在以下幾個方面 1.創新設計的激發 創意生成:AI能夠學習和模仿人類設計師的創作過程,通過深度學習等技術生成全新的、獨特
發表于 10-15 11:29
?294次閱讀
客戶使用TI的ADC芯片ADS131A02,發現從AIN1P采到的ADC值不準,于是將AIN1P和VREF_2V5相連,發現也沒法讀出滿量程的AD值,換算出來只有2.45V左右。請問有哪些可能性會造成這樣的影響?
謝謝!
發表于 10-14 07:04
在科技行業并購傳聞頻發的背景下,高通公司被曝已探索收購英特爾部分業務的可能性,特別是其客戶端PC芯片設計業務,旨在進一步豐富和增強其產品組合。據多位知情人士透露,高通對英特爾的這部分資產表現出濃厚興趣,而英特爾則正積極尋求現金流,考慮剝離非核心業務及出售資產以優化財務結構。
發表于 09-09 17:21
?601次閱讀
芯片設計復雜性的快速指數級增長給開發者帶來了巨大的挑戰,整個行業不僅要向埃米級發展、Muiti-Die系統和工藝節點遷移所帶來的挑戰,還需要應對愈加緊迫的上市時間目標、不斷增加的制造測試成本以及人才短缺等問題。早在AI大熱之前,芯片設計行業就把目光放到了AI,探索AI+EDA的更多
發表于 08-29 11:19
?556次閱讀
據韓國政府方面的最新消息透露,三星電子的越南分公司正積極探討在越南設立半導體組裝工廠的可能性,盡管具體的選址尚未塵埃落定,但有線索指向富士康投資活躍的北江地區附近,這一區域因其得天獨厚的地理位置而備受矚目。
發表于 08-23 15:19
?668次閱讀
8月7日,國際媒體傳來新消息,據知情人士透露,蘋果公司正積極探索為即將推出的Apple Watch SE系列引入塑料表殼的可能性,此舉旨在通過材料創新進一步壓縮成本,增強市場競爭力。這一變化不僅預示著成本效益的顯著提升,還可能開辟新的市場細分領域,特別是滿足家長為孩子選購
發表于 08-07 17:03
?632次閱讀
信息有助于模型更深入地理解文本的含義和意圖。
3. 推理與判斷
在問答任務中,大語言模型不僅需要理解問題的字面意義,還需要進行推理和判斷以得出準確的答案。例如,在處理多跳推理問題時,模型需要綜合多個事實
發表于 08-02 11:03
頻、空中干擾并提高無線通信的健壯性和穩定性,,經典藍牙跳頻技術應運而生,本文主要介紹經典藍牙跳頻技術相關內容。
發表于 07-10 09:14
?2914次閱讀
神經網絡作為深度學習的重要組成部分,其訓練方式多樣,其中無監督學習是一種重要的訓練策略。無監督學習旨在從未標記的數據中發現數據內在的結構、模式或規律,從而提取有用的特征表示。這種訓練方
發表于 07-09 18:06
?871次閱讀
應用中往往難以實現。因此,無監督學習在深度學習中扮演著越來越重要的角色。本文旨在綜述深度學習中的無監督學習方法,包括自編碼器、生成對抗網絡、聚類算法等,并分析它們的原理、應用場景以及優
發表于 07-09 10:50
?891次閱讀
用基于脈沖前饋卷積網絡,運用 STDP 無監督學習算法,相較于 CNN 等傳統神經網絡,更具有生物真實性,事件觸發型的權重更新模式使計算需求降低,能耗減少。
(2)利用 SNN 仿真器能夠大規模分布式
發表于 06-25 18:35
通過多個跳數進行通信,從而實現大范圍的覆蓋。然而,隨著數據量的增加和帶寬需求的提高,如何在藍牙Mesh網絡中實現高效、穩定的多跳大數據量高帶寬傳輸數據成為了一個亟待解決的問題。本文將介紹一種基于藍牙Mesh模塊的
發表于 05-28 11:23
?832次閱讀
,掌握無創血壓測量技術對于醫學研究具有重要意義。
不同動物種群之間的差異性:不同動物種群之間存在一定的生理差異,這些差異可能會影響到無創血壓測量結果的準確
發表于 04-22 09:40
從延長便攜式設備電池壽命,到提高處理效率和響應能力,瑞薩的40納米MCU技術正在重新定義嵌入式系統的可能性。
發表于 03-11 15:11
?542次閱讀
Meta,這家社交媒體和科技巨頭,近日宣布推出一種新型的無監督視頻預測模型,名為“V-JEPA”。這一模型在視頻處理領域引起了廣泛關注,因為它通過抽象性預測生成視頻中缺失或模糊的部分來進行學習,提供了一種全新的視頻處理方法。
發表于 02-19 11:19
?1062次閱讀
評論