電子發燒友App
創作
發文章
發帖 
提問 
發資料
發視頻在本節中，我們將展示如何使用我們在上一節中介紹的 GP 先驗執行后驗推理和進行預測。我們將從回歸開始，我們可以在其中以封閉形式執行推理。這是一個“簡而言之 GP”部分，可在實踐中快速啟動和運行高斯過程。我們將從頭開始編寫所有基本操作的代碼，然后介紹 GPyTorch，這將使使用最先進的高斯過程以及與深度神經網絡的集成更加方便。我們將在下一節中深入探討這些更高級的主題。在該部分中，我們還將考慮需要近似推理的設置——分類、點過程或任何非高斯似然。
18.3.1。回歸的后驗推理
觀察模型與我們想要學習的功能相關聯， f(x), 根據我們的觀察y(x), 都由一些輸入索引x. 在分類上，x可以是圖像的像素，并且y可能是關聯的類標簽。在回歸中， y通常表示連續輸出，例如地表溫度、海平面、CO2濃度等
在回歸中，我們通常假設輸出是由潛在的無噪聲函數給出的f(x)加上 iid 高斯噪聲 ?(x):
和?(x)～N(0,σ2). 讓 y=y(X)=(y(x1),…,y(xn))?是我們訓練觀察的向量，并且 f=(f(x1),…,f(xn))?是潛在無噪聲函數值的向量，在訓練輸入中查詢 X=x1,…,xn.
我們假設f(x)～GP(m,k)，這意味著任何函數值的集合f具有聯合多元高斯分布，均值向量 μi=m(xi)和協方差矩陣 Kij=k(xi,xj). RBF核 k(xi,xj)=a2exp?(?12?2||xi?xj||2) 將是協方差函數的標準選擇。為了符號簡單起見，我們將假設均值函數m(x)=0; 我們的推導可以在以后很容易地推廣。
假設我們想對一組輸入進行預測
那么我們想要找到x2和 p(f?|y,X). 在回歸設置中，我們可以在找到聯合分布后，使用高斯恒等式方便地找到這個分布f?=f(X?) 和y.
如果我們在訓練輸入處評估等式(18.3.1)X， 我們有 y=f+?
上傳資料賺積分
工商網監
評論