AV1視頻編解碼器是一種由開放媒體聯盟AOM開發的royalty-free的壓縮技術。libaom庫是AV1的參考軟件，應用各種編碼器優化技術來實現更好的編碼效率。本次分享，我們邀請到了來自Google 的李博晗，一起來討論 GOP優化、時域濾波器、libaom庫的其他改進以及正在進行的一些工作。

大家好！我是來自Google網絡媒體團隊的李博晗。今天，我將討論有關AV1的編碼器優化技術。 1 概 述

AV1視頻編解碼器是一種由開放媒體聯盟AOM開發的royalty-free的壓縮技術。它于2018年發布，與其前身（VP9）相比，AV1提高了約30%的壓縮效率。libaom庫是AV1的參考軟件，它也是由大量AOM的成員開發的，且它是開源的。libaom庫使用了各種編碼器優化技術以便達到更好的編碼效率。今天，我們將討論其中的部分技術。 首先我們將討論GOP優化；接著，我們會討論時域濾波器；其后，我們還將提到libaom庫的其他改進和一些正在進行的工作。 2 GDP優化

首先是GOP優化，GOP代表圖片組（group of picture）。我們要編碼的視頻序列有很多幀，編碼器會將這些幀分組為GOP。然后，編碼器將順序對每個GOP進行編碼?；旧螱OP是用于決定諸如分層編碼結構和碼率分配等的基本單元。舉一個例子，這是一個包含九幀的GOP。
GOP內具有層次結構，基礎層一般包括第一幀和最后一幀?？梢詮倪@兩個幀來預測下一層的幀。而再下一層的幀可以由這個三個幀來預測，以此類推?，F在，我們想要確定每個GOP的長度。它的長度非常重要，因為從直覺上來說，我們希望每個GOP中的幀都包含具有相似特征，或者這些幀在GOP內部存在更高的相關性。
想要知道GOP的長度，就要確定最后一幀在哪里。通常，最后一幀位于基礎層，這意味著它將被用于預測此GOP中存在的所有其他幀。因此，為了提供更好的預測，我們想為最后一幀分配更高的質量。
但是，如果我們錯誤地分配了GOP，例如，這里的最后一幀，如果它位于非常糟糕的位置，與其他幀之間相關性較低（比如GOP停止在場景更改的中間），那么即使我們此幀的重建質量非常高，也不會幫助到其他幀的預測。

2.1 Utilizing first-pass stats

從直覺出發，我們希望可以確定GOP的長度，使得最后一幀可以更好的預測其他幀。我們可以使用一些自適應方法來確定每個GOP應該多長以及最后一幀應該在哪里。在這里我們使用第一次編碼（first-pass）數據。liibom支持兩次（two-pass）編碼，它先將所有幀編碼處理一次，然后收集數據，再重新對所有幀進行編碼。第一部分很快，而第二部分才是真正的編碼——它使用所有從第一部分收集到的各種幀級別的統計信息。

在這里有三個第一次編碼數據的示例，分別是幀內編碼錯誤，一階編碼錯誤和二階編碼錯誤。幀內編碼錯誤意味著在從其他幀預測的情況下對該幀進行幀內預測而得到的平均誤差。一階編碼錯誤和我們前面提到的幀內編碼錯誤意義相似，只是我們不僅可以進行幀內編碼，還可以進行幀間預測，不過必須通過前一幀。這樣，該幀的最大平均預測誤差，就是一階編碼錯誤，二階編碼錯誤也非常相似。我們仍然可以使用幀內編碼或進行幀間預測，但是只能使用相隔兩幀的那一幀，這樣就得到了二階編碼錯誤。

擁有這些很多幀級別的特征和數據，我們要使用它們來確定GOP的長度。我們想從這些統計信息中，獲悉或者至少估計一下幀之間的相關性，以及其他一些我們關注的特征，并依此來分析第一遍的統計數據。

2.2 The hidden Markov model

這里，我們使用隱馬爾可夫模型（HMM）。該模型假設兩件事，首先，它假定基礎對象的亮度遵循馬爾可夫鏈。在此示例中，我們可以看這個球，此球沿著這樣的軌跡移動。沿著該運動軌跡，我們用xi表示在時間i的亮度。這個模型是一個回歸模型，但與自動回歸略微有所不同，因為ai會變化。對于xi來說，這是一個馬爾可夫鏈，因為你可以看到 x 在時間 i 的亮度，僅取決于 x 在時間 i-1 的亮度。在此條件下，它與以前所有的亮度都沒有關系，這就是馬爾可夫模型。

馬爾可夫模型已被廣泛用于對運動對象在運動軌跡上的建模。這里的ε是創新項（也就是新息），創新項代表xi無法從xi-1中預測的部分。例如，當光逐漸變化，或者物體在其表面上有一些細微的變化時，你將無法得到精確為 1 的相關性，而可能會得到0.95、0.98之類的值，以及這樣一個無法預測的創新項。這基本就是我們使用的馬爾可夫模型。

應用這里的馬爾可夫模型，我們進一步假設當觀察物體的亮度時，例如如下所示，捕獲每一幀視頻時將會捕獲到噪聲，那些噪聲并不依賴于創新項，實際上也與xi無關。它們只是捕獲時的加性噪聲。在這里用另一個隨機變量ni對表示這些噪聲。我們假設它是IID（獨立同分布）的白噪聲。這樣我們便得到觀察值yi?？梢钥吹?，因為噪聲的存在，在對事物進行編碼時我們根本無法直接得知xi，而只能訪問觀測值 yi。我們在這里得出的yi以及它背后的模型，這就是一個隱馬爾可夫模型，也就是指實際的馬爾科夫模型被這種噪聲隱藏了。

以上是一個隱馬爾科夫模型的非常簡單的示例，這就是我們對模型的假設。要注意有兩點非常重要，第一是一個重要參數ai。ai基本控制著幀之間的相關性，如果假設xi的方差不變，則ai就是xi和xi-1 之間的相關系數。從我們的出發點來看，我們希望能夠估測幀之間的相關性，ai能夠幫助我們借用此模型來估測。同時，我們也想了解噪聲有多大，從實際情況來看，噪聲的方差也很重要。

2.3 Optimal linear prediction error

我們能觀測到在任意的時間點i和j的觀測值yi和yj，并希望能夠估測ai和噪聲。為了能做到這一點，我們首先假設我們使用最優線性預測器，也就是用一個系數w乘以yj來預測yi。如果我們考慮最優線性預測的誤差，且使用先前的模型進行計算的話你最終會得到這個等式。此處顯示了最佳線性預測誤差e^i,j。這個等式是由幾個部分組成的。首先，你需要yi和yj的方差，以及從 j 到 i的ak，還需要該幀的噪聲的方差。有了這個方程式。回過頭來，我們將討論如何使用它來預測ai。

讓我們來看看，首先，知道在這個方程式中，實際上很多東西可以直接從第一遍統計數據中估算出來。
例如yi的方差，也就是觀察到的像素方差，可以用幀內編碼錯誤用以近似估計。其背后的原因是，當你進行幀內預測時，可以使用其相鄰像素預測該塊。然后從該塊中移除該預測，這與減去估算出的區塊平均值非常相似。這樣的話，則幀內編碼錯誤基本上就可以看作像素的方差。這并非完全準確，但非常接近。
其后，當j等于i-1時，我們是在從前一幀來預測當前幀。而這恰恰是我們所說的一階編碼錯誤的含義。同理，如果j等于i-2，最佳線性預測誤差就基本可以看作是二階編碼錯誤。因此，我們使用這三個第一遍統計信息來估測隨機變量的這三個特征。我們將獲得y的方差，e^i,i-1的方差和e^i,i-2的方差。

2.4 Estimate correlation from first-pass stats

如果假設所有這些都成立，同時再假設該鄰域中的噪聲方差不變，即nj的方差在該鄰域中保持不變，那么我們可以針對幀i，j寫出以下幾個等式。一個是從 i-1 預測 i，一個是從i -2預測i-1，還以一個是從i -2預測 i。也就是說我們關心這三個幀，以及其對應的三個預測?，F在，如果你寫下這三個方程式，你將會發現，實際上我們只有三個未知變量，即ai-1，ai-2，以及該鄰域中的噪聲方差。因而，基于這三個方程，我們可以很輕松地計算出這三個未知變量。算出之后，也就可以得到ai，aj，可以得到噪聲方差。到目前為止，基于此隱馬爾可夫模型，我們成功地僅通過第一遍的數據，就能夠通過幀鄰域來估測幀與幀之間的相關性以及噪聲水平。

2.5 Frame regions and GOP length decision

如果現在我們想使用分析出的相關性和噪聲水平，來決定GOP長度。首先要做的是確定幀區域的類型，幀可能處于穩定區域或不穩定區域中。
我們將不穩定區域分為三種：一種是高變化區域，它其中的幀會變化得較快；一種是場景切換，它會突然改變幀內容；還有一種是漸變區域，這經常出現在電影以及其他內容類型的視頻中，一個場景淡出的同時，另一個場景淡入。有了這四種類型的幀區域，首先我們要將每一幀分組到這些區域中。該分組使用前面分析第一遍統計數據得到的ai，噪聲水平和其他數據。

有了這些幀區域后，我們希望最終決定的GOP不包括場景切換，也就是不在一組圖片中改變場景。同時還希望該GOP的最后一幀找到處于穩定區域，這背后的原因是，如果它在穩定區域中，則意味著它可以很好地預測其相鄰幀。這是我們的首選，如果無法在穩定的區域中找到結束幀，我們將嘗試在高變化區域內找到相對穩定的幀。
同時，我們也要確保我們不會在漸變區域的中間放置最后一幀。因為通過使用雙向多參考，實際上可以很好地對漸變區域進行預測。如果我們將其切開，則意味著預測將變得比較難。因而，我們一般希望將漸變區域放入一個單獨的GOP中，而不想將它從中切開。可以看到，一旦我們得到所有幀區域，這些邏輯是很簡單的。

此處以流程圖形式展示以上的邏輯。在這里我不想再談得過于深入，但基本邏輯就如我們在這里所描述的這樣。

上圖是GOP長度優化的一個例子。這里展示了幀的編碼錯誤。這是我們標準測試集中的mobisode視頻序列。這些編碼錯誤顯示了它與前一幀相比發生了多大變化。
你可以看到直到第40幀左右為止它的場景都相當穩定。而在40幀這里實際上是一個場景切換，這是一個漸變場景——實際上視頻中的人正在慢慢打開燈，在它（場景）之后這兒又有一個漸變場景。之后一段時間內情況很穩定，然后，就在這里還有另一個漸變場景。之后它會稍微穩定一些，有點高變化，不過并不劇烈。這就是視頻序列的情況。

現在看這里的灰色圓圈，這些圓圈是最初由編解碼器在沒有此自適應GOP技術的情況下完成的GOP長度決策。可以看到實際上切割發生在了該區域的中間。而且就在這個漸變區域的中間，這并不是我們真正想要的。通過自適應方法得到的結果用黑色三角形表示，這是我們實際切割GOP的地方。
我們將最大間隙長度設置為20——而之前是固定為16。然后，如你所見，它選擇了最佳的切割位置，這是一個GOP，在這里附近切割。不過它沒有在漸變區域內切割，以及下在一個漸變區域之前就結束了當前GOP。對于這個序列，如果我們可以像這樣準確地切割GOP，我們會得到大約5%的增益，對于僅是更改GOP而言，這是相當大的。

如你所見，此方法可能相當高效，但這具體取決于視頻的內容。當然，如果視頻非常穩定，則無需在此處進行太多調整，也不會有太多增益。但是如果對于這樣具有某些特定特征的序列，你將獲得很大增益。標準測試集中我們能看到平均0.4%（已經比較大的）左右的增益，但是在用戶生成集中，我們看到的增益更大，約0.8%。因為對于用戶生成集而言，大多數視頻比標準測試集中的視頻更加不穩定，其中有的是通過一直晃動的手機拍攝的，有的是包含像場景剪輯、光線變化之類快速變化的內容。對于它們，自適應GOP方法可以提供更多幫助。以上就是有關libaom編碼器中的自適應GOP優化的內容。接下來我們要談談時域濾波。

3 時域濾波

3.1 Frame decomposition

首先我們需要提到AV1中的幀分解。AV1可將一幀分解為一個未顯示幀和一個覆蓋顯示幀。如此處所示，這仍然是我們的GOP。很多時候，GOP的最后一幀，或我們稱為ALTREF的幀，會被分解為兩幀，一個ALTREF和一個覆蓋幀。這里的想法是，我們將對ALTREF進行編碼。
然后，解碼器將解碼它，但不會顯示，只是將其保存在幀緩沖區中，并用以對其他幀進行預測。之所以要這樣做，是因為我們希望能夠對該幀進行某些處理，以便其可以為其他幀更好地提供預測。當我們完成了其他幀之后又回到了這一幀時，我們不直接顯示該幀，而是再添加一個疊加幀，以修正我們對該幀的處理，這便是覆蓋幀的作用。
綜上所述，我們有一個通常沒有顯示的替代參考幀ALTREF，根據ALTREF預測我們得到一個覆蓋幀，能夠修正前面的處理，并且顯示出來，這就是每個幀的分解。正如我提到的為了提供更好的預測，我們想對ALTREF進行處理，使其可以很好地預測其他幀，在libaom編碼器中可行的一種方法是使用時域濾波器。 3.2 Temporal filtering of a frame

那么，什么是時域濾波器呢？讓我們來看看，例如，對于某個像素，假設我要研究該像素的運動軌跡，正如我們前面提到的，運動軌跡存在觀察噪聲，而我們希望能夠濾除該噪聲。要做到這一點，我們對該軌跡上的像素進行平均，假設像素實際亮度沒有變化，但是存在噪聲，那么通過這種方式進行均衡，噪聲將有所減少，但像素原始值不會改變。這就是使用時域濾波器來降低噪聲的基本想法。
時間過濾包含了幾個步驟，第一步是通過運動估計及運動搜索來找到運動軌跡。如果我們可以為這些對象的像素塊在每一幀中尋找合適的位置，我們就可以對各個塊進行平均，以降低噪聲水平，從而達到預期的效果。然而，實際上，這并非易事，因為我們需要對所有對象求加權平均值，也就是說需要確定運動規矩上每個像素的權重。我們接下來會討論這一點。

出于實際考慮，首先，我們并沒有真正的運動軌跡，我們能做到的最好就是嘗試進行運動估計。而且由于我們只是在處理幀，無法真正執行非常好的運動搜索，而大多數時候只是使用一個快速的算法，因此我們獲得的運動軌跡的運動矢量并不總是準確的，甚至有時候很不準確。我們還需要注意的是，過濾后的ALTREF幀并不一定是其他幀中唯一可用的參考幀，它們也可以參考其他可用的參考幀。因此，僅將所有這些像素放在一起求平均可能不是一個好主意，因為某些幀不會用這個參考幀來預測。因而，我們需要慎重考慮設定權重。 為了確定權重，我們提出以下直觀原因，首先，如果我們找到一些塊的運動軌跡，我們在這個軌跡中找到對應的像素塊，然后將該塊與幀過濾源進行比較。如果這兩個區塊彼此之間差異太大，這意味著我們當前的運動矢量非常糟糕，或者我們觀測到來非常高的噪聲影響，兩者皆有可能。
如果發生這種情況，我們可能不想為該塊分配太高的權重，因為很有可能該塊并不會不使用ALTREF作為參考或運動矢量不好，我們也不想冒險。
因此我們使用一種稱為非局部均值的方法來計算塊差異，并確定我們要分配給該塊的權重，這是一方面。另一個直觀感受是我們想要降低噪聲，因此當噪聲水平較高時我們就傾向于使用更強的濾波。我們需要能夠估計噪聲水平，因而，我們在幀內有一個噪聲水平估計算法，一旦噪聲很高時，我們便使用更強的過濾器。這個噪聲水平估計及其影響也被并入我們的非本地均值方法之中。

總體過濾方案如下：首先，我們要確定要使用的相鄰幀的數量，這很重要，如果說有一個場景變換，或者說幀之間相關性不是很高，我們將使用更少的幀數。反之，當運動比較穩定時，我們可以使用更多的幀，因為假設運動矢量良好，使用更多的幀可以將噪聲控制在較低水平。
幀數一旦確定，對于想過濾的幀中的每個塊，我們先在相鄰幀中找到匹配的塊，然后使用非局部均值方法來確定這些幀中每個塊的相關權重，接著應用過濾器計算得到所有區塊的加權平均值。基本方法就是這樣，還有很多細節的內容我們這里不再作介紹。
從（這里引用的）文中你可以看到，在標準測試集上，這個方法得到了相當大的增益，約2.4%。因此，在給出更好的預測方面，這種時間過濾器實際上非常有效。以上是時間過濾器相關內容。 以上我們舉了兩個例子，GOP長度決策和時域濾波器。我們在libaom庫中還有很多其他的改進。 4 其他改進

首先是運動搜索模式，我們改為使用八邊形運動搜索模式。之前我們使用的是棱形或四角搜索，但是現在我們我們使用八邊形，它基本上是八點搜索模式，可以更好地適應復雜的角度。而且我們調整了采樣半徑，之前是2的次方，越遠，它越粗糙。但是現在我們對其作了一些微調，并借此獲得了一些增益。我們還要注意的另一件事是從最近的報告來看，似乎，復合運動搜索并沒有帶來先前預期的那般增益。
復合模式是我們有多個參考塊，然后將參考結合在一起以創建對該區塊的預測。大多數的時間它是雙向或單向的，我們注意到它并沒有像預期的那樣帶來可觀的增益，但是復合運動搜索模式實際上非常強大，它擁有各種模式來適應不同的條件。
所以，我們的確寄希望它會有更好的增益，這就是為什么我們最近正在重新設計復合模式的算法。這其中有很多速度方面的功能，現在我們正在嘗試重新設計它們。其中一些改變已經在代碼中了，并獲得不錯的增益效果。 另一個非常重要的事是碼率控制。目前，碼率控制是不易做到的一塊。AV1中的原始碼率控制方案比較復雜，我們試圖簡化，重新設計控制邏輯，而且也希望借此獲得更好的控制性能，我們不想犧牲任何東西。目前，有嚴格的碼率控制條件時，也就是當碼率控制非常準確時，與以前相比，壓縮性能比以前變得更好。我們仍在努力使得在某種程度上更寬松的控制情況下它能運行得更好。

這里展示了編碼性能的提高。這是使用VBR模式（可變比特率模式），速度0（這是最高性能），150幀，今年（2020年）9月與去年9月的對比，視頻序列可在此處網址上找到。我們測試了很多視頻序列，并計算了平均增益。對于480p的中分辨率視頻，PSNR的增益約為4-5%，SSIM的增益約為9%。
這是相當高的。對于720和1080p這類較高分辨率的視頻內容，我們的PSNR增益約為6.5%，而SSIM的增益約為11％至12％。考慮到AV1本身的性能要比vp9約好30％，這些都是相當不錯的增益，且僅基于編碼器優化。我們認為libaom庫的性能還有較大的提升空間，我們也將繼續為之努力。

我們還要提到VMAF，這是一項以主觀質量為目標的客觀質量指標。我們也有一個特定的調優模式，它有命令行選項。如果我們使用VMAF進行調優，我們大約能獲得30%到40%的增益，這是巨大的，但這是要通過先對視頻進行銳化然后運行所有編碼來達到的。
如果沒有經過預處理，我們將獲得大約5％的增益，在沒有經過銳化的情況下，這也非常可觀了。最近VMAF NEG模式也被提出，在這個模式下我們不過多地專注于預處理導致的影響。不過即使如此，我們的調優模式也可以使它獲得大約8%到10%的增益。因此，如果你關心VMAF指標，你可以嘗試一下libaom庫的這些功能。

還有一點值得注意的，是我們的文檔。libaom是一個非常大的代碼庫，為了可以促進開發者加入貢獻，也使其作為參考編碼器更容易理解，我們進行了優化文檔的工作。

首先，我們使用doxygen來從代碼注釋生成文檔。因此，你將獲得上層和重要函數的解釋和說明，這是可以在編譯時生成的。

此外，我們還添加了軟件開發人員指南，你也可以在代碼庫中找到（也需使用doxygen）。它包含一些重要的算法流程，例如GOP決策，時域濾波，TPL，碼率控制等。如果需要，你也可以參考它們。此外，我們也提交了關于AV1的更詳細的綜述論文，現在可以在此處的鏈接查看。

責任編輯：lq