目前，大多數用于深度學習的構建塊、技術和體系結構都是基于實值操作和表示的。然而，最近對遞歸神經網絡和舊的基本理論分析的研究表明，復數可能具有更豐富的表示能力，也可能促進噪聲魯棒記憶檢索機制。盡管復雜值深層神經網絡具有吸引人的特性和開發全新神經架構的潛力，但由于缺乏設計此類模型所需的構建塊，因此它們已被邊緣化。在這項工作中，我們為復值深層神經網絡提供了關鍵的原子成分，并將其應用于卷積前饋網絡和卷積LSTM。更準確地說，我們依靠復雜卷積和現有算法實現復雜的批處理規范化、復雜值神經網絡的復雜權重初始化策略，并將它們用于端到端訓練方案的實驗。我們證明了這種復雜價值模型與現實價值模型具有競爭性。我們在幾個計算機視覺任務、使用MusicNet數據集的音樂轉錄和使用Timit數據集的語音頻譜預測上測試了深層復雜模型。我們在這些與音頻相關的任務上實現了最先進的性能。

?

　　最近的研究進展在解決學習深度神經網絡體系結構的困難方面取得了重大進展。關鍵創新包括標準化技術（IOffe和Szegedy，2015年；Salimans和Kingma，2016年）和基于門控的前饋神經網絡（如公路網絡）的出現（srivastava等人，2015年）。剩余網絡（He等人，2015a；2016年）已經成為一個最流行和最有效的訓練非常深的卷積神經網絡（CNN）的策略之一。公路網絡和剩余網絡都通過為較低的網絡層提供容易的梯度流的快捷路徑，從而減少了效率，從而促進了深層網絡的訓練。消失梯度的ECTS（Hochreiter，1991年）。He等人（2016）表明學習層的顯式殘差有助于避免消失梯度問題，為網絡提供了一個更容易的優化問題。批量規范化（IOffe和Szegedy，2015年）表明，通過小批量標準化網絡中中間層的激活可以作為一個強大的正則化器，并提供更快的訓練和更好的收斂特性。此外，這種標準化層輸出的技術在深層體系結構中由于漸變問題的消失和爆炸而變得至關重要。

　　基于復數的表示的作用已經開始受到越來越多的關注，因為它們有可能實現更簡單的優化（Nitta，2002年）、更好的泛化特征（Hirose和Yoshida，2012年）、更快的學習（Arjovsky等人，2015年；DaniheLka等人，2016年；Wistom等人，2016年），以及考慮噪聲魯棒記憶機制（Danielka等人，2016年）。Wistom等人。（2016）和Arjovsky等人（2015）表明，在遞歸神經網絡（RNN）中使用復數可以使網絡具有更豐富的表示能力。Danielka等人（2016）提出了一個LSTM（Hochreiter和Schmidhuber，1997）體系結構，該體系結構增加了具有復雜值內部表示的關聯內存。他們的工作強調了在檢索和插入關聯內存時使用復雜值表示的優點。在殘差網絡中，每個塊的輸出都被加到通過求和而累積的輸出歷史中，直到該點為止。一個有效的檢索機制可以幫助提取有用的信息并在塊內進行處理。

　　為了充分利用復雜表示的優點，我們提出了一個復雜值深神經網絡構造組件的一般公式，并將其應用于前饋卷積網絡和卷積LSTM的上下文中。我們在本文中的貢獻如下：

　　1.第3.5節中描述的復雜批次標準化的公式；

　　2.復雜重量初始化，見第3.6節；

　　3.比較第4.1節中介紹的不同的基于復值RELU的激活函數；

　　4.第4.2節介紹的MusicNet多樂器音樂轉錄數據集的最新成果；

　　5.第4.3節中介紹了TIMIT數據集語音頻譜預測任務的最新成果。

　　我們對我們的深層復雜網絡進行了健全性檢查，并在標準圖像分類基準（特別是CIFAR-10、CIFAR-100）上證明了其有效性。我們還使用了一組簡化的svhn，我們稱之為svhn*。對于與音頻相關的任務，我們在MusicNet數據集上執行音樂轉錄任務，在Timit上執行語音頻譜預測任務。對視覺分類任務的研究結果表明，學習復雜值表示可以獲得與實際值體系結構相競爭的性能。我們在音樂轉錄和語音頻譜預測方面的有希望的結果強調了深復值神經網絡應用于聲學相關任務的潛力1–我們繼續討論使用復雜操作和相關工作的動機。
?