OpenAI今天發(fā)布了Microscope，這是一個(gè)神經(jīng)元可視化庫，從九個(gè)流行的或大量的神經(jīng)網(wǎng)絡(luò)開始。總而言之，該集合包含數(shù)百萬張圖像。Microscope可以像實(shí)驗(yàn)室中的顯微鏡一樣工作，可以幫助AI研究人員更好地理解具有成千上萬個(gè)神經(jīng)元的神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和行為。

Microscope的初始模型包括歷史上重要且普遍研究的計(jì)算機(jī)視覺模型，如2012年ImageNet挑戰(zhàn)賽冠軍AlexNet，AlexNet在研究中被引用超過50000次，還有2014年的ImageNet冠軍GoogleNet（又名Inception V1）和ResNet v2。每個(gè)模型可視化都有一些場(chǎng)景，圖像可以在OpenAI Lucid庫中使用，以便在Creative Commons許可下重用。

OpenAI在今早介紹Microscope的博客中說，它希望Microscope將有助于通過理解神經(jīng)元之間的連接來反向工程神經(jīng)網(wǎng)絡(luò)的電路協(xié)作工作。

除了Microscope下的神經(jīng)元可視化之外，近年來的一些工作還試圖可視化機(jī)器學(xué)習(xí)模型的活動(dòng)。Facebook的Captum于去年秋天推出，它使用可視化技術(shù)來解釋機(jī)器學(xué)習(xí)模型做出的決策；在2019年3月，OpenAI和谷歌發(fā)布了用于可視化機(jī)器學(xué)習(xí)算法做出的決策的激活地圖技術(shù)；還有一個(gè)流行的TensorBoard工具，用于訓(xùn)練機(jī)器學(xué)習(xí)模型時(shí)的可視化。

對(duì)于此次發(fā)布的Microscope，主要價(jià)值在于提供持久的共享工件以促進(jìn)對(duì)這些模型的長期比較研究，可以讓具有相鄰專業(yè)知識(shí)的研究人員（例如神經(jīng)學(xué)）能夠更輕松地處理這些視覺模型，這將對(duì)很多科技領(lǐng)域帶來一個(gè)提升。