1943 年， 心理學家W.S.McCulloch 和數理邏輯學家W.Pitts 建立了神經網絡和數學模型，稱為MP 模型。他們通過MP 模型提出了神經元的形式化數學描述和網絡結構方法，證明了單個神經元能執行邏輯功能，從而開創了人工神經網絡研究的時代。1949 年，心理學家提出了突觸聯系強度可變的設想。60 年代，人工神經網絡的到了進一步發展，更完善的神經網絡模型被提出。其中包括感知器和自適應線性元件等。M.Minsky 等仔細分析了以感知器為代表的神經網絡系統的功能及局限后， 于1969 年出版了《Perceptron 》一書， 指出感知器不能解決高階謂詞問題。他們的論點極大地影響了神經網絡的研究， 加之當時串行計算機和人工智能所取得的成就， 掩蓋了發展新型計算機和人工智能新途徑的必要性和迫切性，使人工神經網絡的研究處于低潮。在此期間， 一些人工神經網絡的研究者仍然致力于這一研究，提出了適應諧振理論（ ART 網）、自組織映射、認知機網絡，同時進行了神經網絡數學理論的研究。以上研究為神經網絡的研究和發展奠定了基礎。1982 年，美國加州工學院物理學家J.J.Hopfield 提出了Hopfield 神經網格模型，引入了“計算能量”概念，給出了網絡穩定性判斷。1984 年，他又提出了連續時間Hopfield 神經網絡模型，為神經計算機的研究做了開拓性的工作， 開創了神經網絡用于聯想記憶和優化計算的新途徑， 有力地推動了神經網絡的研究， 1985 年，又有學者提出了波耳茲曼模型，在學習中采用統計熱力學模擬退火技術，保證整個系統趨于全局穩定點。1986 年進行認知微觀結構地研究，提出了并行分布處理的理論。人工神經網絡的研究受到了各個發達國家的重視， 美國國會通過決議將1990 年1 月5 日開始的十年定為“腦的十年”， 國際研究組織號召它的成員國將“腦的十年”變為全球行為。在日本的“真實世界計算（ RWC ）”項目中，人工智能的研究成了一個重要的組成部分。