Hopfield網(wǎng)絡是最典型的反饋網(wǎng)絡模型，它是目前人們研究得最多的模型之一。Hopfield網(wǎng)絡是由相同的神經(jīng)元構(gòu)成的單層，并且不具學習功能的自聯(lián)想網(wǎng)絡。它需要對稱連接。這個網(wǎng)絡習以完成制約優(yōu)化和聯(lián)想記憶等功能。
BP網(wǎng)絡是反向傳播(Back Propagation)網(wǎng)絡。它是一種多層前向網(wǎng)絡，采用最小均方差學習方式。這是一種最廣泛應用的網(wǎng)絡。它可用于語言綜合，識別和自適應控制等用途。BP網(wǎng)路需有教師訓練。
Kohonen網(wǎng)絡是典型的自組織神經(jīng)網(wǎng)絡，這種網(wǎng)絡也稱為自組織特征映射網(wǎng)絡SOM。它的輸入層是單層單維神經(jīng)元；而輸出層是二維的神經(jīng)元，神經(jīng)元之間存在以“墨西哥帽”形式進行側(cè)向交互的作用。因而，在輸出層中，神經(jīng)元之間有近揚遠抑的反饋特性；從而使Kohonen網(wǎng)絡可以作為模式特征的檢測器。
ART網(wǎng)絡也是一種自組織網(wǎng)絡模型。這是一種無教師學習網(wǎng)絡。它能夠較好地協(xié)調(diào)適應性，穩(wěn)定性和復雜性的要求。在ART網(wǎng)絡中，通常需要兩個功能互補的子系統(tǒng)相互作用．這兩個子系統(tǒng)稱注意子系統(tǒng)和取向子系統(tǒng)。ART網(wǎng)絡主要用于模式識別，它不足之處是在于對轉(zhuǎn)換、失真和規(guī)模變化較敏感。
3．神經(jīng)網(wǎng)絡的學習規(guī)則
神經(jīng)網(wǎng)絡的學習規(guī)則可以粗略分成3類，這些類別分別如下：
第一類學習規(guī)則稱相關(guān)學習規(guī)則。這種規(guī)則只根據(jù)連接間的激活水平改變權(quán)系數(shù)。
常用于自聯(lián)想網(wǎng)絡，如Hopfield網(wǎng)絡。
第二類學習規(guī)則稱糾錯學習規(guī)則。這種規(guī)則根據(jù)輸出節(jié)點的外部反饋改變權(quán)系數(shù)。在方法上它和梯度下降法等效，按局部改善最大的方向一步步進行優(yōu)化，從而最終找到全局優(yōu)化值。感知器學習就采用這種糾錯學習規(guī)則．例如BP算法。用于統(tǒng)計性算法的模擬退火算法也屬于這種學習規(guī)則。
第三類學習規(guī)則稱無教師學習規(guī)則。它是一種對輸入測檢進行自適應的學習規(guī)則。
ART網(wǎng)絡的自組織學習算法即屬于這一類。
二、神經(jīng)網(wǎng)絡信息處理的數(shù)學過程
神經(jīng)網(wǎng)絡信息處理可以用數(shù)學過程來說明，這個過程可分為兩個階段；執(zhí)行階段和學習階段。下面以前向網(wǎng)絡情況說明這兩個階段。
