循序分類於單層與多層網路節點成長之研究

Abstract

類神經網路以其平行化計算、分散式處理的特性及優越的容錯能力，而被廣泛地應 用在許多研究領域。在諸多類神經網路中，單層式網路(single-layer perceptron ) 和多層式網路(multi-layer perceptron)在監督性學習(supervised learning) 問題上最具有代表性和普遍性。然而無論將上述何者訓練成為分類器(classifier) ，都存在一些對分類不重要的節點(node)。雖然較大的網路通常有較快的學習速率 ，卻也相對地增加了學習後的辨識及再學習的計算複雜度(computational comple- xity) 。在本論文中，提出了一套建構於類神經網路上的循序分類 (sequential classification) 模式，利用循序分類在特徵數與正確率之間取得平衡之特性，動 態縮減網路及特徵數。同時，我們亦提出一套循序成長程序(sequential Growing Procedure)以縮減經由Back-propagation訓練好的單層式和多層式網路。 在實驗上，我們實作了"XOR" 及震測反射圖製識別的問題，以辨識率及網路大小所 達成的平衡來證明所提方法之實用性。而且，這些實驗的結果都相當不錯。