人工神經網絡是一個機器學習系統(tǒng),它由大量被稱為人工神經元的連接節(jié)點組成。類似于生物大腦中的神經元,這些人工神經元是執(zhí)行神經計算和解決問題的主要基本單位。神經生物學的進展解釋了樹突狀細胞結構在神經計算中的重要作用,這導致了基于這些結構的人工神經元模型的發(fā)展。
最近發(fā)展起來的近似邏輯神經元模型(ALNM)是一種具有動態(tài)樹枝狀結構的單一神經模型。ALNM可以在訓練中使用神經修剪功能來消除樹過程中不必要的分支和突觸,以解決特定的問題。然后,簡化模型可以以硬件邏輯電路的形式實現(xiàn)。
然而,眾所周知的反向傳播算法實際上限制了神經元模型的計算能力。金澤大學電氣與計算機工程學院對應作者Yuki Todo表示:“BP算法對初始值敏感,容易陷入局部極小值。"因此,我們評估了幾種啟發(fā)式優(yōu)化方法訓練ALMN的能力."
經過一系列實驗,選擇了材料搜索算法作為最適合ALMN的訓練方法。然后,使用六個基準分類問題來評估ALNM在使用SMS作為學習算法時的優(yōu)化性能。結果表明,與BP等啟發(fā)式算法相比,短消息系統(tǒng)在準確性方面具有良好的訓練性能。收斂速度。
托多副教授說:“基于ALNM和短信的分類器也與其他幾種流行的分類方法進行了比較。"統(tǒng)計結果驗證了分類器在這些基準問題上的優(yōu)勢."
在訓練過程中,ALNM通過突觸修剪和樹突修剪程序簡化了神經模型,然后用邏輯電路代替簡化的結構。這些電路還為每個基準問題提供了令人滿意的分類精度。這些邏輯電路硬件實現(xiàn)的簡單性表明,未來的研究將看到ALNM和SMS被用來解決日益復雜和高維的實際問題。
標簽:
免責聲明:本文由用戶上傳,與本網站立場無關。財經信息僅供讀者參考,并不構成投資建議。投資者據(jù)此操作,風險自擔。 如有侵權請聯(lián)系刪除!