『壹』 涓轟粈涔堝嵎縐紲炵粡緗戠粶闇瑕佸紩鍏ュ叏榪炴帴灞
鍗風Н紲炵粡緗戠粶闇瑕佸紩鍏ュ叏榪炴帴灞傜殑鍘熷洜鏄涓轟簡瀹屾垚鐗瑰緛鍒拌緭鍑虹殑鏄犲皠鍜屽垎綾匯
璇︾粏瑙ｉ噴濡備笅錛
1. 鐗瑰緛鎻愬彇涓庢槧灝錛氬嵎縐紲炵粡緗戠粶鐨勫墠鍗婇儴鍒嗕富瑕佺敱鍗風Н灞傘佹睜鍖栧眰絳夋瀯鎴愶紝鐢ㄤ簬浠庤緭鍏ユ暟鎹涓鎻愬彇鏈夌敤鐨勭壒寰併傝繖浜涚壒寰佺粡榪囧嵎縐鍜屾睜鍖栨搷浣滃悗錛屽凡緇忓寘鍚浜嗗浘鍍忎腑鐨勫叧閿淇℃伅銆備絾鏄錛岃繖浜涚壒寰佽繕闇瑕佽繘涓姝ュ勭悊鎵嶈兘鐢ㄤ簬杈撳嚭棰勬祴緇撴灉銆傚叏榪炴帴灞傛ｅソ鎵婕斾簡榪欐牱涓涓瑙掕壊錛屽畠灝嗗嵎縐灞傛彁鍙栫殑鐗瑰緛榪涜屽姞鏉冪粍鍚堬紝褰㈡垚鏈緇堢殑琛ㄧず錛屼粠鑰屽畬鎴愮壒寰佸埌杈撳嚭鐨勬槧灝勩
2. 鍒嗙被涓庤瘑鍒浠誨姟鐨勯渶奼錛氬逛簬璁稿氳＄畻鏈鴻嗚変換鍔★紝濡傚浘鍍忓垎綾匯佺洰鏍囨嫻嬬瓑錛屾渶緇堢殑杈撳嚭寰寰鏄涓涓鎴栧氫釜鏍囩俱傝繖浜涙爣絳劇殑鐢熸垚闇瑕佺綉緇滃圭壒寰佺殑鍏ㄩ潰瀛︿範鍜岀悊瑙ｃ傚叏榪炴帴灞傦紝鐢變簬鍏跺叏榪炴帴鐨勭壒鎬э紝鑳藉熸湁鏁堝湴瀵硅緭鍏ョ壒寰佽繘琛屾暣鍚堝拰鍒嗙被錛屼嬌寰桟NN鑳藉熸洿濂藉湴瀹屾垚鍒嗙被浠誨姟銆傚畠閫氳繃瀵圭壒寰佺殑鍏ㄩ潰瀛︿範鍜岀粍鍚堬紝涓虹綉緇滄彁渚涗簡鍐崇瓥鐨勪緷鎹銆
3. 璋冩暣鍜屼紭鍖栫綉緇滄ц兘錛氬叏榪炴帴灞傝繕鍙浠ュ府鍔╄皟鏁村拰浼樺寲緗戠粶鐨勬ц兘銆傞氳繃璋冩暣鍏ㄨ繛鎺ュ眰鐨勫弬鏁幫紝緗戠粶鍙浠ラ傚簲涓嶅悓鐨勬暟鎹闆嗗拰浠誨姟闇奼傘傛ゅ栵紝閫氳繃娣誨姞棰濆栫殑鍏ㄨ繛鎺ュ眰鎴栬呬嬌鐢ㄤ笉鍚岀殑榪炴帴鏂瑰紡錛岀綉緇滃彲浠ユ洿濂藉湴瀛︿範鏁版嵁鐨勫唴鍦ㄨ勫緥鍜屾ā寮忋
緇間笂鎵榪幫紝鍏ㄨ繛鎺ュ眰鍦ㄥ嵎縐紲炵粡緗戠粶涓璧峰埌浜嗚嚦鍏抽噸瑕佺殑浣滅敤銆傚畠涓嶄粎瀹屾垚浜嗙壒寰佸埌杈撳嚭鐨勬槧灝勶紝鑰屼笖浣垮緱緗戠粶鑳藉熸洿濂藉湴榪涜屽浘鍍忓垎綾葷瓑浠誨姟銆傞氳繃鏁村悎鍜屼紭鍖栫壒寰侊紝鍏ㄨ繛鎺ュ眰甯鍔╃綉緇滄洿濂藉湴瀛︿範鍜岀悊瑙ｆ暟鎹錛屾彁楂樹簡妯″瀷鐨勬ц兘銆
『貳』 為什麼全連接神經網路在圖像識別中不如卷積神經網路
輸入數據是n*n的像素矩陣，再使用全連接神經網路，那麼參數的個數會是指數級的增長，需要訓練的數據太多。
而CNN的話，可以通過共享同一個參數，來提取特定方向上的特徵，所以訓練量將比全連接神經網路小了很多。
『叄』 什麼是全連接神經網路怎麼理解「全連接」
1、全連接神經網路解析：對n-1層和n層而言，n-1層的任意一個節點，都和第n層所有節點有連接。即第n層的每個節點在進行計算的時候，激活函數的輸入是n-1層所有節點的加權。
2、全連接的神經網路示意圖：
3、「全連接」是一種不錯的模式，但是網路很大的時候，訓練速度回很慢。部分連接就是認為的切斷某兩個節點直接的連接，這樣訓練時計算量大大減小。