什麼是 AlexNet?

AI人工智能詞彙表

什麼是 AlexNet?

什麼是AlexNet？

AlexNet是一種具有里程碑意義的深度卷積神經網絡（Convolutional Neural Network, CNN）架構，由亞歷克斯·克里澤夫斯基（Alex Krizhevsky）及其團隊於2012年提出，並在當年的ImageNet大型視覺辨識挑戰賽（ILSVRC）中奪冠。AlexNet成功地證明了深度學習模型在計算機視覺領域的強大表現，改寫了當時傳統影像識別方法的格局，極大推動了深度神經網絡的研究熱潮。

AlexNet的結構與設計特色

AlexNet共包含八層神經網絡架構，其中包含五個卷積層和三個全連接層。其主要結構和特點如下：

• 卷積層：
  前五層為卷積層，負責從輸入圖像中自動提取多層次的圖像特徵。第一層使用了較大尺寸的卷積核（11×11），並採用步長為4的卷積操作，大幅縮小特徵圖大小。後續卷積層多使用3×3的小卷積核加深網絡層數，使特徵更加豐富。卷積層後接ReLU激活函數，提升非線性表達能力。

• 池化層：
  在第二、第四和第五個卷積層後分別加上最大池化層（Max Pooling），以降低特徵圖空間尺寸並減少計算量，同時有助於控制過擬合。

• 全連接層：
  結尾部分有三層全連接層，前兩層各有4096個神經元，最後一層為1000個神經元，對應ImageNet資料集的1000個分類類別。全連接層使用dropout正則化技術，有效降低過擬合風險。

• 局部響應正規化（LRN）層：
  用於增強神經元對於對比度的敏感度，幫助網絡捕捉局部特徵。

AlexNet的技術突破

• ReLU激活函數的應用
  替代傳統的sigmoid或tanh函數，大幅加快了模型的收斂速度並提升性能。

• Dropout防止過擬合
  隨機丟棄部分神經元，減少神經元間的共適應性，提升泛化能力。

• GPU加速訓練
  利用當時罕見的GPU並行計算，使得深度網絡能在合理時間內訓練完成。

• 數據增強技術
  包括圖像隨機裁切、水平翻轉和顏色抖動，增加訓練數據多樣性。

AlexNet的影響與貢獻

AlexNet的出現不僅在2012年ImageNet比賽中以優異成績奪冠，更被認為是深度學習在計算機視覺領域的里程碑。它推動了卷積神經網絡的廣泛研究和應用，奠定了現代深度學習模式的基礎。許多後續經典網絡結構如VGG、ResNet等均在AlexNet基礎上進行改進，推動人工智能技術快速發展。

AlexNet的架構示意

AlexNet模型的經典架構流程可概括為：

輸入圖像（227×227×3） → 卷積層（11×11×3卷積核）+ ReLU → 池化層 → 多層卷積和池化 → 全連接層（含Dropout） → 輸出分類。

總結

AlexNet是第一個成功克服訓練深層神經網絡挑戰的卷積神經網絡模型，通過創新技術如ReLU、Dropout及GPU加速訓練，實現了在大規模圖像識別任務上的劃時代突破。它為深度學習在人工智慧應用上的廣泛落地鋪平了道路，至今仍被視為理解和學習深度神經網絡的重要基石，深刻影響著整個AI技術發展的歷程。