📚Coursera: https://www.coursera.org/specializations/ai-product-management-duke
這份筆記整理結合了我的個人筆記與課程教材中的核心概念，期望能有效幫助大家更有系統化地掌握神經網路 (Neural Network) 與深度學習 (Deep Learning) 的要點：
一、 神經網路的基本結構與運作原理
- 基本結構：神經網路由多個層級組成，包含 輸入層 (Input layer) 、 隱藏層 (Hidden layer) 及 輸出層 (Output layer) 。
- 神經元 (Neuron/Unit)：模仿人腦神經元，接收多個信號後加總，若超過特定閾值則被活化並傳遞信號 。
- 權重與偏差 (Weights & Bias)：每個輸入特徵會乘以權重係數，並加上偏差值進行計算。
2. 運作原理：
- 前向傳播 (Forward propagation)：數據進入網路，經過加權計算與激活函數處理（如 Sigmoid, Tanh 或 ReLU），最終產生預測輸出。
- 激活函數 (Activation function) 作用：使用非線性激活函數能使網路更有力地模擬複雜的非線性關係。
二、 如何選擇合適的神經網路架構？
選擇架構取決於問題類型與數據性質：
- 圖像處理：優先選用 卷積神經網路 (CNN) ，其包含卷積層 Convolutional Layer（學習特徵模式）與池化層 Pooling Layer（減少數據維度）。
- 自然語言處理 (NLP)：常用於文本分類、情感分析及機器翻譯。
2. 設計決策：需考慮層數、每層的神經元數量、激活函數類型及學習率 (Learning rate) 的選擇。
3. 實務策略：
- 遷移學習 (Transfer learning)：與其從頭訓練，不如從一個已在大型數據集（如 ImageNet）上訓練過的模型開始，再針對特定任務進行微調。
- 延展褲法 (Stretch pants approach)：使用較複雜的模型並配合正則化技術來防止過擬合 (Overfitting)。
三、 訓練過程：反向傳播算法 (Backpropagation)
- 定義：這是一種訓練神經網路的技術，透過計算預測誤差並將其「反向」傳遞，來調整各層的權重。
2. 過程：
- Step 1. 前向傳播：計算預測結果。
- Step 2. 計算誤差：透過 損失函數 (Loss function) 衡量預測值與目標值的差距。
- Step 3. 更新權重：利用 隨機梯度下降 (SGD) 或其變體，朝著減少損失的方向調整權重。
3. 學習率 (Learning rate)：
- 太小：收斂速度極慢。
- 太大：梯度會震盪甚至無法收斂。
四、 數據挑戰：不平衡、不足與過擬合
- 影響：準確率 (Accuracy) 會變得不可靠。例如在心臟病預測中，即使模型盲目預測所有人健康，準確率仍可能極高，但卻完全失效。
- 解決：應參考 混淆矩陣 (Confusion Matrix) ，關注 精確率 (Precision) 與 召回率 (Recall) 等指標。
2. 數據不足與模型擬合：
- 過擬合 (Overfitting)：模型過於複雜（層數太多或特徵過多），導致其學習到數據中的噪聲而非一般規律，在新數據上表現不佳。
- 欠擬合 (Underfitting)：模型過於簡單（如線性模型處理非線性問題），無法捕捉數據中的模式。
- 應對：使用 交叉驗證 (Cross validation) 最大化小數據集的利用率，或使用 集成模型 (Ensemble models) 結合多個模型來降低變異性 (Variance) 並提高泛化能力。
五、 深度學習的特徵與性能評估
- 擅長處理 非結構化數據（影像、文本）。
- 黑箱特性：雖然預測強大，但難以解釋「為什麼」產生該結果 。
- 計算成本高：需要龐大的計算資源與電力。
2. 評估指標：
- 輸出指標 (Output metrics)：如精確率、召回率或損失函數值，用於技術性評估。
- 選擇依據：應反映「犯錯的代價」。例如：偽陽性 (False Positive) 還是偽陰性 (False Negative) 對診斷誤診或患者的後果可能有機會更嚴重。
六、 醫療與實體應用
- 影像診斷：從 X 光片中自動辨識肺炎等疾病。
- 預測模型：預測房地產價格、市場細分或識別欺詐行為。
- NLP 應用：電子病歷的資訊提取或自動翻譯。
💡 若在課程的練習中，被問及「結果指標 (Outcome)」與「輸出指標 (Output)」時，結果指標 Outcome 通常與實際業務或醫療影響掛鉤（如：降低死亡率、省下多少錢），而 輸出指標 Output 則是模型的技術表現（如：Recall 高低）。
希望以上的分享有幫助到您！如果喜歡也請多多拍手鼓勵我持續撰寫文章，謝謝😊