如何從普通程序員向人工智能靠攏實踐

　　說說我學習深度學習的經(jīng)歷吧，從開始學習到現(xiàn)在大概有4個月，只能算新手，剛好可以回答新手問題。

　　先說編程：自認會用C++， 熟悉Python

　　英語水平：中等，能很快讀懂英文科學文獻

　　最開始對人工智能/深度學習感興趣是因為想用它試一試自然語言生成，后來想到一個物理方面的題目，預計可以用深度學習技術(shù)解決，開始接觸深度神經(jīng)網(wǎng)絡。記錄一下學習歷程，

　　1. 安裝 Tensorflow(google 開源的深度學習程序)， 嘗試里面最簡單的例子MNIST 獲得激勵。

　　2. 之后嘗試通過讀書(看視頻)理解最簡單的全連接神經(jīng)網(wǎng)絡

　　先搜索找到答案：為什么要Go Deep?

　　(1)神經(jīng)網(wǎng)絡中輸入層，隱藏層，輸出層之間矩陣乘積的維度變化。

　　(2)Weight， Bias 這些是什么，改變它們有什么結(jié)果。

　　(3)激勵函數(shù)是什么，有什么作用，有哪些常用的激勵函數(shù)

　　(4)誤差如何向后傳遞，網(wǎng)絡如何通過最小化誤差函數(shù)更新，有哪些常用的優(yōu)化方法

　　以上這些在一本交互式電子書中可以找到答案：

　　Neural networks and deep learning

　　(5) 如何對權(quán)重正規(guī)化，L1, L2, BatchNormalization, (這些在以后真正應用的時候再看)

　　Deep Learning chapter 7 for L1, L2 regulation.

　　Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift (