Foreword

Machine Learning一直是一個變化非常快速的領域,看每年NIPS、ICML的publication就知道,因為最近被問到,特此統整了一下一年多前還在研究ML的時候遇到不錯的資源,為了不跟其他能直接查到的說法有所重複,只放上自己有接觸過的跟一堆reference(笑)。

Online Courses

MOOCs

Machine Learning by Andrew Ng 不用說,這門是Cousera創辦人自己教的,唯一的小問題是他用Matlab/Octave交作業,算是非常入門的課

Artificial Intelligence by Dan Klein and Pieter Abbeel (2014) Lectures/Projects在此 這課超讚的有著名的pacman小作業(in Python),上課的老師一個是NLP神人一個是RL+Robotics巨擘

Udacity Data Science 系列 不是在業配(那裡面的內容都可以自學),可是我還是花了幾天把他的早期Georgia Tech的課程中ML的部分看了一下

Videos and Presentations

Machine Learning by Nando de Freitas at Oxford (2014-2015) 影片在此 這門課我在它publish的時候剛好看到,是DeepMind剛發跡的時候,所以裡面提到了很多新生代的research team xD

Advanced Topics - Reinforcement Learning by David Silver at UCL (2015) 影片在此 此人是Google DeepMind的Research Scientist,也是AlphaGo的first author之ㄧ

Books

General Introduction

The Elements of Statistical Learning by Trevor Hastie, Robert Tibshirani, Jerome Friedman (2009) Statistical Learning經典著作,無人能出其右

Pattern Recognition and Machine Learning by Christopher Bishop (2006) 這位是Microsoft Research來的神人,這本書強之處在於他跨越了ML的眾多領域,實為經典

Natural Language Processing with Python by Steven Bird, Ewan Klein, and Edward Loper 這本書是NLTK的官方教學,裡面有很多code example (雖然說這偏NLP而少ML... 至於CV...還沒空研究)

Deep Learning

Deep Learning by Ian Goodfellow, Yoshua Bengio and Aaron Courville (2016) 這是幾位Deep Learning大老一起寫的新書,介紹許多現今的研究方向

Reinforcement Learning (增強式學習)

Algorithms for Reinforcement Learning by Csaba Szepesvari (2015) 這本書不到100頁 算是很新的RL介紹 另外也有Sutton and Barto的Reinforcement Learning: An Introduction不過有點古早了

Tutorials

基本上是帶著寫code的教學

Scikit-Learn Tutorial 這是大家都在用的sklearn教學,非常淺顯易懂

Deep Learning

TensorFlow Tutorial 我之前跑過Theano/Torch的,我想這也大同小異 Orz

Keras 這是目前較流行(?)可以用tensorflow/theano作為backend的NN Lib,以前是Lasagne,他們都有眾多optimization算法實作(如果用Theano要自己寫)

UFLDL Tutorial by Stanford

Deep Learning Tutorials by LISA Lab 這是很好的intro,一步步從LR、MLP寫到CNN和RNN

Theano Tutorial by indico

Probabilistic Programming

這個領域我還沒接觸過 不過先列著

PyMC Tutorial PyStan

最近的NIPS Tutorial應該也可以上網找到,有許多大師前輩滿有趣的xD

剩下的資源請各位自行發掘,像是Free Machine Learning Books、上Github搜尋Awesome machine learning / deep learning / reinforcement learning都會出現很多tutorial/paper/lecture等等,足見社群力量之偉大