Theano 已吹熄燈號

我這幾天在玩 Keras 時注意到它的預設後端引擎為 TensorFlow, 書上講說 Keras 可以選擇 TensorFlow 或 Theano 當張量運算引擎, 所以就想說要在哪裡更改引擎設定呢? 結果在搜尋 Theano 與 Keras 資料時找到下面這篇 :

# 【深度學習框架 Theano 慘遭淘汰】微軟數據分析師：為何曾經熱門的 Theano 18 個月就陣亡？  (此主機很慢, 要等很久)

哇咧, 我還沒開始要用 Theano 它就 GG 了?  確實, 維基百科的 Theano 項目中說加拿大蒙特婁大學機器學習演算法實驗室主任 Yoshua Bengio 教授 (Theano 的開發與維護者) 在去年宣布, Theano 自 2017 年 11 月 8 日升至 v1.0.0 版後就不再繼續開發了, 參見 :

# https://en.wikipedia.org/wiki/Theano_(software)

"Major development would cease after the 1.0 release due to competing offerings by strong industrial players. Theano 1.0.0 was then released on 15 November 2017."

主要原因是來自 AI 產業界其它有力競爭者所開發的運算框架性能勝過 Theano, 使得 Theano 繼續開發的意義不大, 只好吹熄燈號了. 在上面那篇文章中, 作者透過六項實驗比較了 Theano, ThensorFlow, MXNet, 與 CNTK 等框架效能, 發現 Theano 僅在 MLP 項目勝過 TensorFlow 與 CNTK 而已. 不過 Theano 開創的 Symbolic computational graph (符號計算圖) 概念, 卻是後進的 Keras, MXNet, TensorFlow 等框架的鼻祖.

Yoshua Bengio 曾待過 Bell Lab, 據說當時他的上司就是復興卷積神經網路 (CNN) 赫赫有名的 Yann LuCun (揚.勒丘恩, 臉書 AI 主導人物), 巧的是, 兩位大師都是法國人. Yoshua Bengio 寫過一本免費的 Deep Learning 的書 (MIT 出版), 我之前有下載過 :

# Goodfello, Bengio, Courville 的深度學習電子書

不過目前在 GitHub 已無法下載, 已經移到下列網站並按章節拆解掉了 :

# http://www.deeplearningbook.org (英文版)

中文翻譯可在 GitHub 網上閱讀 :

# https://github.com/exacity/deeplearningbook-chinese (簡體中文版)

參考 :

# 在Linux安裝CNTK作為keras的backend並與TensorFlow比較速度