今天在找資料時發現了左岸的一個網站 :
仔細看原來是 Cambridge 出版的 "Dive into Deep Learning (2nd ed.)" 這本書的簡體版, 作者群為 Amazon 人工智慧專家, 第一版是用 Amazon 的 MXNet 框架實做的, 第二版改用 PyTorch (網站電子版還提供 JAX/TensorFlow 程式碼), 英文版紙本書天瓏書店有賣 :
Source : 天瓏
簡體中文版博客來有, 但似乎已賣完 :
Source : 博客來
此書看起來是電子版 Open Source, 因為全書內容都公布在網站上了, 英文版網址如下 :
書中範例程式碼也都可以在 GitHub 找到 :
我看了其中第 11 章的 Transformer 說明, 唉呦, 夭壽, 居然用 PyTorch 實作把 Transformer 架構講解得如此詳細 (例如 Q, K, V 的原理, 計算, 與圖解), 這就是我一直在尋找的 NLP 聖經啊! 我看完這一段的感想是 :
在注意力經濟時代, 注意力可不是免費的, 當你集中注意力在某件事物 (例如學習 NLP 或打遊戲) 上時, 你支付的是機會成本 (追劇或交女友); 在使用免費資源 (例如 YT 影片) 上, 如果你不想被廣告分散注意力, 那就得掏錢. 對於大腦的算力而言, 注意力是稀缺的資源, 必須將有限的資源放在重要的資訊上, 視覺與語音的理解特別需要注意力, 否則大腦根本無法負荷龐大的影音資訊流, 所以 Attention is all you need 所言不虛啊!
沒有留言 :
張貼留言