AI by Hand
Created Aug 22, 2024 - Last updated: Sep 16, 2024
由基礎學起真是一件令人感到頭痛的事，所謂基礎的東西，雖然重要，往往與實用有所距離，這種東西很難記入腦海中。
我在學習AI時就有這個煩惱，缺乏基礎，看論文就困難重重，很多東西看不懂，例如在看ControlNet時見到有一句：
If the weight of a conv layer is zero, the gradient will also be zero, and the network will not learn anything. Why “zero convolution” works?
完全搞不懂在問什麼
有時候甚至無法判斷內容是否重要，由數學開始重新掌握的路途又漫長到看不到盡頭⋯⋯
改變這情況的是一個叫做AI by Hand的網站，讓你手動進行AI基礎的計算，每一章就是一份習作。
說明不多，與實用也相距甚遠，但每一節emphasised text都有一個短目標 – 填上數字，這使得學習效率提升，我無需要考慮什麼場合用得上，決定要不要努力地去記憶，只需要把習作完成就是了，每次的目標也很短，輕鬆得很。
上傳到iPad的 Noteful ，在喝咖啡時拿上來慢慢計算，從別人眼裏或許就是個在玩數獨的大叔呢(已經沒人在玩了吧！？)。
不過Matrix計算做得多，就會產生強烈的厭世感⋯⋯最後我還是拿Matrix Calculator出來。
完成課題會有什麼成果？總算看懂了ControlNet那條問題在問什麼。
連結：AI by Hand ✍️ | Tom Yeh | Substack
分享：
