まずはこの5記事から

このブログには実験記もClaude活用記も混ざっているので、初めての方はここから読むのがおすすめです。上から順に読み進める必要はありませんが、この順番で読むと一番このブログらしさが伝わると思います。

1. ε-greedy法は人生に似ている、という話を実際に手を動かして確かめてみた

   このブログの基本フォーマット(技術を実験で確かめる+人生の教訓に結びつける)が一番わかりやすく出ている1本。ここから読むと他の記事の読み方も掴みやすい。

   

2. 「経験が浅いうちほど、ルールに頼った方がいい」を過学習の実験で確かめてみた

   たった15点のデータで多項式の次数を上げるとテスト誤差が40億まで爆発する、という数値のインパクトが大きい実験。

   

3. ランダムな200箇所から出発したら、勾配降下法は1つも正解にたどり着けなかった。焼きなまし法で局所最適解から抜け出す実験

   通常の勾配降下法は200箇所中0箇所、焼きなまし法は200箇所中200箇所が正解にたどり着いた回。差がはっきり出た実験ほど面白い、という好例。

   

4. Self-Attentionの「it」は本当に「animal」を見ているのか。QKVとスケーリング、causal maskを自分で実装して確かめてみた

   Transformerのself-attentionを自分で実装して、教科書の説明図が本当に成り立つのかを検証。技術的な踏み込みが一番深い記事。

   

5. 「前の経験は新しい挑戦の助けになる」を転移学習の実験で検証したら、そう単純ではなかった

   「転移学習が効くはず」という予想が外れた回。都合の良い結果に寄せず、意外な結果をそのまま書く、というこのブログの姿勢が一番出ている。