予想が外れた5記事から

このブログでやっているのは、よく聞くけれど自分で確かめたことのない話を、コードを書いて測り直すことです。やってみて分かったのは、予想が当たった実験はあまり面白くないということでした。教科書をなぞっただけになるからです。面白いのは外れたときで、どこに条件が付いていたのかがそこで分かります。そういう5本を選びました。上から順に読む必要はありません。

1. 囚人のジレンマで「しっぺ返し」は最強？ 手違いを入れて10戦略を比べた

   しっぺ返しは本当に最強？ 10戦略の総当たりでは4位だった。根に持つ戦略同士は、手違い1%で3点から1.525点へ。利得表と報復の図から、協調が続く条件を考える。

   

2. マンデルブロ集合の次元は2なのに、画像で測ると1.09になるのはなぜ？

   境界の次元は2と証明されているのに、画像で測った傾きは1.09。円とコッホ雪片で較正し、解像度や拡大位置を変えながら、数学上の次元と画面で測れるものの違いを追う。

   

3. Grokkingとは？ 訓練99%から27,400ステップ遅れて汎化した実験

   訓練99%からテスト90%まで、27,400ステップの差があった。53で割った余りを答える小さなモデルで、正解率が止まって見える間に何が変わっているのかを確かめる。

   

4. データリークとは？ 特徴選択の順番だけで乱数の精度が100%になった実験

   信号のない乱数から、交差検証の精度100%が出た条件がある。原因は特徴選択の順番。「検証したつもり」が壊れる仕組みと、Pipelineで直すコードまで読める。

   

5. FGSMとは？ 敵対的サンプルのノイズを強くしても、誤分類が増え続けなかった理由

   ノイズを強くすれば誤分類も増えるはず。ところが今回のFGSMでは、途中で反転率が下がった。「攻撃が失敗した」と「モデルが頑健だ」の違いを、2次元の図で読み解く。