← タグ一覧に戻る「実践記」の記事一覧
じゃんけんのナッシュ均衡は1/3ずつと決まっている。学習させたら均衡から3,050倍遠ざかり、最後は手が完全に読めるようになった
実践記複雑系最適化
クイックソートに「並べ替え済みの配列」を食わせたら、比較回数がバブルソートと1回も違わなかった
実践記アルゴリズム
主成分分析で「累積寄与率80%まで残す」を実測したら、捨てた寄与率1.88%の成分だけで精度0.95が出た
実践記次元削減
「標本サイズ30あれば正規分布とみなしてよい」を7つの分布で実測したら、合格したのは1つだけだった
実践記確率・統計
ペンローズ・タイルは1,500通りの平行移動でも90.53%しか重ならなかった。周期格子は100%
実践記幾何・トポロジー
3つの国の国境が、どこを取っても3か国すべてに接している。ニュートン法の吸引域で「和田の湖」を実測した
実践記フラクタル・カオス
ヒルベルト曲線は「近さを保つ」と言われるが、平均で見ると行優先に負けた（155.6 対 128.5）
実践記フラクタル・カオスアルゴリズム
ランダムに撒いた400点を「自分の縄張りの重心」へ動かし続けたら、六角形の割合が31.4%から69.2%になった
実践記幾何・トポロジーアルゴリズム
ウラムの螺旋の斜めの線は本物だった。長い対角線の素数率39.28%に対し、ランダム対照200回の最大は15.46%
実践記確率・統計
「縞を作れ」と一度も書いていない式から縞が出てくる。チューリングパターンを実装して、拡散の速さを揃えたら模様は消えた
実践記複雑系
ラングトンのアリは9,976歩のカオスの果てに高速道路を作った。ただし盤が2%散らかっているだけで、30万歩でも作らなかった
実践記複雑系フラクタル・カオス
ローレンツアトラクタで「バタフライ効果」を測ったら、精度を10倍にしても予測できる時間は2.7しか伸びなかった
実践記フラクタル・カオス
ジュリア集合が「連結かどうか」を数えるだけでマンデルブロ集合が出てくる。ただし出てきたのはメインカージオイドだけだった
実践記フラクタル・カオス
「もっと経験を積む」は「型にはめる」に勝てるか。データ拡張と正則化を同じ15点で戦わせたら、正則化が0.895 vs 0.870で僅差の勝利だった
実践記機械学習
LLM-as-judgeは自分と同じ基準の回答をえこひいきするのか。3人格の審査員に採点させたらp<0.0001でボーナスが乗っていた
実践記自然言語処理
勾配消失を24層のネットワークで実測したら、sigmoidだけテスト精度0.49(当てずっぽう)まで崩壊し、勾配が15桁消えていた
実践記ニューラルネット
見せかけの回帰を実測: 無関係なランダムウォーク1万ペアの偽有意率は、n=50の67%からn=5000の97%まで上がり続けた
実践記確率・統計
宝くじ仮説の枝刈りをnumpyで自前実装したら、当たりくじの優位はスパース率98%から先だけだった(99%で62%対48%)
実践記ニューラルネット
次元の呪いをマッチングアプリで実験したら、無関係な質問1問で最良の相手が31位まで埋もれた(hit@1は100%→23%)
実践記次元削減
囚人のジレンマで「しっぺ返し」は4位だった。手違いが1%あるだけで、根に持つ戦略は1手2.42点から1.53点に落ちる
実践記複雑系確率・統計
モンティ・ホール問題を100万回まわしたら、司会者が中身を知らないだけで勝率が2/3から1/2に落ちた
実践記確率・統計
ライフゲームの初期密度を6倍変えても、行き着く密度は同じだった。違うのは「落ち着くまでの時間」だけ
実践記複雑系
マンデルブロ集合の境界は「2次元」だと証明されている。同じコードで測ったら1.09にしかならなかった
実践記フラクタル・カオス
パーコレーションの相転移を実測する。占有率1.5ポイントの差で貫通確率が0%から100%に跳ぶ
実践記複雑系確率・統計
gzipでテキスト分類(圧縮距離NCD+kNN)を73記事で追試——93.8%は出るが、文字数だけでも89.2%出た
実践記自然言語処理
「AdaBoostは過学習しない」は本当か。ラベルノイズ10%で1,000回回したらテスト誤差が2倍になった
実践記機械学習
特徴選択のデータリークを実測: 交差検証の外で選んだだけで、純粋な乱数から精度100%が出た
実践記機械学習
Hopfieldネットワークの記憶容量を実測。理論値141枚のはずが、文字パターンは3枚で崩壊した
実践記ニューラルネット
テセラクトの影で何が失われるか。4次元超立方体を2次元に潰したら、PCAがランダム射影200本の全部に負けた
実践記幾何・トポロジー次元削減
メビウスの輪にフタをすると「射影平面」になる。ボーイ曲面を実装したら、三重点がただ1つ現れた
実践記幾何・トポロジー次元削減
クラインの壺は4次元なら交差しない——と言われても信じられないので、4次元座標を持たせて実測した
実践記幾何・トポロジー
アンサンブルの「多様性」は本当に効くのか。seed違いの浅い多様性とbagging+幅の多様性を対決させたら不一致率が3.1倍だった
実践記機械学習
ランダム初期化のk-meansは47.5%が悪い局所最適解に落ちた。k-means++はわずか1%
実践記最適化
重みの初期化の標準偏差を0.01と1.5にしただけで、50層のMLPは活性化が10^61倍潰れるか10^45倍膨張した
実践記ニューラルネット
Simpsonのパラドックスを300人分シミュレーションしたら、グループ別r=0.55/0.82がプールでr=-0.20に反転した
実践記確率・統計
次元の呪いを実測したら、82倍あった最近傍と最遠点の距離比が300次元で1.21倍まで潰れた
実践記次元削減
敵対的サンプル(FGSM)を自作分類器に実装したら、εを2.5まで上げても反転率は45%で頭打ちだった
実践記ニューラルネット
VAEをtwo moonsでnumpyから実装したら、再構成で2つの三日月が1本のなめらかな曲線に融合した
実践記生成モデル
二重降下を実験で再現した。補間閾値でテスト誤差が76.8倍に跳ね上がり、そこから64分の1まで下がったが、シンプルな次数5モデルには最後まで届かなかった
実践記機械学習
「破局的忘却」を実際に起こしてみたら、Task A精度は0.9834から0.0000まで消えた。10%のリハーサルでも一度は9.9%まで沈んでから戻ってきた
実践記ニューラルネット
自分のブログ53記事をUMAPで並べてみたら、「実践記」と「Claude入門」はきれいには分かれなかった
実践記次元削減自然言語処理
ヒストグラムとKDEのビン幅/バンド幅を変えたら、双峰のデータが単峰に消えた
実践記確率・統計
多数決は実力差を消さずに増幅する。Condorcetの陪審定理を101人分シミュレーションしたら、p=0.55の集団は正解率0.84、p=0.45は0.16まで転落した
実践記確率・統計
学習率のwarmupは本当に訓練を安定させるのか。崩壊寸前のLRで20シード×3条件、実際に数えてみた
実践記ニューラルネット最適化
Dropoutは「暗黙のアンサンブル」なのか。同じパラメータ予算で本物のアンサンブルと殴り合わせたら、相関係数0.13だった
実践記ニューラルネット
ロジスティック写像で「バタフライ効果」を実測したら、r=3.9では1e-8の差が0.498/stepで爆発し、r=2.8では起きなかった
実践記フラクタル・カオス
点群の法線をPCAで求めたら37%が裏返っていた。スタンフォードバニーでMST伝播による向き揃えを試す
実践記幾何・トポロジー画像処理
自分のブログ49記事でミニGPTを学習させたら、「位置エンコーディング」と「.envを呼ぶ」を書き出した
実践記自然言語処理
Grokking: 訓練精度が満点になってから27,400ステップ、何も起きなかった。そこから突然「わかった」
実践記ニューラルネット
メビウスの輪には裏表がない。次元削減で平らに広げたら、どこかを潰すしかなかった
実践記幾何・トポロジー次元削減
日本語はなぜトークン代が高いのか。BPEを一から実装して測ったら、「3倍高い」は言い過ぎだった
実践記自然言語処理
Q学習で迷路を解いたら、報酬が出口から逆向きに染みてきた。そして崖っぷちを攻めるQ学習と、遠回りするSARSA
実践記強化学習
カーネルトリックを実装したら、正解率0.57のドーナツ型データが3次元に持ち上げるだけで1.00になった
実践記次元削減
生成モデル三国志、最後の流派。Normalizing Flowをnumpyで一から実装したら、一番静かに学習が終わった
実践記生成モデル
シェルピンスキーの三角形は何次元か。「1.58次元」を自分のコードで実測する
実践記フラクタル・カオス
ε-greedyの後悔は直線で伸び続けた。UCBとThompson samplingを競走させたら395対185対79
実践記強化学習
三つ葉結び目は、t-SNEにほどけるのか。Isomapが完璧にほどき、たった1本の偽のつながりで壊れた
実践記幾何・トポロジー次元削減
ニューラルネットは陰陽を学べるか。450エポックの間、目玉の正解率は0%だった
実践記ニューラルネット
スペクトラルクラスタリングで絡まった2つのリングを分けたら、k-meansはARI 0.08で壊滅した
実践記次元削減
多様体学習(Isomap)は穴あきスイスロールで壊れるのか。「数字は無事なのに、地図は歪む」を見た
実践記次元削減幾何・トポロジー
焼きなまし法でDatasaurusを再現したら、平均も分散も相関も同じまま恐竜がサーモンに変わった
実践記最適化確率・統計
焼きなまし法(シミュレーテッドアニーリング)と勾配降下法を200箇所から競走させたら、勾配降下は0箇所しか正解に届かなかった
実践記最適化
「経験が浅いうちほどルールに頼るべき」は本当か。15点のデータで多項式の次数を上げたら、テスト誤差が40億まで爆発した
実践記機械学習
「前の経験は新しい挑戦の助けになる」を転移学習で検証したら、まっさらから学習したほうが速くて正確だった
実践記機械学習
完全なノイズから、三日月形が本当に浮かび上がってくるのか。拡散モデル(DDPM)を自分で実装して確かめてみた
実践記生成モデル
GAN(敵対的生成ネットワーク)を一から実装したら、損失は理論値に収束したのに生成分布は最後まで揃わなかった
実践記生成モデル
SGD・Momentum・RMSprop・Adamを同じ谷で競走させたら、1位はMomentumだった。「Adamが最強」は成り立たなかった
実践記最適化
Self-Attentionにとって文はただの「単語の集合」だった。位置エンコーディングを実装して、順序という情報がどう埋め込まれるかを確かめてみた
実践記自然言語処理
くるくる巻いたデータを、PCAは平らにできなかった。多様体学習(Isomap)がスイスロールを"展開"する様子を見てみた
実践記次元削減幾何・トポロジー
「たまには冒険したほうがいい」を多腕バンディットで測ったら、最適な選択を引けた割合が35.95%から79.31%まで変わった
実践記強化学習
画像の「形」を担っていたのは振幅ではなく位相だった。フーリエ変換で低周波と高周波を切り分ける
実践記画像処理
「脳とニューラルネットは似ている」を実装で確かめたら、精度は同じままヘブ則の重みだけが2万3000倍に発散した
実践記ニューラルネット
Self-Attentionの「it」が「animal」を見る、あの図は学習済みの射影行列がないと成り立たなかった
実践記自然言語処理
31×31の行列を画像の上で動かすだけで、縦線と横線への反応が7009対3547に分かれた。ガボールフィルタを実装する
実践記画像処理
VLMにBBoxをSFTすると、モデルは一体何を学習しているのか？
実践記自然言語処理画像処理
「CLAUDE.mdに全部書く」をやめてみた話 — SkillとHookで自動化した実例
実践記Claude Code
AIを使うと思考力が落ちる？その不安との向き合い方
実践記
Claude Codeに、記事へ自動で画像を生成させる仕組みを作ってもらった話
実践記Claude Code
AIコーディングアシスタントに.envを読まれると何が起きるか、実際に検証してみた
実践記セキュリティ
生成AIの「ハルシネーション」に要注意：モデル調査で実際にあった3つの間違い
実践記ハルシネーション