#AI

M1 Max 64GBのMacでAnimaLoraToolkit + Anima-BaseのLoRA学習を試した。torch2.6.0ではMPSのSDPA実装が既知のPyTorchバグでクラッシュしたが、torch2.7.1に上げるとステップが最後まで進みLoRA保存・画像生成まで通った。SDXL(kohya-ss)で13回全敗した過去のMac検証との対比も書く。

Kimi K2やDeepSeek V4で採用が続くMuonオプティマイザを、Cosmos-Predict2系AnimaとSDXLのLoRA学習へ転用できるか実装前に整理した。DiTとU-Netの層振り分け、Conv2Dの扱い、LoRA二因子分解との相性の既存研究まで。

MCP史上最大級の仕様改訂を一次情報から整理し、新旧の最小サーバーを実際に書いてセッション廃止の違いをcurlで確かめた。MRTR・subscriptions/listen・Tasks拡張・認可強化まで、自前実装が受ける影響を追う。

Kimi K3は各MoE層で896エキスパート中16個だけを動かす。公開された技術レポートを基に、エキスパートを専門家ではなく条件付きFFN部品として読み直し、線形射影1本のルーターがなぜ経路を選べるのか、固定93層の先に何があり得るのかを整理する。

M4 Mac miniで週次再学習しているAIスロップ文検出器の点検記録。止まっていた分類、昇格ゲートを素通りした退行モデル、学習に乗っていなかった書き直しデータ、最新記事への空白発火を調べ、recall・誤検出・発火率の落とし所を決めるまで。

Claude Fable 5が87年未解決のヤコビアン予想の反例を生成したとAnthropicの数学者が発表した。ヤコビ行列式が定数−2のまま3つの点が同じ点に写ることを手元のSymPyで再現し、ヤコビ行列を知らない前提で1変数の微分から検証状況まで追う。

Qwenアンバサダー枠でQwen3.8 Max preview（2.4兆パラメータ）への早期アクセスをもらった。実際に呼び出して動作確認したところまでを記録する。

総パラメータ2.8TのMoEで100万トークンコンテキスト。発表時点で重みは未公開、7月27日までにModified MITで公開予告。KDA・AttnResなどのアーキテクチャ、ベンチマーク、API価格、推論トークン肥大の論点まで発表内容を整理した。

新しい事実を覚えさせると暗記は0.998まで届くのに、その事実を中継に使う2段推論は0.078。隠れ状態を中間層に移すだけで0.793まで戻る。Knowing–Using Gapの原因を層のズレとして示した論文（arXiv 2607.08393）を読んだ。

3キャラ合体LoRAに化粧オンオフ持ちの4人目(くらら)を追加、518枚(配分複製896)・rank256・約21.5時間で合体学習しep100を採用。AI生成マルチ素材の頭身インフレ実測と対策、エポック進行で起きるキャラ意匠の低率漏れと採用範囲の決め方、複数人ではmakeoffが効かない理由、プロンプト全指定で4人立ち・密着とも一発率6/6まで。

顔の造形は同一のまま化粧だけをオンオフする切り替えをキャラLoRAに焼き込めるか、Anima-Base+RunPodで3回学習して検証。無記述で焼き込んだ属性をタグで引き算する設計はcfg1.0で原理的に効かず、存在タグの足し算に転換して両方向の切り替えを達成(採用ep140)。RunPodのpod速度ガチャ対策も。

クモの概念をアリに書き換えると回答が8本足から6本足に変わる。モデル内部から発話前の概念を読み出すJ-lensの仕組みと、テスト中だけ行儀よくする演技の検出、Qwenでの追試まで論文の実験を追う。