#LoRA

M1 Max 64GBのMacでAnimaLoraToolkit + Anima-BaseのLoRA学習を試した。torch2.6.0ではMPSのSDPA実装が既知のPyTorchバグでクラッシュしたが、torch2.7.1に上げるとステップが最後まで進みLoRA保存・画像生成まで通った。SDXL(kohya-ss)で13回全敗した過去のMac検証との対比も書く。

Kimi K2やDeepSeek V4で採用が続くMuonオプティマイザを、Cosmos-Predict2系AnimaとSDXLのLoRA学習へ転用できるか実装前に整理した。DiTとU-Netの層振り分け、Conv2Dの扱い、LoRA二因子分解との相性の既存研究まで。

3キャラ合体LoRAに化粧オンオフ持ちの4人目(くらら)を追加、518枚(配分複製896)・rank256・約21.5時間で合体学習しep100を採用。AI生成マルチ素材の頭身インフレ実測と対策、エポック進行で起きるキャラ意匠の低率漏れと採用範囲の決め方、複数人ではmakeoffが効かない理由、プロンプト全指定で4人立ち・密着とも一発率6/6まで。

顔の造形は同一のまま化粧だけをオンオフする切り替えをキャラLoRAに焼き込めるか、Anima-Base+RunPodで3回学習して検証。無記述で焼き込んだ属性をタグで引き算する設計はcfg1.0で原理的に効かず、存在タグの足し算に転換して両方向の切り替えを達成(採用ep140)。RunPodのpod速度ガチャ対策も。

RL限定だった単一層訓練の層局在（arXiv 2607.01232）をSFTで追試する。Qwen3-4Bの深さ25/50/75%を1層ずつフルランク学習し、同一データで再学習したLoRAベースラインと比較。eval_lossには論文と同じ中間層の局在が出たが、書き換えを実際に流すと数字と別の顔になった。

エンコーダ検出器が拾えなかった意味判定側の4割をQwen3-4Bに渡す。自ブログの修正ペア799件で書き換えまで学習させ、量子化して手元の8GB GPUと16GB Macで動かすまでの記録。

けい・かな・こはるの3キャラを1本のAnima(Qwen-DiT) LoRA(rank256・294枚)に合体し、学習を初めてBlackwell(RTX 5090, sm_120)で走らせた実機ログ。4090から差し替える環境スタック(cu128/torch2.8/SDPA)、最弱キャラがキャプション非対称で他キャラに吸収される原因と直し方、ControlNetなしでトリガーのみ＋ep143で密着3人を描き分けるまで。AnimaやQwen-DiTでマルチキャラLoRAを学習する人向け。

WAI-illustrious-HSWQ v17.0 baseをM1 MaxのComfyUIでWAI v17と比較。10step fastは約28〜34秒、20step qualityは約64秒で、Kana LoRAと背景の発色も試した。

AMIXA - Async's MIX ANIMAをanima-base-v1.0/JANIMAと同一プロンプトで比較。M1 MaxのComfyUIでAnima LoRA、2キャラ、Turbo/native背景を試し、base寄りの描画に明るい発色が乗るかを見た。

無料公開されたJANIMAとHexer Minimal Toon Anima版に自作の合体キャラLoRAを当て、anima-baseを基準にM1 Maxで全身・バストアップ・2キャラ・喫茶店シーンを比較。キャラ再現の最安定はキャラごとに入れ替わり、背景の描き込みはJANIMAが一番控えめだった。

LaxharのSenseNova U1 LoRA trainerのREADMEとSETUPを読んだ。4bit学習は画像崩れで断念しbf16 + tower offloadでVRAM約20GB、32GB GPU必須。公式8-step LoRAスタック構成とA3B MoE互換レイヤーの現状、公式training codeとの違いまで。

v1（rank64・単体データのみ）で残った2体接触の属性移りと融合を、rank128と2体学習データ20枚で焼き直して解消。膝乗せはDanbooruタグで成立。Anima(Qwen-DiT)でマルチキャラLoRAを焼く人向けの実機検証。