技術2026年6月8日(月)約17分LFM2.5 1.2B JP 202606をM1 Max 64GBで動かしたらデコード208tok/sでJSON守るがモデル名をハルシネーションしたLiquid AIのLFM2.5-1.2B-JP-202606をM1 Max 64GBで実測。llama.cpp/Ollama/MLXの3系統でデコード速度・JSON構造化・ツール呼び出し・会話のナチュラルさ・長文入力を検証した。Q4_K_Mで208tok/s、Q8_0で157tok/sだがモデル名ハルシネーションが消える差も出た。AILLMローカルLLMMLXOllamaApple SiliconエッジAI実験日本語LLM
技術2026年6月4日(木)約15分Gemma 4 12B UnifiedがVision Encoder 16層を行列積1回に置き換えたencoder-free設計Gemma 4 12B UnifiedはVision Encoderを持たない。E4Bの150M 16層Transformerが35Mの線形投影に変わり、パッチ間アテンションはLLM本体48層の双方向アテンションに吸収されている。Fuyu、EVE、Mono-InternVLの先行研究から、encoder-free設計が何を捨てて何で補っているかを掘った。AILLMGoogleGemmaマルチモーダルローカルLLM
技術2026年5月26日(火)約14分Hy-MT2 1.8BをM1 Maxで動かす、1.25bit 440MB版は標準llama.cppでまだ動かないM1 Max 64GBでHy-MT2 1.8B Q4_K_M (1.08GB) をllama-serverに載せ、JSON・SRT・HTML・用語拘束・少数言語まで投げて入出力を確認。1.25bit 440MB版は標準llama.cppでロード不可、30B-A3B (hy_v3) もMacの標準ルートで動かない。AILLM翻訳ローカルLLMHuggingFace量子化MoEオープンソースMacApple Silicon実験
技術2026年5月15日(金)約6分xAIのx-algorithm更新でXのFor Youフィードが手元で少し動かせるようになった2026-05-15のx-algorithm更新を確認した。Phoenixの実行パイプライン、約3GBのモデル成果物、Grox、広告混合が入り、1月公開版より検証できる範囲が広がっている。AIGitHubOSS機械学習LLM
技術2026年5月14日(木)約12分GTIGが初観測したAI生成ゼロデイ、OSSウェブ管理ツールの2FAをLLMが見つけたセマンティック欠陥でバイパス2026年5月11日にGoogle GTIGが公表した、攻撃者がLLMで生成したゼロデイの初確認事例。OSSウェブ系管理ツールの2FAバイパスを「ハードコードされた信頼仮定」のセマンティック欠陥として発見、Pythonエクスプロイトに残ったハルシネートCVSSスコアと教科書的構造が手がかりだった。APT45・UNC2814の周辺動向まで整理セキュリティAILLMゼロデイGoogle
技術2026年5月14日(木)約29分oMLX 0.3.9.dev2をM1 Max 64GBで実測、SSD KVキャッシュ・Gemma 4 VLM MTP・DFlash・omlx launch copilotM1 Max 64GBにoMLX 0.3.9.dev2を入れて、SSD KVキャッシュ2回目prefill短縮、Gemma 4 VLM MTPオン/オフ、DFlash vs 通常エンジン、omlx launch copilotの実動作を順に測る。VLM入力はWAI-Animaで生成したかなちゃん画像で揃えた。AILLMローカルLLMApple SiliconMLX推論最適化Codex実験
技術2026年5月13日(水)更新約7分oMLX 0.3.9.dev2はMacローカルLLMをCodexやCopilotに寄せてきたoMLX 0.3.9.dev2のリリースノートを読む。Gemma 4 VLMのMTP、DFlash対応、SSD KVキャッシュ、`omlx launch copilot`まわりが、Codex/Copilotなど常駐エージェントをMacローカルLLMに繋ぐ時にどこへ効くかを整理した。AILLMローカルLLMApple SiliconMLX推論最適化Codex
技術2026年5月11日(月)約5分OllamaのCVE-2026-7482は公開API化したローカルLLMのメモリを読むOllama 0.17.1未満のGGUFローダーに境界外読み取り脆弱性。公開API化したローカルLLMでは、環境変数、APIキー、system prompt、会話断片の漏えいまで疑う必要がある。Ollamaセキュリティ脆弱性CVEローカルLLMLLM
技術2026年5月9日(土)約6分Fortress Token OptimizerはLLM API送信前の冗長プロンプトを11%前後削るFortress Token OptimizerのDEV記事と実装周辺を確認した。会話調プロンプトでは11〜22%削れるが、system promptやRAG文脈で雑に挟むと意味のある制約まで削る危険がある。AILLMAPIAPIコストトークン管理
技術2026年5月7日(木)約7分Gemma 4 MTP drafterをM1 Max 64GBで実測、26B A4Bだけ速くなって31BとE4Bは遅くなったM1 Max 64GB + mlx-vlm 0.5.0でGemma 4 MTP drafterを実測。26B A4B (MoE) だけ+13%速くなり、公式が一番効くと言った31B DenseとE4Bは逆に遅くなった。コード生成と短文haikuで結論が反転する。AILLMGoogleGemmaローカルLLM推論MLX実験
技術2026年5月7日(木)約9分人間とLLMの共著テキスト境界を変化点検出で切るarXiv論文を読んで最小実装を試したarXiv:2605.03723の人間・LLM共著テキスト分割手法をM1 MaxとQwen3-8B-Baseで動かした。重み付きCUSUMは標準Pythonで動くが、生log-likelihoodだと人間文単独でも境界が量産される。AILLMAIセーフティ論文Python実験Qwen
技術2026年5月6日(水)約13分LLMを温かみのある応答にチューニングしても協調的ペルソナを与えてもユーザーの誤った意見に同意しやすくなるという2論文Oxford Internet Institute(Nature 2026採録)の温かさファインチューニング実験と、Shahら arXiv 2604.10733の275ペルソナ協調性実験を並べる。ファインチューニングでもペルソナでも、ユーザーの感情や誤信念を入れると同じ方向にモデルが倒れる。AILLMAIセーフティ論文紹介OpenAI