#LLM

M1 Max 64GBでOllama・llama.cpp・Magnitude・uzu・Localsの速度を比較。GGUFとMLXでの実効速度、投機的デコードの効果、並列リクエスト時のスケーリング差を実機で検証した。

StackChan用の音声チャットサーバーで、ModelScope経由のQwen3.8-Maxが「今日の東京の天気」に答えられなかった原因を調べた。内蔵の検索は動いていたが当日のデータが無く、関数呼び出しとddgs・気象庁の予報JSON・ニュースのRSSに置き換えた。前日夜の予報が混ざる問題や、「調べるね」で返事が終わる問題の直し方まで。

M4・16GBのMac miniでMiniCPM-V 4.7 35B-A3Bを検証。表画像の読み取りでは転記と計算の分離が有効で、thinkingやDSparkによる速度とメモリの変化も実測した。

M4 Mac mini上のDSHにModelScope経由でQwen3.8 Flash-NextとDeepSeek V4.1 Flashを接続。同じ不具合修正を3回ずつ実行し、テスト結果・変更ファイル・所要時間を記録した。

M4 Mac miniのAGYでGemini 4 Argonの提供状況を確認。GPT-6.1 SolとClaude Opus 5.5の価格・性能を、公式評価とCLIの小テストで比較する。

AWSがオープンソースで出したAIエージェント用ハーネス「Strands harness」を、公式ブログに埋め込まれたベンチマークの数値から同一モデル同士で比べた。LLMの差し替え方、既定で入っている機能、承認なしでシェルを実行する既定値の注意点も整理する。

Qwen3-EmbeddingとQdrantの長期記憶をStackChan用の音声チャットサーバーに組み込み、会話から事実文を自動で抜き出して後から聞き返すテストを音声で通した。ラーメンとギターは思い出せたが、箱根の予定だけは疑問符の全角と半角で判定が変わるほど、しきい値0.45すれすれのスコアだった。

ModernBERT、Qwen、拡散モデルで作られたJevクローン6種を比較。本文の計算共有、質問の分離、候補の採点方法から、Jevの挙動を説明できる部分と各方式の限界を確かめた。

TypeSafe AIのJevに技術記事の本文を原文・改行なし・記号なしの3形式で送り、LLM文体スコアやリズムの採点が入力形式でどう変わるかを実測テストした。さらに質問文を書くモデルをClaudeやGemini、Qwenに変えて判定の差も検証した。

Claude Fable 5.1が370年間未解読だった暗号を自律解読したとする報告に対し、大英図書館の原本調査で暗号文の不在や抽出の不可能性が判明した。解読成功と報じられた平文の正体と自律推論の検証課題を整理する。

TypeSafe AIが発表した判断特化型モデル「Jev」の料金体系、クローズドAPIの現状、自己回帰型Transformerや拡散言語モデルとのアーキテクチャの差、DOOM実証のコスト感を整理した。

LLMアプリケーションのプロンプトインジェクションはなぜ従来の脆弱性で扱えないのか。2024年11月にMITREが正式追加したCWE-1427の仕様をもとに、自然言語ストリームにおける指示とデータの非分離問題や攻撃形態、Dual-LLMやガードレールによる防御構造を整理する。