タグ
#LLM
LLMに関する記事を公開しています。
Jev に偶数判定・正解の無い 3択・日本語の建前・危険なコマンドを判定させた実験集
確率だけを返す Jev は応答が速くコストも極めて低いため、if 文の代わりに使えないか、偶数判定・正解の無い 3択・日本語の建前・危険なコマンド・プロンプトインジェクションで実測しました。崩れたのは計算と正解の無い選択だけでした。
Jev が LLM の代わりに使えた処理と任せられなかった処理
TypeSafe AI の Jev は文章を生成せず、宣言した選択肢への確率だけを返す。自分の記事と問い合わせ文 8件で日本語の判定を実測すると、原因の分類や窓口の振り分けは英語とほぼ同じ確率で当たり、好みの判定は Jev も Sonnet も当てられなかった。
自動投稿 bot の設計を「ネタ→投稿」から「背景→投稿」に変えた
LLM で X に自動投稿する bot にテキスト投稿を足そうとして、「ネタの粒度」で機能を分ける設計を始め、書く前に破綻しました。bot を通す理由は「投稿を書くこと」ではなく「そのままでは投稿にならない背景を変換すること」で、境界線を「変換が要るか」の 1 本にしました。毎朝 GitHub の活動と PR 本文の「ハマったこと」欄を集めて Slack に提示する push 型に反転させ、返信がどのネタに届くか分からなくなった混線を 1 ネタ 1 スレッドで、状態機械の使い回しで生まれた競合を条件付き更新で塞いだ記録です。
実況 AI が一歩遅れるので語るのをやめて相槌にした
カメラの前でゲストが手元の対象を次々切り替える様子を実況する音声 AI は、対象ごとに語ると構造的に追いつけず常に一つ遅れました。実際の MC に寄せて基本は相槌、語るのは掲げた・止めた・声を上げたときだけにすると、高速な切り替え中も体験として成立しました。一方で検出器が「動きの山」しか見ておらず、止めて掲げた 20 秒間(差分 4〜8)を見逃し、静止イベントを足したら既存トリガーと二重発火して自己キャンセルが連鎖した経緯と、直列キューでの対処を記録しています。
OpenAI Realtime API に映像を流せないので 1fps の静止画で代用した
OpenAI の Realtime API には映像ストリームの入力がなく、音声実況 AI が 21 秒前の絵に反応していました。画像を「返事を求めない文脈」として 1fps で積み、「今切り替えるべき出来事か」だけを軽量な視覚言語モデルに一問で聞く設計に変えると、判定の中央値 1.7〜1.9 秒で手の動きを正しく棄却し、手元の実物の名前も当てました。検出 0.25 + 判定 1.7 + 発話 0.8〜1.9 秒の合計が人の動作と同じオーダーという限界と、次の一手まで含めた記録です。
OpenAI Realtime API の unknown_parameter で設定が全部消える
OpenAI の Realtime API で日本語のキャラクターを動かしていたら、設定に一行足しただけで英語の素のアシスタント(Hey there! What would you like to talk about)が出てきました。ベータ時代の名前 max_response_output_tokens が unknown_parameter となり、session.update が丸ごと拒否されて指示・声・VAD・転写言語がすべて初期状態に落ちていたのが原因です。session.updated を待ってから開始する、エラーは永続ログへ書く、計測にビルド SHA を記録する、という再発防止の記録です。
無言なのに AI が誰かと会話している原因は自分の残響だった
スピーカー運用の無言テストで、音声 AI が「なよぎら。」「そばランチ。」といった転写に返事をし、自分が言った単語が入力転写に現れていました。マイクの RMS は 0.001〜0.005 で静寂なのに、Web Audio API の自前再生はブラウザのエコーキャンセルの基準信号になりにくく、残留がサーバーの VAD に拾われて転写の幻聴と連鎖していました。ノイズゲートも VAD も「AI の声も声」なので効かず、再生と収音を WebRTC に預けて解決した記録です。
OpenAI Realtime API の response.cancel が効かない原因
OpenAI の Realtime API で発話を打ち切ろうと response.cancel を送ると response_cancel_not_active が返り、スピーカーからは前の話題が流れ続けました。モデルは 12 秒分の発話を約 2 秒で生成し終えていて、止めたかったのは生成ではなく再生でした。新しい応答が再生待ち行列の後ろに積まれて実況が一つ遅れる現象と、音が出る前の応答を打ち切ると出力ゼロの応答が連鎖する現象を、生成・送出・再生の 3 状態に分けて直した記録です。
LLM は喋っているのに音声が出ない原因は進行装置のフラッシュ
ライブ音声 LLM の上に番組進行の装置(状態機械・フェーズ転換・キュー注入)を被せたら、出力トークンは計上されているのにスピーカーから何も出なくなりました。原因は検出器の誤発火で 60 秒に 7 回フェーズが空転し、転換のたびに再生キューをフラッシュしていたことです。同じ条件でフラッシュを外すと発話が成立しました。制御を足すのではなく合図を引き算し、状態機械の責務をセッション寿命だけに縮めた設計の記録です。
検出器の精度ではなく誤検知時の体験で仕様を書く
リアルタイム AI アプリの動き検出で、精度チューニングが終わらない問題を精度を上げずに解決しました。検出結果の使い方を信頼度で二層に分け、低信頼側には疑問形の先走り反応しか許さない設計にすると、雑な検出器のまま出荷できます。64x48 のフレーム差分・約 30 行の実装で、音声実況 AI のシーン遷移がハンズフリーで 6 サイクル回りました。誤検知は早とちりというキャラクターの芸として体験に吸収されます。
システムプロンプトの禁止事項が効きすぎて出力が痩せる
映像を見て実況する音声 AI のシステムプロンプトに「見えていても知らないふりを通す」と書いたら、対象物の存在への言及まで消えました。「数字を数えない」と書いたら、目の前の個数の実況まで消えました。表層の語で書いた禁止は、モデルが安全側に過剰般化します。観察(可)と同定・評価(不可)のレベルに分けて対例つきで書き直すと、抑制の副作用が消えました。
Gemini Live API で turnComplete 後に音声が届かない
Gemini Live API の応答計測で、8 キュー連続で「転写あり・音声 0ms」という結果が出ました。原因は API ではなく、turnComplete 受信で収集を打ち切っていた自分の完了判定です。映像ストリーミング併用時は turnComplete が音声チャンクより 0.7〜1.3 秒先に届きます。turnComplete と音声途絶を合成した完了判定に直すと 8/8 で正常受信になりました。
SDK なしで Gemini Live API を WebSocket で直接叩く
SDK を使わず ws と https-proxy-agent だけで Gemini Live API(BidiGenerateContent)と話す計測プローブの材料一式です。setup からのメッセージシーケンス、24kHz PCM を WAV にして聴く方法、企業プロキシ+社内 CA 環境での接続、実測した接続時間とセッション原価まで載せています。
Gemini Live API の proactive audio は自発的に喋らない
proactive audio という名前から「AI が自発的に喋り出す機能」を期待して設計を組んだら、公式リファレンスの定義は「直前の入力への応答を拒否できる」、つまり黙る自由を与える機能で、向きが逆でした。自発的に喋るエージェントを作るならテキストキュー駆動が正解で、実測の初動 0.6〜1.0 秒で実用になります。2.5 Flash Live 系限定という制約も含めて整理しました。
Gemini Live API のセッションが突然切れる 3 つの制限
Gemini Live API のセッションが切れる理由は、セッション時間の上限・WebSocket 接続の寿命・ephemeral token の期限の 3 層に分かれていて、対処がそれぞれ違います。公式ドキュメントの数値を出典付きで整理し、GoAway が来ない切断への備えと、会話の切れ目まで粘ってから張り替える実装パターンをまとめました。
Gemini Live API にテキストを送っても音声が返らない原因
Gemini Live API に clientContent でテキストを送ったのに、音声もエラーも一切返ってこない症状の原因です。turnComplete: false で送ったテキストは 2 モデルとも 7 発話中 0 応答で、完全に無視されました。エラーが返らないぶん切り分けが難しく、対処は毎回 turnComplete: true で送ることです。3.1 系のドキュメント記載との食い違いも記録しています。
Gemini Live API の音声応答が 6 秒遅れる原因は thinking
Gemini Live API の native audio モデルで、テキストを送ってから音声が返るまでの初動が最大 6 秒かかっていました。原因はモデルの地力ではなく、思考モード(thinking)が既定で有効なことです。thinkingBudget: 0 を指定すると初動の中央値は 976ms、最悪値も 1.3 秒に収まりました。preview 2 モデルでの実測データ付きです。
AI エージェントを自走させるのはプロンプトではなくハーネス
AI コーディングエージェントの自律性を支えるのは長い指示書ではなく、成果物を機械的・決定的に合否判定する検証系(ハーネス)です。LLM は確率的、ハーネスは決定的というこの非対称を、決定的パイプライン・Claude Code の Hooks・ドメイン固有の検証プロトコル・観測とフィードバック・権限という5つの層に整理し、人間の介入点をどう絞るかを実運用の事実に沿ってまとめます。
Claude Code のチーム機能とサブエージェントの使い分け
「チーム機能はエージェント同士が P2P で連携できる。サブエージェントは親に報告するだけ。なら常にチームが上位互換では?」という直感に、両者の機構の違いから答えます。サブエージェント並列を実務で回している立場から、指示書が書けるか否かという一本の判断基準まで整理しました。