ローカルAI基盤 全記録と現在地 ― 水資源機構の業務で何ができるか

作成日:2026年11月17日/作成:武田(総合管理所 設備課 機械担当)
対象:水資源機構 社内(上司・同僚・PT・部門)

この端末(MacBook Pro)と Mac Studio で作ってきたローカルAIの、やったこと・できること・失敗したこと・今後を1枚にまとめた報告です。技術の正本は docs/design/ と docs/decisions/0001〜0131。本資料はその要約で、根拠は第12章の対応表と第11章の全件一覧から辿れます。
急ぎなら第2章(要約)と第3章(アプリ)と第5章(業務別)だけで足ります。


目次


第0章 この資料の前提

0-1. 何のための資料か

2026年8月末から、社内データを外に出さずに動くAIをこの端末で作ってきました。3か月で決定記録が131件、作業履歴が360件超たまっています。それを失敗も含めて整理し、「いま業務に何が使えるか」「この先どうするか」を報告します。

0-2. これはChatGPTのコピーではありません

作っているのは、特定のAIサービスそのものではなく、モデル(AIの頭脳)を入れ替えても残る業務資産を持った基盤です。残すのは次の5つで、すべてファイルとして手元にあります。

AIの頭脳は毎年新しくなりますが、この5つがあれば頭脳だけ替えて乗り換えられます。これが設計の軸です(正本:design/0001)。

0-3. 使っている機械

0-4. 読み方


第1章 用語ミニ辞典

用語意味
ローカルLLM自分の機械の中だけで動くAI。クラウドに送らない。
モデル(頭脳)AIの本体。大きいほど賢いが遅い。役ごとに使い分ける。
B(7B・26Bなど)モデルの規模。大きいほど賢く重い。70B超はこの端末では不可。
MoE大きくても一部だけ使って動く方式。大きさの割に速い。
グラウンディング(根拠接地)AIに勝手に喋らせず、手元の資料から根拠を引いて答えさせる仕組み。
知識グラフ業務知識を「1事実=1件」でため、関係でつないだもの。
一次資料コーパス青本や規程を、出典ページ付きで引ける検索庫。
青本国の積算基準書の通称。率や歩掛の根拠。
率・歩掛積算で使う割合や標準作業量。1円もずらせない。
検算ゲートAIの答えの数字が根拠にあるか機械で照合し、無ければ伏せる。
LibreOffice無料の表計算・文書ソフト。Excelの計算を代行。
OCR画像・帳票の文字を読ませる技術。
VLM画像を見て説明できるAI。いまは qwen2.5vl:7b。
Ollama端末でモデルを動かす土台ソフト。
MCPAIに道具(ファイル操作やgit)を使わせる標準規格。
コンテキスト窓一度に読める文章量の上限。超えると黙って切られる。
トークンAIが文章を数える単位。日本語1.5〜2文字で1。
tok/s1秒あたりの処理量。速さの指標。
think思考型モデルに思考させるかの設定。正解がモデルごとに違う。
同時常駐モデルをメモリに載せたままにすること。切替待ちが消える。
Tier(T0〜T3)自動化の許可レベル。端末内→自分の口座→社内読取→社内入力。
ハルシネーションAIがもっともらしい嘘(無い数値・無い出典)を作ること。

第2章 要約

何を作ったか

社内データを外に出さずに動く業務支援AIの基盤と、それを使うアプリです。会話・文書作成・画像/帳票の読取・調べ物・積算の検算まで、クラウドなしで完結します。非エンジニアの職員でも、ブラウザのチャット画面とファイルのドラッグ&ドロップで使えます。

いま業務で使えること(詳細は第5章)

Mac Studioで変わったこと

MacBook単体だと快適に動くのは14Bまで。10月26日にMac Studio(64GB)を大きい脳として足し、判断役と作成役の2モデルを同時常駐(約32GB)できるようにしました。これで役割の切替待ちがゼロになります。接続はVPN→SSHトンネルで、AIの入口はインターネットに出していません。

数字で言える到達点

外部公開の「構造推論力テスト(16問160点)」を独立採点した結果です。

構成点数(160点)
MacBook単体・素80
検査の仕組みあり105
Mac Studioの大きいモデル127
(参考)商用ChatGPT128
(参考)商用Gemini108
(参考)商用Claude159

フルローカルで、商用ChatGPTに並ぶ水準です(採点方法の注意は第7章)。

できないこと


第3章 作ってきたローカルAIアプリ(アプリの姿・使い方)

基盤(第8章)の上に、実際に日々使うアプリを作ってきました。入口は複数あり、どれも同じ脳(このMac)につながります。

3-1. 全体像

3-2. ブラウザのチャット(いちばん使う入口)

Claude風の画面で、非エンジニアでも使えます。起動は 00_チャットを開く.command をダブルクリック、またはコマンド ai web(http://localhost:8100)。

3-3. 声のアシスタント(相談/会議)

話しかけて使うモード。録音→文字起こし→思考→読み上げまで全部ローカルです(0094)。

3-4. ターミナル版と司令塔

キーボード派・まとめて開きたい人向け。

3-5. デスクトップアプリ・プロンプトライブラリ

3-6. 脳の選び方(ローカル⇄Studio)

3-7. 覚えておくと便利なコマンド

3-8. 直近でアプリに入った新機能(2026-11-16〜17)

3-9. UIの開発の歩み(どう作ってきたか)

最初はターミナル(ask.py→hanasu)。設計思想が「GUIより先にCLI」なので、一度ブラウザ版モニターを作ったが要望とずれてターミナルのモニターに戻した(0022)。

3-10. モデルの自動選択(おまかせ)

既定は「自動(おまかせ)」。左のモデル欄で手動選択もできる。

3-11. コンテキスト(長い資料をどう読むか)

「ファイルをテキストにできる」と「モデルが全部読める」は別、という発見から始まった。


第4章 これまでの経緯(時系列)

4-1. フェーズ1:立ち上げ(8月29日〜9月8日)

社内データを外に出したくないので、まず記録の正本をこの端末のテキストに一本化しました(0001)。同じフォルダがObsidianの閲覧用でありGitの履歴でもあります。Notionは共有時だけ清書する鏡に格下げです。

実装前に設計を点検しました(0003)。「32GBでは複数モデルを同時に載せられない」「監視画面を先に作っても中身が無ければ空」と分かったので、まず業務を1本通す順序にしました。最初の題材は防災精算QAです。

すぐ最初の失敗が出ました。按分計算を9Bに解かせたら、同じ回答の中で「24万」と「30万」の2つの答えを出しました(0007)。1モデルに全部やらせるのは危ない、計算は検算役を分ける、が分かりました。27Bに上げると一貫して正解しましたが、1回73.6秒と重い(0008)。コードを変えずにモデルを差し替えて比較できたので、「モデルは部品」が実証できました。

その後、機能を後から足せる仕組み(0009〜0010)、画像生成(0011、1枚約100秒)、受付ルーター(0013、挨拶5秒・再質問0秒・配賦22秒で正解)、負荷モニター(0014・0020〜0022)を作りました。速さはメモ即答と難易度振り分けで稼ぎました。

文書の取り込みで大きい失敗がありました。業務記録1.0MBを丸投げしたら、先頭0.6%しか読めておらず知識は0件(0025)。読み込みが途中で壊れていたのが原因です。分割して1つずつ取り込み名寄せする方式に直しました。あわせて「大きく重要な文書はClaudeが土台を整え、ローカルは差分を足す」の2層運用を決めました。

会社業務の本丸が0029〜0036です。

ほかに、長い設計書が上限8192で黙って切られていたのを自動拡張に直し(0035)、Web版の停止バグ(0037)、全形式の読み書き(0038)、順番待ち表示(0040)、計画→作成→検算のパイプライン(0041)、デスクトップアプリ化(0045)まで進めました。社内システム操作(RPA)は、安全と組織許可の境界を決めたうえで保留です(0043)。

このフェーズの要点は3つです。AIの「できた」を信じず検算する。黙って起きる欠落を見つけて直す。モデルが替わっても残るのは資産(ルール・知識・手順・検算)である。

4-2. フェーズ2:根拠で正しく答える(9月11日〜10月23日)

喋れるAIを、根拠に忠実な業務AIに鍛え直した時期です。

まず会社の実務知識を取り込みました。令和8年度の研修資料47件・5,772ページ・544万字を、暗記させず出典ページ付きで引ける検索庫にしました(0050)。暗記をやめた理由は、窓に入らない・年度改定で更新できない・モデル交換可能の思想に反する、の3つです。全ページ走査でも約20msで引けます。会社PCの学習層も、文字化けを直しながら取り込める器にしました(0048・0051)。既定モデルはgemma4:26b(大きい割に速い・256K窓・商用可)に替えました(0054)。

10月中旬に現場から不満が出ました。「積算を聞いても毎回“作る手順”ばかりで青本の根拠を持ってこない」(0074)。調べると、引く仕組みは正しく動いていました(0.16秒で第21章に当たっていた)。問題は読ませる配分で、手順書を厚く・根拠を薄く入れていたのが原因です。根拠を問う質問では配分を逆にしました。

この後、黙って壊れている箇所が次々に見つかり、その都度ふさぎました。

次は成果物の量と質です。モデルは放っておくと約3,500字で勝手に話を終えます(0080)。章ごとに分けて作らせ(0080)、長さは「章数×条数」で指示し(0083)、文書の相場は型(doctype)として資産に置きました(0084)。135分かかっていた長文生成は、絞り込みがWeb版にしか入っていなかったのを直して11.6分に(0082)。Word出力は実物の±25%に収まりました。

仕上げの品質はコードで締めました。採番の振り直しと検査(0085・0087)、章ごとの点検(0088)、出典のページ突合(0089)。ここでも「点検役は指示を足すほど悪くなる」という失敗があり(無限ループで22分を廃棄)、決定論で解けることはコードに、を裏づけました。モデルは速度では選ばず、実効窓と本番の長プロンプトで測る方針も固めました。MLX・RDMA・70Bは測って却下しています(0078)。

このフェーズの到達点は、積算(56表+製作据付の共通率+積算資料のたたき台)、防災精算(自動追記)、燃料発注(様式を保った見直し)、文書生成(特記・議事録・報告書のWord出力)、委員会資料(点数化と人の確認の分担)。方針は、AIは骨格・下書き・矛盾指摘、確定はコードと原本、最終判断は人。「分からない/要確認で空ける」が信頼の設計になりました。

4-3. フェーズ3:Studioを大きい脳に・評価・自動化(10月26日〜11月17日)

MacBook単体(32GB)は14Bまでで、モデルは1本しか載りません。そこでMac Studio(64GB)を遠隔ホストとして足しました(0093)。接続はVPN→SSH、MacBookは操縦席、Studioは頭脳です。リポジトリとモデル本体は物理的に分け、学びだけGitで本体に戻します。AIの入口はインターネットに出しません。

64GBで分かった一番の収穫は「大きい1個より、速い複数個」です(0090)。

次に賢さ以前の配管を整えました。小窓モデルの文脈あふれを予算で止め(0096)、思考モデルが本文を空で返す事故をthink設定で直し(0097)、青本を意味検索で関連章だけ引くように(0098)。答えの質はコードで担保しました。回答の率・表番号・ページを根拠に照合し無ければ伏せる検算ゲート(0120)、学習に機械の関門(0121)、遅さの原因だった読み込み直しの削減(0122)です。

安全と実用の境界も決めました。過剰拒否のときだけ、人の承認付きで無検閲モデルに切り替えます(0095)。ただし無検閲モデルは架空規程に条文を捏造するので、単体では使わず必ず根拠とセットです。

11月12日、「MacBookは窓口・脳はStudio」の二段構えが完成しました(0127)。SSHトンネルでAPIを公開せず、画面には脳の出どころ(ローカル=赤/スタジオ=青)を表示。単発応答は2.3秒です。同じ日に、トークン節約の仕組み(実測ログ・注意喚起・軽作業は安いモデルへ・テーマ=1セッション)を全セッション共通に広げました(0125・0126)。

11月13日に評価で実力を測りました(0128)。外部の構造推論テストを答え非開示で独立採点し、MacBook単体は80→105(検査あり)、Studioの大きいモデルで127/160。商用ChatGPT 128に並び、Gemini 108を超えました。教訓は4つです。

4-4. 直近の動き(2026-11-16〜17)

ここ2日でまとまった前進がありました。日付つきで残します。

11月16日

11月17日

このフェーズの軸は、測ってから決めること。却下した案(ネット公開・4体合議・自己点検・大窓への付け替え・全問一律修正・大型70B)も、理由と実測値つきで残しています。配管は完成し、残る天井はモデルの質・値のすり替え・組織許可です。

4-5. 並行:EachTeach(別アプリ)

同じ基盤の上で、個人情報を端末内で処理する学習アプリ「EachTeach」も並行で作りました(0057・0064・0099〜0117)。宿題アプリを入口に、講師紹介・信用偏差値・仲介型決済を備える構想で、Web版MVPを公開デモまで出しています。本資料の主題(水資源機構の業務)とは別テーマなので、「同じ基盤が別用途にも使える実例」として触れるだけにします。


第5章 いま業務で何ができるか(業務別・成果物つき)

凡例:[実証]=実物と突合済み/[納品]=実業務で納めた/[下書き]=たたき台まで/[要Windows]=一部は会社PCが必要。

5-1. 積算

5-2. 防災精算

5-3. 燃料発注

5-4. 文書生成(Office・ライセンス不要)

5-5. 運転日報・管理運転月報

5-6. 点検マニュアル・業務マニュアル

5-7. 委員会資料・議事録

5-8. 調達起案

5-9. 画像・帳票の読取

5-10. 調べ物・Web操作(公開情報)

5-11. 社内17業務セット


第6章 失敗と学びの一覧

失敗を「どこに構造的な穴があったか」まで記録しているのが、この基盤の強みです。

6-1. 静かな事故(エラーを出さずに壊れる)

6-2. AIを信じた失敗

6-3. 「直した」が片側だけ

6-4. 現場の様式を尊重する

6-5. 決定論で解けることはコードに

6-6. 速度と正確性

6-7. セットアップのハマりどころ(些細だが再発する)

6-8. 測って却下した案


第7章 Studioの到達点(評価スコア)

7-1. 採点方法の注意

評価は2系統あり、直接比較はできません。①自作の機械採点版(正本の答えキーで誰が回しても同じ点。0131で確立)、②外部テストv4をClaudeが独立採点した版です。②は当初、採点を手で付けており採点者(Claude)が最上位になる弱点がありました。これを認めて①の機械キーに移行済みで、保存答案での較正は機械132/手127(差は弁護できる項目のみ)。数字は「商用と戦える水準に来た」目安として読んでください。

7-2. 構造推論力テスト(自作・機械採点版、160点)

段階点数備考
素36
判断契約プロンプトのみ112安い工夫でここまで
下書き(N=3平均)136.7商用ChatGPT 128超
全文書き直し修正118.7逆効果
本番ハーネス・外科的編集144.7Claude 159に次ぐ

7-3. 外部テスト v4(答え非開示・独立採点、160点)

構成点数
MacBook(gpt-oss:20b)素80
全問修正89(逆効果)
検査の足場あり102
ガード付き v2105
Studio(書き手gemma4:26b・ガードv2)127(+22)

商用比較:Claude 159 > ローカル127 ≒ ChatGPT 128 > Gemini 108。伸びはすべて「察る・割り切り」に集中(Q11が0→8、Q16が4→10 など)。設計書・積算で効く判断力が、フルローカルで商用ChatGPT級に届きました。

7-4. モデルの総当り(11/16)

入りきる全モデルを16問160点で総当りした結論は「大きい=強い、ではない」。現行の中核(gpt-oss:20b/gemma4)が最良でした。NVIDIAの大型はBolt-74Bが141点で2位、nemotron:70bが134点と点は出ましたが、どちらも数十倍遅く昇格は見送り。点検役は実測で gemma4:26b→31b に昇格しました。

7-5. 配管の実測値(説明に使える数字)

7-6. 全モデル横並び(機械採点・単体WRITER・2026-11-17)

手元の全モデルを、同じ16問・同じ採点キー(assets/bench/kozo-answer-key.yaml・決定的)で、各モデル単体(ガード・合議なし)にWRITERとして解かせた結果(N=3平均)。

順位モデル/160100換算
1gemma4:26b139.086.9
2gemma3:27b108.767.9
3gemma4:12b105.365.8
4qwen2.5:14b100.762.9
5gpt-oss:20b99.762.3
6llama3.1:8b86.554.1
7gemma2:9b81.050.6
8ELYZA-JP-8B80.050.0

読み筋:

7-7. オーケストレーションの実測

7-8. MCPサーバー作成の失敗と対処

MCP=ローカルAIに道具(ファイル操作・git など)を使わせる標準規格。ここは作り直しが多かった。


第8章 設計の考え方(残る資産)

この基盤が特定のAIサービスに縛られないのは、価値をモデルでなくファイルの資産に置いているからです(正本:design/0001)。層は「利用者→観測CLI→統括→計画→知識グラフ/思考グラフ→能力→道具→モデル」で、モデルは一番下の交換可能な部品です。

正本はファイル、Obsidianは閲覧、知識マップは自動生成のミラー、Neo4jは検索エンジンで知識本体ではありません。頭脳を替えても、この資産がそのまま次の頭脳を動かします。コミットの本文からローカルが知識をためる仕組み(0060)もあり、コミットメッセージが学習の主信号です。


第9章 残っている制約・課題

9-1. 技術面

9-2. 組織・ガバナンス

9-3. 運用


第10章 現在地と今後

10-1. 現在地(2026年11月17日)

10-2. 今後やること

(A) すぐ進める(組織許可不要)

(B) 会社PC・社内で確かめる

(C) 組織の許可が下りたら

(D) 続ける


第11章 決定記録 全件一覧(0001〜0131)

1件ずつ「決めた/作った・成功・失敗や却下・業務価値」を圧縮して全件載せます。原文は docs/decisions/<番号>-*.md。EachTeach(学習アプリ)は別テーマなので簡略です。

A. フェーズ1:立ち上げ(0001〜0045)

B. フェーズ2:根拠付き回答と文書生成(0046〜0092)

C. フェーズ3:Studio頭脳化・評価・自動化(0093〜0131)


第12章 付録

12-1. 根拠対応表(テーマ→主な決定記録)

テーマ主な決定記録
設計思想・資産design/0001・0005/decisions 0001・0003・0005・0049・0051・0052・0059・0060・0067・0068・0121
アプリ(UI・入口)0016・0027・0028・0037・0038・0040・0045・0055・0094・0127
モデル選定・評価0006・0008・0012・0054・0063・0078・0090・0128・0131
根拠接地0074・0075・0076・0077・0079・0096・0098・0120・0121・0124
積算0031・0036・0050・0077・0091/成果物 outputs/積算デモ・千葉用水
防災精算0047・0118/成果物 outputs/防災精算_印旛房総
燃料発注0056/成果物 outputs/台風25号
文書生成(Office・PDF)0034・0071・0080〜0089
画像・帳票・音声0044・0092・0094
Mac Studio0090・0093・0127・0128/design 0005・0006
自動化・Tier・Web操作0043・0062・0129/design 0002・0004
17業務セット0123
調達起案0119/成果物 outputs/ローカルAI用PC購入
運用・トークン0004・0125・0126
EachTeach(別アプリ)0057・0064・0099〜0117

12-2. 使うコマンド(抜粋)

12-3. 注意

本資料は社内説明用の要約です。数値・固有名詞の最終確認は原典(decisions/各ファイルと成果物)に当たってください。個人情報・機密を含む生データは端末内のみで、外部共有時は個人情報を除いた清書を一方通行で行います。


第13章 社内連携と改善計画(別ノードとの比較・資産交換)

13-1. 背景

2026年11月17日、全記録を読んだ同僚(藤本さん。Windowsのチャット+Mac Studioで別のローカルAIを構築中。会社PCを2台目ノードにする計画=0068/0070の相手)から、Teamsで2件の連絡が来た。

※どちらの文も「そのまま貼れます」と付いており、AIが生成した文章の可能性が高い。主張として扱い、実物で確認する。

13-2. 受け渡し依頼への対応方針

受けてよい(資産が別ノードに移って両方が良くなるのは設計の狙い=0068/0070)。ただし次を守る。

13-3. 比較5点の評価(主張 → 実際 → こちらの対応)

藤本さん側の主張実際(本システム)こちらの対応
① 見本から型を学ぶ(見本+元ネタのペアから規則抽出)。あちらは相場(章数)の型だけdoctype(0084)は固定型。章立て推論はぶれたので固定にした経緯。ペア学習は0025に部分的にある取り入れる価値あり → 13-5①
② 黒塗りを実物で漏れ0件。あちらは「抜粋で黒塗り不要」の逃げ0092は根拠ある安全側(黒塗りの下に文字が残る失敗を実証済み)。「酒直」は本システムの事業で帰属は要確認抜粋方式は維持。検査は低優先で検討 → 13-5②
③ Windows Excel COMで.xlsm・図形を壊さず直接書ける。あちらは完結しない事実。ただしプラットフォーム差。会社PC(Windows)化で想定済み(0068)Windowsノード化で埋める(計画どおり)
④ やったふりを止める検査が文章と作業の両方に。あちらは数字照合だけ誤認。検算0120・関門0121・採番0087・点検0088・出典0089・ガード群0128と層が厚い既に強い。維持
⑤ 成果物が工事/年度/種別のファイル体系に入る。あちらは生成物/<事業>/だけoutputs/<事業>/・INDEX・命名規則・Downloads整理はあるが、工事台帳の階層は簡素取り入れる価値あり → 13-5⑤

13-4. 結論

13-5. 取り入れる改善(ロードマップ)

13-6. 進め方

今日(平日・走行中テストあり)は本章の記録と⑤の軽い準備まで。モデルを動かす①の試作と実測は、走行テスト終了後の土日/夜間に回す。改善を入れたら同じ機械採点(0131)で前後を測り、効果を数字で残す。


この資料は docs/全記録_ローカルAI基盤と水資源機構での活用_2026-11.md(正本)と、同名の .html(閲覧用)で保存しています。

公開URL(社内限定・noindex・URLを知る人のみ):https://mizu-report.pages.dev