壁紙アプリの広告まわりのコードを、新幹線の車内で直そうとしたことがあります。トンネルに入るたびに回線が切れ、クラウドの LLM は返事を途中で止めてしまいました。コードの断片を外に送ることへのためらいも、同じ頃から少しずつ膨らんでいたのです。
そこで、手元の iMac で LLM を動かし、Antigravity から呼び出す構成を整えました。最初にお伝えしたいのは、ローカル LLM はクラウドの代わりではなく、使い分ける相手だということです。最初のうち、私は全部をローカルに寄せようとしすぎました。結果は芳しくなく、重い設計相談は手元のモデルだと浅い答えしか返らず、かえって時間を溶かしました。
ここでは、Ollama を入れて最初の 1 往復を通すまでと、Antigravity 側の接続、つながらないときの切り分けを順に書き残します。
先に決めておきたい線引き
導入の前に、何をローカルへ任せ、何をクラウドに残すかを決めておくと迷いません。私はいまこう分けています。
- ローカル:コード補完、コメントやコミットメッセージの下書き、機密に近いコードの読み解き、回線のない場所での作業
- クラウド:複数ファイルにまたがる設計の相談、長い調査、品質をいちばん優先したい生成
手元で済む作業は手元で、迷う作業はクラウドで。 この一文を決めてから、設定で悩む時間がはるかに減りました。
ランナーの選び方
ローカルで LLM を動かすソフトを「ランナー」と呼びます。私が実際に触れたのは Ollama と LM Studio の 2 つです。LocalAI は Docker 前提の構成で、個人開発の手元環境では出番がありませんでした。
| ランナー | 導入のしやすさ | GUI | 向いている場面 |
|---|---|---|---|
| Ollama | コマンド数行 | なし | 常駐させて、エディタやエージェントから呼び出す |
| LM Studio | アプリを入れて画面で操作 | あり | モデルを見比べながら試す |
| LocalAI | Docker の知識が必要 | なし | サーバーやコンテナ環境で複数モデルを束ねる |
Antigravity から呼ぶ用途では、バックグラウンドで常駐してくれる Ollama がいちばん扱いやすいと感じています。LM Studio は、モデルの手触りを確かめる試運転に使っております。
Ollama を導入する
公式サイト(ollama.com)から、お使いの OS 向けのインストーラーを入れます。macOS なら Homebrew でも導入できます。
# macOS(Homebrew)
brew install ollama
# Linux
curl -fsSL https://ollama.com/install.sh | shWindows は公式のインストーラーを実行すれば、バックグラウンドサービスとして自動で起動します。
モデルを取得して動作を確かめる
モデルは ollama pull で取得します。最初の取得は数分から十数分かかるので、回線の良い場所で行ってください。
# 例:コード向けの小さめのモデルを取得
ollama pull qwen2.5-coder:7b
# 取得済みのモデルを確認
ollama listモデル名は入れ替わりが速いため、取得前に Ollama のモデルライブラリで現在の名前とサイズを確かめてください。上の名前は一例です。
サーバーが動いているかは、次のコマンドで確認します。
curl http://127.0.0.1:11434/api/generate \
-d '{"model": "qwen2.5-coder:7b", "prompt": "1 から 5 までの合計を返す関数を書いて", "stream": false}'JSON で返事が戻れば、ローカル側の準備は終わりです。Ollama は初期設定で 127.0.0.1:11434 を待ち受けます。
Antigravity が呼ぶのは次の節で指定する /v1 側なので、そちらの道も先に確かめておくと安心です。
# OpenAI 互換のモデル一覧
curl http://127.0.0.1:11434/v1/models
# OpenAI 互換のチャット
curl http://127.0.0.1:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "qwen2.5-coder:7b", "messages": [{"role": "user", "content": "こんにちは"}]}'ここで返事が戻らないなら、原因は Antigravity の設定ではなくローカル側にあります。私は一度、/api/generate だけを確かめて安心し、/v1 の確認を飛ばして半日を使いました。
Antigravity から呼び出す
ここが、私が最初に手間取ったところです。Antigravity の設定画面の名前や並びは、版によって変わります。次の手順は一例としてお読みいただき、実際の画面と照らしてください。
- 設定から、使用するモデルや接続先を扱う項目を開きます。
- カスタムのプロバイダー(または OpenAI 互換のエンドポイント)を追加します。
- エンドポイントに
http://127.0.0.1:11434/v1を、モデル名にollama listで表示された名前を入力します。 - API キーは使いませんが、入力を求められる場合は任意の文字列で通ることが多いです。
- 接続テストを実行し、返事が戻ることを確かめます。
エンドポイントは、/api/generate ではなく OpenAI 互換の /v1 を指定するほうが、多くのクライアントとつながります。この違いに気づくまでに、私は半日ほどかかりました。
LM Studio をランナーに使う場合は、アプリ内でローカルサーバーを起動し、表示されたアドレス(初期値は http://localhost:1234/v1 であることが多いです)をエンドポイントに入れます。モデル名は LM Studio の画面に出ているものを、そのまま写してください。
モデルの選び方
モデルは「何を任せるか」から逆算します。私の目安は次のとおりです。
| 任せる作業 | 目安のサイズ | 選ぶときに見る点 |
|---|---|---|
| 補完・短いコメント | 3B〜7B 級 | 応答の速さ。メモリに余裕を残せること |
| エラーの読み解き・小さな修正 | 7B〜14B 級 | コードに特化した学習がされているか |
| 日本語での説明・下書き | 7B 級以上 | 日本語の出力が自然か。短い文章で試して確かめる |
目安のメモリは、モデルのファイルサイズに 2〜4 GB を足した程度を見ています。余裕がないと、Antigravity とモデルがメモリを取り合って、どちらも重くなります。
つながらないときの切り分け
つまずいたときは、手前の層から順に確かめるのが近道です。
1. 接続がタイムアウトする
Ollama が起動していない可能性が高いです。
ps aux | grep ollama
curl http://127.0.0.1:11434/api/tagsapi/tags に返事がなければ、ollama serve で起動し直します。
2. 「モデルが見つからない」と言われる
エディタ側に書いた名前と、ollama list の名前が一字でも違うと起きます。タグ(:7b など)の付け忘れが、私の場合は大半でした。
3. 応答が極端に遅い
GPU が使われず CPU だけで動いているか、メモリが足りていません。ollama ps を実行すると、読み込み中のモデルと、CPU と GPU のどちらで動いているか(PROCESSOR の列)が分かります。CPU の割合が大きいなら、ひとまず小さいモデルに替えて、速さが戻るかを見てください。
4. 接続だけが拒否される
OS やセキュリティソフトが、ローカルホストへの通信を止めている場合があります。Windows では、ollama.exe を除外設定に加えると通ることがあります。
5. 2 回目以降だけ遅い、または落ちる
モデルを切り替えるたびに前のモデルがメモリに残ります。使わないモデルは ollama stop <モデル名> で解放できます。
6. ターミナルでは通るのに、Antigravity からだけ届かない
Antigravity と Ollama が、別の場所で動いていないかを疑います。WSL、コンテナ、リモート接続の先では、127.0.0.1 は「その環境自身」を指すため、Windows や Mac 側で動く Ollama には届きません。
# Ollama を動かしている側で、待ち受けを広げる例
OLLAMA_HOST=0.0.0.0:11434 ollama serveエンドポイントには、相手の環境から見えるホスト名か IP アドレスを指定します。ただし、待ち受けを広げると同じネットワーク内の他の端末からも呼べてしまいます。私は自宅内の回線に限り、外へ公開する設定にはしないと決めています。構成によって手順が変わるので、まずは同じ環境の中に Ollama を入れて通すところから確かめるのが確実です。
つながるのに、答えが浅い・途中で話を忘れるとき
接続のテストは通るのに、実際に使うと返事がちぐはぐになることがあります。私がこれに気づいたのは、長めのファイルを貼って質問した夜でした。冒頭で伝えた条件を、モデルが後半ですっかり忘れていたのです。
原因の多くは、モデルの賢さではなくコンテキスト長(一度に覚えていられる量)でした。既定の値は Ollama の版や環境で異なり、思ったより短いことがあります。溢れた分は黙って切り捨てられるため、エラーも出ません。
# 対話モードで一時的に広げる
ollama run qwen2.5-coder:7b
>>> /set parameter num_ctx 8192常用するなら、Modelfile に PARAMETER num_ctx 8192 と書き、ollama create で別名のモデルとして作っておきます。版によっては環境変数 OLLAMA_CONTEXT_LENGTH でも指定できます。ただし、広げた分だけメモリを使います。先ほどの目安に余裕がなければ、値を欲張らず、貼る範囲を絞るほうが確実です。
答えが浅いときは、まず入力が切れていないかを疑ってみます。 モデルを大きくするのは、そのあとでも遅くありません。
使ってみて気づいたこと
試験的に、同じ質問をクラウドの LLM とローカルのモデルに投げ、答えを見比べたことがあります。単純な関数の書き換えでは差がほとんど出ませんでした。一方で、複数のファイルにまたがる設計の相談になると、差は一目で分かるほど開きました。
そして、いちばん効いたのは性能ではなく、回線を気にしなくてよいことでした。新幹線の中でも、手が止まらなくなったのです。
まず試していただきたいこと
最初の一歩として、小さなモデルを 1 つだけ入れ、curl で返事が戻るところまで確かめてみてください。Antigravity への接続は、そのあとで十分です。ローカル側が動いていると分かっていれば、つながらないときの原因を半分に絞れます。
この線引きだけは、体調の悪い日でも崩さないようにしています。確かめられる層から、一つずつ確かめていきます。
次は、複数のエージェントでモデルを使い分ける構成に進む方へ、Antigravity マルチエージェントシステム完全実装ガイドを置いておきます。