Ollama入門2026｜ローカルPCでLLMを動かす全手順

1. Ollamaとは｜ローカルLLMが必要な3つの場面

Ollamaは、オープンソースのLLMをローカル環境で動かすためのランタイムだ。Docker的な発想で、ollama run llama3 と打つだけでモデルのダウンロードと実行が始まる。

ローカルLLMが必要になる場面は主に3つある。

2. 必要スペックとメモリの目安

ローカルLLMを試す前に確認したいのがPCスペック。特にメモリ（RAM）がボトルネックになりやすい。

メモリ16GBのMacBook Proで8Bモデルを動かすと、応答速度は毎秒20〜30トークン。13Bだと10トークン前後に落ちる。会話の流れは維持できる速度だ。

3. インストール手順

Mac

# Homebrewでインストール
brew install ollama

# または公式サイトからダウンロード
# https://ollama.com/download

# モデルを実行（初回はダウンロードが走る）
ollama run llama3.1

Windows

# 公式サイトからインストーラーをダウンロード
# https://ollama.com/download/windows

# インストール後、PowerShellで実行
ollama run llama3.1

Linux

curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.1

初回の ollama run でモデルのダウンロードが始まる。Llama 3.1 8Bの場合は約4.7GB。光回線なら5分ほどで完了する。

4. おすすめモデル5選｜日本語対応を含む

日本語で使うなら qwen2.5:7b を最初に試してほしい。同じプロンプトをLlama 3.1と打ち比べると、qwen2.5のほうが助詞の使い方が自然で、敬体と常体の混在が少ない。Alibaba CloudのCJK特化という設計が効いている。

# モデルのインストール
ollama pull qwen2.5:7b

# 実行
ollama run qwen2.5:7b

# インストール済みモデルの一覧
ollama list

5. Ollama APIをPythonから叩く

OllamaはデフォルトでREST APIをhttp://localhost:11434に公開する。Pythonから呼び出せば、自作アプリにローカルLLMを組み込める。

import requests
import json

response = requests.post(
    "http://localhost:11434/api/generate",
    json={
        "model": "qwen2.5:7b",
        "prompt": "Pythonのリスト内包表記を初心者向けに説明して",
        "stream": False
    }
)
print(response.json()["response"])

既存のOpenAI SDKコードのbase_urlをhttp://localhost:11434/v1に差し替えるだけで動く。APIキーの設定も不要だ。

Claude CodeやCursorなどのAI開発ツールとの連携については「AIネイティブ開発完全ガイド」も参考になるだろう。

6. Open WebUIで対話インターフェースを追加する

コマンドラインだけでは使いにくいという人には、Open WebUIがおすすめだ。ChatGPTライクなWeb画面をローカルに立ち上げられる。

# Docker（推奨）
docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

http://localhost:3000 にアクセスすると、モデル選択・会話履歴・ファイルアップロード機能を備えたUIが立ち上がる。家族や同僚にもLAN経由で共有できるため、社内のちょっとしたAI検証環境として重宝する。

7. よくある質問