Gemma4エッジAIエージェント実装ガイド：デバイス上で動くインテリジェントエージェントの設計

from ollama import Client
 
client = Client(host='http://localhost:11434')
 
# Function スキーマ定義
functions = [
    {
        "name": "search_web",
        "description": "Web検索を実行してリアルタイム情報を取得",
        "parameters": {
            "type": "object",
            "properties": {
                "query": {
                    "type": "string",
                    "description": "検索キーワード"
                }
            },
            "required": ["query"]
        }
    }
]
 
response = client.chat(
    model='gemma4:31b',
    messages=[
        {"role": "user", "content": "最新のAI論文を調べてください"}
    ],
    functions=functions,
    stream=False
)

def agent_loop(user_input):
    messages = [{"role": "user", "content": user_input}]
    
    while True:
        response = client.chat(
            model='gemma4:31b',
            messages=messages,
            functions=functions,
            stream=False
        )
        
        # エージェントからのテキスト応答
        if response.get('message', {}).get('content'):
            print(f"Agent: {response['message']['content']}")
            return
        
        # Function呼び出しの場合
        if 'function_call' in response:
            call = response['function_call']
            result = execute_function(call['name'], **call['arguments'])
            
            # エージェントに結果をフィードバック
            messages.append({"role": "assistant", "function_call": call})
            messages.append({
                "role": "function",
                "name": call['name'],
                "content": json.dumps(result)
            })

import base64
 
def encode_image(image_path):
    with open(image_path, "rb") as f:
        return base64.b64encode(f.read()).decode('utf-8')
 
# マルチモーダル関数スキーマ
multimodal_functions = [
    {
        "name": "analyze_screenshot",
        "description": "スクリーンショット内のUI要素を分析",
        "parameters": {
            "type": "object",
            "properties": {
                "element_type": {
                    "type": "string",
                    "enum": ["button", "input", "table"]
                }
            },
            "required": ["element_type"]
        }
    }
]
 
# 画像+テキスト入力
image_base64 = encode_image('screenshot.png')
 
response = client.chat(
    model='gemma4:31b',
    messages=[
        {
            "role": "user",
            "content": [
                {"type": "image", "image": image_base64},
                {"type": "text", "text": "このボタンの役割を説明してください"}
            ]
        }
    ],
    functions=multimodal_functions,
    stream=False
)

system_prompt = """
あなたは「TechResearchAgent」という高度なAIエージェントです。
 
【役割】
最新のAI技術論文、ベンチマーク、実装コード例を自動収集・分析し、技術者向けに日本語で解説するエージェント。
 
【利用可能なツール】
- search_web：技術キーワードで最新論文を検索
- fetch_arxiv：arXiv論文を直接取得
- fetch_github：GitHubリポジトリのREADMEを取得
 
【行動ルール】
1. ユーザーの質問から「検索キーワード」を抽出
2. 複数のソースから並行的に情報収集
3. 情報の新鮮性と信頼性を評価
4. 日本語で体系的に解説
5. 実装可能なコード例を提供
 
【応答スタイル】
- 技術用語は正確に使用
- 推測や不確実な情報は「〜と考えられます」と記述
- 常に出典を明示
"""
 
response = client.chat(
    model='gemma4:31b',
    messages=[
        {"role": "system", "content": system_prompt},
        {"role": "user", "content": "2026年の最新AI論文トレンドを教えてください"}
    ],
    functions=multimodal_functions,
    stream=False
)

import sqlite3
 
class OfflineKnowledgeBase:
    def __init__(self, db_path='knowledge.db'):
        self.conn = sqlite3.connect(db_path)
        self.cursor = self.conn.cursor()
    
    def search_docs(self, query):
        """ローカルドキュメント全文検索"""
        self.cursor.execute(
            "SELECT title, content FROM documents WHERE content MATCH ? LIMIT 5",
            (query,)
        )
        return self.cursor.fetchall()
 
kb = OfflineKnowledgeBase()
 
offline_functions = [
    {
        "name": "search_local_docs",
        "description": "ローカルナレッジベースを検索",
        "parameters": {
            "type": "object",
            "properties": {
                "query": {"type": "string"}
            },
            "required": ["query"]
        }
    }
]
 
# これでエージェントはオフラインでもドキュメント検索可能

pipeline:
  name: "multimodal_analysis_workflow"
  steps:
    - name: "input_capture"
      type: "trigger"
      config:
        accepts: ["image", "text", "audio"]
    
    - name: "gemma4_analysis"
      type: "llm"
      model: "gemma4:31b"
      config:
        functions_enabled: true
        multimodal_inputs: true
    
    - name: "output_formatter"
      type: "template"
      template: "analysis_report.md"

# 効率的（バッチ化）
batch_responses = client.generate_batch(
    model='gemma4:31b',
    requests=[...]
)

apiVersion: v1
kind: Pod
metadata:
  name: gemma4-agent
spec:
  containers:
  - name: agent
    image: gemma4-agent:latest
    resources:
      requests:
        memory: "4Gi"
        nvidia.com/gpu: "1"