Android Bench 2026：主要AIモデルのベンチマーク比較と開発者が知るべきこと

取り組みの背景

モバイルアプリにAI機能を組み込む際、「クラウドAPIを呼ぶべきか、オンデバイスで処理すべきか」という判断は開発者が最初に直面する課題です。Android Benchは、主要なAIモデルをAndroidデバイス上で直接評価できるGoogleのベンチマークツールで、この判断に必要なデータを提供してくれます。

Android Benchとは

Googleが提供するAndroid Benchは、Androidデバイス上でのAIモデルのパフォーマンスを標準化されたテスト環境で計測するベンチマークツールです。

測定対象: オンデバイスで動作する軽量モデル（Gemma、Llama等）の実行速度
測定環境: Pixel・Galaxyなど主要Androidデバイス
公開データ: ai.google.dev/edge/litert/benchmarksでスコアを公開

主要ベンチマーク指標

トークン/秒（Tokens per Second）: モデルが1秒間に生成できるトークン数。高いほど応答が速い
ファーストトークンまでの時間（TTFT: Time to First Token）: リクエスト送信から最初の応答が返るまでの時間（ms）
メモリ使用量（RAM）: モデル実行時に必要なRAM容量（MB）
モデルサイズ: ダウンロードサイズ（MB/GB）
バッテリー消費率: 推論1回あたりのバッテリー消費（mWh）

2026年4月時点の主要モデル比較

オンデバイスモデルの比較（Pixel 9 Pro基準）:

Gemma 3 2B（Google）

トークン/秒: 約45 tok/s
TTFT: 約150ms
メモリ使用量: 約1.8GB RAM
特徴: 軽量・高速、日本語サポート、無料利用可能

Gemma 3 7B（Google）

トークン/秒: 約18 tok/s
TTFT: 約350ms
メモリ使用量: 約4.2GB RAM
特徴: 高精度、上位モデルに匹敵するタスクも処理可能

Llama 3.2 3B（Meta）

トークン/秒: 約40 tok/s
TTFT: 約180ms
メモリ使用量: 約2.0GB RAM
特徴: 英語タスクで高精度、軽量

Phi-3 Mini 3.8B（Microsoft）

トークン/秒: 約35 tok/s
TTFT: 約200ms
メモリ使用量: 約2.4GB RAM
特徴: コーディングタスクに特化

クラウドAPIとの比較（参考値）

Gemini 3 Flash（API）: 約200 tok/s、TTFT 300ms（ネットワーク込み）
Claude Haiku 4.5（API）: 約180 tok/s、TTFT 400ms（ネットワーク込み）

Antigravityを使ったオンデバイスAI実装

AntigravityのLiteRT統合でオンデバイスモデルを呼び出す例:

# Antigravity × LiteRT (TensorFlow Lite) でオンデバイス推論
import antigravity as ag
from antigravity.mobile import LiteRTRunner
 
# Gemma 3 2Bモデルをロード（事前にデバイスにダウンロード済みと仮定）
runner = LiteRTRunner(
    model_path="/data/local/tmp/gemma3-2b-it-int4.task",
    device="cpu",  # または "gpu" でGPUアクセラレーション
    num_threads=4
)
 
# テキスト生成
result = runner.generate(
    prompt="東京のおすすめ観光スポットを3つ教えてください",
    max_tokens=200,
    temperature=0.7
)
 
print(result.text)
print(f"生成速度: {result.tokens_per_second:.1f} tok/s")
 
# 期待する出力:
# 1. 浅草寺 - 江戸時代から続く歴史ある寺院...
# 生成速度: 43.2 tok/s

クラウドAPIとオンデバイスの使い分け基準

オンデバイスを選ぶべきケース

プライバシー重視の機能: 医療・金融・個人情報を扱うアシスタント
オフライン環境での使用が必要: フィールドワーク・地下鉄内
レイテンシが極めて重要: リアルタイム音声・ゲームAI
APIコストを完全にゼロにしたい

クラウドAPIを選ぶべきケース

高精度が必要な複雑なタスク: 長文要約・コード生成
最新の知識が必要: ニュース・市場情報
多言語対応が必要
ユーザー数が少なくAPIコストが許容範囲内

ハイブリッドアーキテクチャ

シンプルな分類・フィルタリングはオンデバイスで処理し、複雑な推論はクラウドAPIに委譲するハイブリッド設計が最もコスト効率が高い場合が多いです。

例えば、ユーザー入力の言語判定や感情判定はオンデバイスで高速に処理し、詳細な分析や生成タスクはクラウドで実行することで、ユーザー体験とコスト効率を両立できます。

Core ML（iOS）との比較

iOSではCore MLがオンデバイスAIの標準フレームワークです。AntigravityはCore MLとLiteRTの両方をサポートしており、iOS/Android両対応のクロスプラットフォーム設計が可能です。

詳しくはAntigravity Core ML オンデバイスAIガイドをご覧ください。

まとめ

Android Benchを活用すると、クラウドAPIとオンデバイスAIのトレードオフを定量的に判断できます。コスト・レイテンシ・プライバシー・精度のバランスを見極めて、アプリの用途に最適なアーキテクチャを選択しましょう。

モバイルAI開発をさらに深く

Antigravityを使った高度なエージェント構築についてはAntigravity AgentKit 2.0ガイドも参考にしてください。