【2026年版】FinOps 実践ガイド：AI ワークロード時代のクラウドコスト最適化

AI ワークロードのコスト分類

学習（Training）
  ├── GPU / TPU 時間（最も高額）
  ├── データ転送（大規模データセットのロード）
  └── ストレージ（チェックポイント・中間成果物）

推論（Inference）
  ├── 推論エンドポイント（常時稼働 → 固定費化しやすい）
  ├── トークン単価（API 利用型）
  └── スケールアウト時のバースト課金

オーケストレーション
  ├── Kubernetes 制御プレーン
  ├── サイドカーコンテナ（ロギング・監視）
  └── 不要な Pending Pod によるノード専有

Inform（見える化）
  ├── タグ戦略の統一
  │     └── owner / team / env / project / workload-type / cost-centre
  ├── GPU コストの可視化
  │     └── モデル別・エンドポイント別コスト
  └── ユニットエコノミクスの計算
        └── 1リクエストあたりのコスト・1トークンあたりのコスト

Optimize（最適化）
  ├── スポットインスタンス活用（学習ジョブ）
  ├── スケールトゥゼロ（推論エンドポイント）
  ├── 予約割引（Reserved / Savings Plans）
  └── モデル軽量化（量子化・蒸留でホスティングコスト削減）

Operate（継続的改善）
  ├── 週次コストレビューの習慣化
  ├── 予算アラートの設定
  └── アノマリー検知の自動化

# Kubernetes Pod へのラベル付与例
apiVersion: v1
kind: Pod
metadata:
  name: llm-inference-pod
  labels:
    app: llm-inference
    team: ai-platform
    env: production
    model: claude-sonnet
    cost-centre: "cc-1234"
  annotations:
    finops.company.com/owner: "ai-team@company.com"
    finops.company.com/project: "customer-chatbot"
spec:
  containers:
  - name: inference
    image: my-inference:v1.2.0
    resources:
      requests:
        nvidia.com/gpu: "1"
      limits:
        nvidia.com/gpu: "1"

# AWS リソースへのタグ付け（AWS CLI）
aws ec2 create-tags \
  --resources i-0abc123456789def \
  --tags \
    Key=team,Value=ai-platform \
    Key=env,Value=production \
    Key=model,Value=llm-training \
    Key=cost-centre,Value=cc-1234

# PyTorch: チェックポイントによる中断耐性の実装
import torch
import os

def save_checkpoint(model, optimizer, epoch, loss, path="checkpoint.pt"):
    torch.save({
        'epoch': epoch,
        'model_state_dict': model.state_dict(),
        'optimizer_state_dict': optimizer.state_dict(),
        'loss': loss,
    }, path)

def load_checkpoint(model, optimizer, path="checkpoint.pt"):
    if os.path.exists(path):
        checkpoint = torch.load(path)
        model.load_state_dict(checkpoint['model_state_dict'])
        optimizer.load_state_dict(checkpoint['optimizer_state_dict'])
        return checkpoint['epoch'], checkpoint['loss']
    return 0, float('inf')

# 学習ループ
start_epoch, _ = load_checkpoint(model, optimizer)
for epoch in range(start_epoch, num_epochs):
    # ... 学習処理 ...
    save_checkpoint(model, optimizer, epoch, loss)

# KEDA ScaledObject の設定例
apiVersion: keda.sh/v1alpha1
kind: ScaledObject
metadata:
  name: llm-inference-scaler
spec:
  scaleTargetRef:
    name: llm-inference-deployment
  minReplicaCount: 0    # ← 0 にすることでスケールトゥゼロを実現
  maxReplicaCount: 10
  cooldownPeriod: 300   # リクエストがなくなってから 5 分後にゼロスケール
  triggers:
  - type: prometheus
    metadata:
      serverAddress: http://prometheus:9090
      metricName: http_requests_per_second
      threshold: '1'
      query: sum(rate(http_requests_total{app="llm-inference"}[1m]))