SambaStack では、デプロイメントの稼働状況とアクティビティを監視するために、2つの強力なツールを使用します。
- Grafana: トークン使用量や Time to First Token (TTFT)、1秒あたりのトークン数、レイテンシの推移などの詳細なメトリクスを可視化するダッシュボードを提供します。
- OpenSearch Dashboards: ログを詳細に分析し、リクエスト検索、エラー確認、ステータスコードの確認、リクエスト ID によるトレースが可能です。
これらのツールを組み合わせることで、包括的な監視およびログ管理を実現し、問題の特定やパフォーマンス最適化を容易にします。
アクセス手順
Grafanaへのアクセス
ステップ1 — Grafana の初期管理者認証情報を取得
以下のコマンドを実行し、保存されている管理者認証情報を取得します。
kubectl get secret grafana-initial-admin-credentials -o json \
| jq -r '.data | to_entries[] | "\(.key): \(.value | @base64d)"'
出力例:
admin-user: admin
admin-password: <random-password>
認証情報はクラスター内のシークレットとして安全に保存されています。これらの情報は安全な場所に保管し、第三者と共有しないでください。
ステップ2 — Grafana のサービスポートを確認
すべてのサービスを一覧表示し、Grafana サービスのポート番号を確認します。
出力例:
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
sambastack-grafana ClusterIP cluster-IP-address <none> 80/TCP 41h
sambastack-grafana サービスはポート 80 を公開しています。ポートフォワード時には、このリモートポート番号と一致させてください。
ステップ3 — Grafanaをポートフォワード
次のコマンドで、リモートポートをローカル環境にフォワードします。
kubectl port-forward svc/sambastack-grafana 8080:80
80 はリモート側のサービスポートです。
8080 は任意で指定するローカルポートです。
Grafana の UI にアクセスするには、以下のURLを開きます:
http://localhost:8080
OpenSearchへのアクセス
ステップ1 — OpenSearch の初期管理者認証情報を取得
次のコマンドで、OpenSearch の管理者パスワードを取得します。
kubectl get secret/opensearch-initial-admin-password -o json | jq -r '.data | to_entries[] | "\(.key): \(.value | @base64d)"'
このコマンドの出力結果として、ログインに必要な管理者パスワードが表示されます。
ステップ2 — OpenSearch サービスポートを確認
次のコマンドで、OpenSearch Dashboards サービスのポート番号を確認します。
出力例:
sambastack-opensearch-dashboards ClusterIP cluster-IP-address <none> 5601/TCP 41h
ステップ3 — OpenSearch Dashboards をポートフォワード
次のコマンドで、ポートをローカルにフォワードします。
kubectl port-forward svc/sambastack-opensearch-dashboards 8081:5601
5601 OpenSearch Dashboards のリモートポートです。
8081 は任意で指定するローカルポートです。
OpenSearch Dashboards の UI にアクセスするには、以下のURLを開きます:
http://localhost:8081