- RPM: 1分あたりのリクエスト数 (Requests per minute)
- RPD: 1日あたりのリクエスト数 (Requests per day)
- TPD: 1日あたりのトークン数 (Freeティアのみ)
- リクエスト とは、SambaNovaのAPIへの呼び出しを1回行うことを指します。
- RPM または RPD のいずれかの上限に先に達した時点で、制限が適用されます。
- 各リクエストのレスポンスには、現在のレート制限状況が含まれています (詳細は レート制限レスポンスヘッダー を参照)。
- 制限に達した場合、レスポンス内にエラーメッセージが返されます (詳細は APIエラーコード を参照)。
SambaStack のレート制限
SambaStack 環境においては、レート制限はオプション機能であり、管理者がユーザーグループ単位で設定できます。SambaCloud のレート制限ティア
SambaCloud では、以下のレート制限プランを提供しています。- 無料ティア (Free Tier): 支払い方法がアカウントに登録されていない場合に適用されます。
- 開発者ティア (Developer Tier): 支払い方法が登録されている場合に適用されます。
- エンタープライズティア (Enterprise Tier): エンタープライズ向けのレート制限プランです。詳細は 営業チーム にお問い合わせください。
支払い方法の登録は、Billing ページ をご参照ください。
本番モデルのレート制限
本番モデル (Production Model) は、本番環境での利用を想定しており、高速かつ高品質なパフォーマンス基準を満たしています。- 開発者ティア
- 無料ティア
| 開発元 | モデルID | 1分あたりのリクエスト数 (RPM) | 1日あたりのリクエスト数 (RPD) |
|---|---|---|---|
| DeepSeek | |||
DeepSeek-R1 | 60 | 12000 | |
DeepSeek-R1-Distill-Llama-70B | 240 | 48000 | |
DeepSeek-V3-0324 | 60 | 12000 | |
DeepSeek-V3.1 | 60 | 12000 | |
| Meta | |||
Meta-Llama-3.3-70B-Instruct | 240 | 48000 | |
Meta-Llama-3.1-8B-Instruct | 1440 | 288000 |
プレビューモデルのレート制限
プレビューモデル (Preview Model) は、評価・実験目的での利用を想定しており、本番環境での使用は推奨されません。 これらのモデルは提供のためのリソースが限定的であり、短期間で提供終了となる可能性があります。- 開発者ティア
- 無料ティア
| 開発元 | モデルID | 1分あたりのリクエスト数 (RPM) | 1日あたりのリクエスト数 (RPD) |
|---|---|---|---|
| Meta | |||
Llama-4-Maverick-17B-128E-Instruct | 60 | 12000 | |
| OpenAI | |||
gpt-oss-120b | 60 | 12000 | |
Whisper-Large-v3 | 450 | 90000 | |
| Qwen | |||
Qwen3-32B | 30 | 6000 | |
| 東京科学大学 | |||
Llama-3.3-Swallow-70B-Instruct-v0.4 | 60 | 12000 | |
| Other | |||
E5-Mistral-7B-Instruct | 60 | 12000 |
レート制限レスポンスヘッダー
各 API リクエストのレスポンスには、現在のレート制限の使用状況を示す以下のヘッダーが含まれます。 RPM (1分あたりのリクエスト):x-ratelimit-limit-requests- 1分あたりに許可される最大リクエスト数
x-ratelimit-remaining-requests- 現在の分 (minute) 枠内で、レート制限に達するまでに残っているリクエスト数
x-ratelimit-reset-requests- 1分あたりのリクエストクォータがリセットされるまでのエポック時間
x-ratelimit-limit-requests-day- 1日あたりに許可される最大リクエスト数
x-ratelimit-remaining-requests-day- 現在の日次枠で、レート制限に達するまでに残っているリクエスト数
x-ratelimit-reset-requests-day- 日次クォータがリセットされるまでのエポック時間
