概要
SambaNova のモデルを DataRobot Workbench にカスタム管理 LLM として直接統合できます。接続後は以下の事項を実現できます。- RAG およびエージェント型ワークフロー内で SambaNova モデルを利用
- Playground チャットからモデルと対話
- DataRobot のガバナンスおよびモニタリング機能でデプロイメントを一元管理
実装の詳細については、Full SambaNova DataRobot Integration guide を参照してください。
前提条件
作業を始める前に、以下の準備が必要です:- SambaNova Cloud アカウントとAPIキー
- DataRobot Workbench、Console、Registry へのアクセス権
必要なファイル
以下のファイルを SambaNova integrations repository からダウンロードしてください。custom.py— DataRobot の chat / load_model フックを定義requirements.txt— 最小の依存関係 (sambanova,pandas)model-metadata.yaml— ランタイムパラメータ設定ファイル
セットアップ
以下の手順に従い、SambaNova モデルを DataRobot 内でデプロイします:-
Custom Model の作成
- Registry → Workshop → + Add Model に移動
- モデルタイプとして
Proxy、ターゲットタイプとしてTextGenerationを選択 custom.py、requirements.txt、model-metadata.yamlをアップロード
-
環境構築
- ベース環境に
[GenAI] Python 3.12 with Moderationsを選択 - Build をクリックし、“Environment built successfully” と表示されるまで待機
- ベース環境に
-
ランタイムパラメータ設定
ランタイムパラメータエディタを開き、以下を設定します。
-
SAMBANOVA_API_KEY→ SambaNova APIキー -
SAMBANOVA_API_BASE→https://api.sambanova.ai/v1 -
SAMBANOVA_MODEL→gpt-oss-120b
-
- DataRobot Registry にカスタム SambaNova モデルを登録
-
モデルのデプロイ
- Registry → Models → Deploy に移動
- 登録済みのカスタムモデルを選択
-
ステータスが Active になるまで待機

-
RAG またはエージェント型ワークフローへ接続
- Workbench にて新しい GenAI RAG ユースケースを作成
- Playground → Create LLM blueprint → Add deployed LLM を選択
- 対象のデプロイメント (例:
SambaNova Chat) を選択 - Chat model ID にSambaNovaモデル名 (例:
gpt-oss-120b) を設定 - 設定を確認・追加
- ベクターストア、システムプロンプト、履歴管理設定などを構成

