メインコンテンツへスキップ
DataRobot は、企業が予測 AI や生成 AI を大規模に構築・デプロイ・ガバナンス管理できるエンタープライズ向け AI プラットフォームです。 カスタム LLM デプロイメント、RAG ブループリント、エージェント型ワークフローなど、モデルライフサイクル全体をカバーする統合環境を提供します。

概要

SambaNova のモデルを DataRobot Workbench にカスタム管理 LLM として直接統合できます。接続後は以下の事項を実現できます。
  • RAG およびエージェント型ワークフロー内で SambaNova モデルを利用
  • Playground チャットからモデルと対話
  • DataRobot のガバナンスおよびモニタリング機能でデプロイメントを一元管理
実装の詳細については、Full SambaNova DataRobot Integration guide を参照してください。

前提条件

作業を始める前に、以下の準備が必要です:
  • SambaNova Cloud アカウントとAPIキー
  • DataRobot Workbench、Console、Registry へのアクセス権

必要なファイル

以下のファイルを SambaNova integrations repository からダウンロードしてください。

セットアップ

以下の手順に従い、SambaNova モデルを DataRobot 内でデプロイします:
  1. Custom Model の作成
    • Registry → Workshop → + Add Model に移動
    • モデルタイプとして Proxy、ターゲットタイプとして TextGeneration を選択
    • custom.pyrequirements.txtmodel-metadata.yaml をアップロード
  2. 環境構築
    • ベース環境に [GenAI] Python 3.12 with Moderations を選択
    • Build をクリックし、“Environment built successfully” と表示されるまで待機
  3. ランタイムパラメータ設定 ランタイムパラメータエディタを開き、以下を設定します。
    • SAMBANOVA_API_KEY → SambaNova APIキー
    • SAMBANOVA_API_BASEhttps://api.sambanova.ai/v1
    • SAMBANOVA_MODELgpt-oss-120b DataRobot Custom model setting page
  4. DataRobot Registry にカスタム SambaNova モデルを登録
  5. モデルのデプロイ
    • Registry → Models → Deploy に移動
    • 登録済みのカスタムモデルを選択
    • ステータスが Active になるまで待機 DataRobot model deployment page
  6. RAG またはエージェント型ワークフローへ接続
    • Workbench にて新しい GenAI RAG ユースケースを作成
    • Playground → Create LLM blueprint → Add deployed LLM を選択
    • 対象のデプロイメント (例: SambaNova Chat) を選択
    • Chat model ID にSambaNovaモデル名 (例: gpt-oss-120b) を設定
    • 設定を確認・追加
    • ベクターストア、システムプロンプト、履歴管理設定などを構成
以上の手続きにより、RAG ワークフローは DataRobot の管理レイヤーを通じて SambaNova のライブモデルを利用できるようになります。 DataRobot RAG Playground with SambaNova models

参考情報

DataRobot の機能について詳しく知るには以下を参照してください: