REST API ソースを元にしたモデル

Data Connection の REST API ソースを登録モデルの元データソースとして使用することで、外部でホストされているモデルプロバイダーまたはアカウントに AIP を接続できます。モデルが標準的なプロバイダー API を公開している場合は、この方法を推奨します。

独自のモデルを登録して使用する方法

Data Connection で REST API ソースを作成する

まず、以下の手順に従って Data Connection で REST API ソースを作成します。

1. Data Connection アプリケーションを開き、モデルプロバイダーのエンドポイント用に新規ソース > REST API を選択します。
2. ソースの名前を入力し、所有者または編集者の権限を維持できるソースの位置を選択します。
3. モデルプロバイダーのドメインベース URL、認証方式、およびポートを設定します。
4. エクスポート設定セクションで、このソースへのエクスポートを有効化とマーキング検証なしでこのソースへのエクスポートを有効化のトグルを必ずオンにしてください。
5. REST API ソースの設定を完了します。詳細については、REST API コネクターのドキュメントを参照できます。

Control Panel でモデルを登録する

次に、以下の手順に従って Control Panel でモデルを登録します。

1. Control Panel を開き、AIP の設定拡張機能に移動してから、登録済みモデルタブを選択します。
2. モデルを登録を選択します。
3. ソース設定ページのソース RID を選択ドロップダウンメニューで、REST API ソースの RID を検索して選択します。
4. ソース API を設定セクションとモデル API の設定セクションで、モデルプロバイダー名、モデル名、API エンドポイントのパスなど、モデルの詳細を指定します。
5. エンドポイントごとにモデルの機能を定義します。宣言した機能によって、そのモデルで利用できる AIP の機能が決まります。推論、構造化出力、およびツール呼び出しを有効にすると、AI FDE と AIP Analyst がそのモデルを使用できるようになります。
6. 必要に応じて、モデルのデータアクセスポリシーを設定します。このポリシーを設定しない場合は、エンロールメントのポリシーが適用されます。モデル固有のポリシーは、エンロールメントのポリシーを完全に置き換えます。必須マーキングで LLM のデータアクセスを制御する方法を確認してください。
7. モデルのレート制限を定義します。これは、Resource Management アプリケーションで容量管理と使用状況の観測可能性を有効にするために必要です。
   • エンロールメントのレート制限： エンロールメントで利用可能な1分あたりの最大リクエスト数または最大トークン数を定義します。プロジェクトレベルの制限は、これらのエンロールメントの制限に対する割合として計算されます。
   • ユーザーのレート制限： AI FDE、AIP Analyst、およびユーザーに使用量が帰属するその他のアプリケーションでの使用に適用される、ユーザーごとの制限を定義します。
8. Control Panel の AIP の設定拡張機能に戻り、エンロールメントで登録モデルへのアクセスを有効にします。エンロールメント全体、または特定のユーザーグループにアクセスを付与できます。

次のステップ

これで、登録したモデルを AIP アプリケーション全体で利用できるようになりました。サポートされているすべてのアプリケーションのモデルセレクターで、登録済みモデルタブに表示されます。