注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。
Foundry に言語モデルをインポートする
Foundry では、ノーコードでオープンソースの言語モデルを Foundry のワークフローにインポートすることができます。これらの言語モデルは、バッチ および ライブ デプロイメントで使用するために、モデリング目標に提出することができます。
他の言語モデルを使用する場合も、新しい言語モデルのサポートを追加 することが容易にできます。以下で使用されるモデルアダプタについての詳細は、言語モデルアダプタ のドキュメンテーションを参照してください。
言語モデルをインポートする
サポートされているオープンソースモデルは、以下の手順に従うことで、コードを書くことなく統合することができます：
- 言語モデルを追加する モデリング目標 を新規作成するか、既存のものを開きます。モデリング目標で モデルを追加 を選択します。
- オープンソースモデルをインポートする オプションを選択します。
- 利用可能なモデルの中から一つを選択し、次へ を選択します。
-
作成したモデルリソースが Foundry 内で保存される場所を選択し、サンドボックスデプロイメント とリソースプロファイルを作成するかどうかを決定します。
Foundry は利用可能なオープンソース言語モデルに対してデフォルトの モデルアダプタ を提供します。しかし、カスタムモデルアダプタ を設定することも可能です。
- サンドボックスデプロイメントを作成した場合、推論を開始するためにそのサンドボックスデプロイメントにリダイレクトされます。
新しいライブデプロイメントの最初のクエリは、後続のリクエストよりも時間がかかることがあります。
各言語モデルの使用方法は、使用される モデルアダプタ によって異なります。