注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。
Foundry に言語モデルをインポートする
Foundry では、オープンソースの言語モデルをノーコードで Foundry のワークフローにインポートできます。これらの言語モデルは、バッチおよびライブデプロイメントで使用するためにモデリングの目的に提出できます。
他の言語モデルを使用するには、新しい言語モデルのサポートを追加することも簡単にできます。以下で使用される model adapter の詳細については、言語モデル adapterに関するドキュメントを参照してください。
言語モデルをインポートする
サポートされているオープンソースのモデルは、以下の手順に従うことでコードを書くことなく統合できます。
- 言語モデルを追加するための新しい、または既存のモデリングの目的を作成または開きます。モデリングの目的で、Add model を選択します。
- Import an open-source model オプションを選択します。
- 利用可能なモデルのいずれかを選択し、Next を選択します。
-
作成されたモデルリソースを Foundry 内のどこに保存するかを選択し、サンドボックスデプロイメントを作成するかどうかを決定します。
Foundry は、利用可能なオープンソースの言語モデル用の Default のmodel adapterを提供します。ただし、カスタム model adapterを構成することもできます。
- サンドボックスデプロイメントを作成した場合、そのサンドボックスデプロイメントにリダイレクトされ、推論を開始します。
新しいライブデプロイメントの最初のクエリは、後続のリクエストよりも時間がかかることがあります。
各言語モデルの使用方法は、使用される特定のmodel adapterによって異なります。
上記のオープンソース言語モデルに対して Foundry が提供する model adapter についてさらに学びます。