API: 言語モデルアダプタ

各ノーコード言語モデルに対して、Foundryはデフォルトのモデルアダプタを提供しています。このデフォルトのモデルアダプタは、言語モデルとのやり取りに適切なデフォルトのパラメーターと構造を提供します。以下に示すデフォルトの言語モデルアダプタは、デプロイメントインフラストラクチャ内で利用可能なCPUとGPUデバイスに正しくルーティングされます。

現在使用中のモデルアダプタは、Modeling Objectivesアプリケーションのモデル提出ページで閲覧できます。

Seq2SeqLMModelAdapter

使用方法

このモデルアダプタは、シーケンス間言語モデルのサポートを追加します。アダプタは、提供された入力テキストに基づいてテキストを生成します。

例: 選択したモデルによって、入力テキストとその構造が異なります。適切なプロンプトエンジニアリングを確保するために、モデルの詳細を読むことを強くお勧めします。例えば、flan-t5-largeモデルは、翻訳、要約、質問回答など、多様なプロンプトを実行できます。

モデルAPI

• Input “text”: 言語モデルが出力予測を生成するためのテキスト入力。
• Output “prediction”: モデルによって生成されたテキスト。

NerAdapter

使用方法

このモデルアダプタは、名前付きエンティティ認識パイプラインのサポートを追加します。モデルアダプタは、テキスト内のエンティティを抽出し、リストで返します。

例: 「私の名前はマックスで、ドイツに住んでいます」というテキストをサンドボックスやライブデプロイメントを通じてモデルに送信すると、モデルは2つのエンティティ（マックスとドイツ）を認識します。

モデルAPI

• Input “text”: 言語モデルが出力予測を生成するためのテキスト。
• Output<list> “prediction”: モデルの出力は、各辞書が抽出されたエンティティに関する詳細情報を提供する辞書のリストです。具体的には、辞書には以下の情報が含まれます。
  • entity: 認識されたエンティティのタイプ。
  • score: 特定のエンティティの数値スコア。
  • index: エンティティのトークンのインデックス（例えば、インデックスが5の場合、認識されたエンティティは入力テキストの5番目のトークンです）。
  • word: 認識されたエンティティの文字列表現。
  • start: 入力文字列内での認識されたエンティティの開始インデックス。
  • end: 入力文字列内での認識されたエンティティの終了インデックス。

EmbeddingAdapter

使用方法

このモデルアダプタは、モデルのアテンションマスクに基づいて、与えられたテキストの埋め込みを計算します。このアダプタは "平均プーリング" および正規化を行い、sentenced-transformers のデフォルトに合わせています。

例:

モデルAPI

• Input “text”: 埋め込みモデルの入力テキスト。
• Output<list> “embedding”: 入力テキストを表すn次元ベクトル。

TextClassificationAdapter

使用方法

このモデルアダプタは、事前に定義されたクラスのセットに対して入力テキストを分類します。テキスト分類の一般的な例は、感情分析や言語検出です。

例:

モデルAPI

• Input “text”: 言語モデルが出力予測を生成するための入力テキスト。
• Output “prediction”: 最も可能性の高いクラス。
• Output<list> “logits”: 各クラスのロジット値。
• Output<list> “classes”: モデルが予測できるクラス。クラスの順序は、ロジットの順序と同じです（例えば、最初のロジットエントリは、クラスリストの最初のエントリに対応します）。

ZeroShotClassificationAdapter

使用方法

このモデルアダプタは、予測時に提供されるクラスのリストに基づいて入力テキストを分類します。この動作により、特定のユースケースに言語モデルをファインチューニングすることなく、テキストを分類するアダプタを提供します。

例: 「新しい言語モデルを開発するのが大好きです」というテキストと候補ラベル「旅行」、「スポーツ」、「仕事」、「エンターテイメント」を送信すると、モデルはラベルをスコアリングし、「仕事」を最も可能性の高い分類としてランク付けします。

モデルAPI

• Input “text”: 言語モデルが出力予測を生成するための入力テキスト。
• Input<list> “candidate_labels”: モデルがスコアリングする入力テキストの潜在的なラベルのリスト。
• Output “prediction”:
  • sequence: ゼロショット分類に使用されるテキスト。
  • labels: モデルのスコアに基づいて降順で並べられた候補ラベル。
  • scores: 候補ラベルの分類スコアを表す浮動小数点数。スコアの順序は、ラベルの順序と一致します。