ドキュメントの検索
karat

+

K

APIリファレンス ↗
モデル統合モデルアセットモデルアダプターモデルアダプター概要
Feedback

注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

モデルアダプター概要

モデルアダプターは、Foundryが任意のモデルと相互運用できるようにする一般化されたフレームワークです。モデルアダプターは、モデルを構成する2つのコンポーネントの1つです:

  • モデル作成物: 訓練済みのモデルが保存されているモデルファイル、パラメーター、重み、コンテナ、または資格情報。
  • モデルアダプター: Foundryがモデル作成物と対話してモデルをロード、初期化、そして推論を行うために必要なロジックと環境依存性。

モデルアダプターは、Foundryが以下と相互運用できるようにすることが可能です:

  1. Foundryで訓練されたモデル
  2. Foundryの外部で訓練されたモデルファイル
  3. Foundryの外部でコンテナ化され、FoundryのDockerレジストリにプッシュされたモデル
  4. Foundryの外部で訓練され、ホストされたモデル

アダプターコンポーネント

Palantirは、そのモデルバージョンのモデルアダプタークラスとインターフェースして、すべてのモデルと同じ方法で対話します。

初期化

モデルは一度作成され、プラットフォーム内の複数の場所で使用できるため、アダプターは重みまたは基礎となるコンテナからモデルのインスタンスを初期化する方法を認識する必要があります。

プラットフォーム内で訓練された重みについては、ユーザーは @auto_serialize アノテーションを使用して、ほとんどのモデルタイプで動作するはずの組み込みシリアライザーを活用する必要があります。シリアライゼーション/デシリアライゼーションのロジックを明示的に指定する必要がある高度なケースについては、load()および_save()メソッドを参照してください。

コンテナと外部モデルについては、アダプターは、推論に使用できるように、init_container()またはinit_external()メソッドを使用して関連する設定で初期化されます。

API

各アダプターはAPIの説明を宣言する必要があります。プラットフォームは、この説明(期待される入力、出力、行名、タイプを含む)に依存して、様々なモデル消費パターンの他のアプリケーションとの統合を可能にします。

サポートされているタイプとAPI定義の例については、API リファレンスを参照してください。

推論

初期化が完了すると、アダプターはバッチまたは対話型のワークロードの推論に使用できます。推論ロジックはpredict()メソッドの一部として定義する必要があります。

プラットフォームは、提供されたAPI定義を使用して、定義された名前とタイプでpredict()メソッドを呼び出し、推論を実行します。

モデルアダプターのライフサイクル

モデルアダプターの作成に関する詳細な情報は、モデルアダプターの作成に関するドキュメンテーションを参照してください。また、モデルアダプターリファレンスページで完全な Python API を参照することもできます。