注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。
モデルアダプターは、Foundryが任意のモデルと相互運用できるようにする一般化されたフレームワークです。モデルアダプターは、モデルを構成する2つのコンポーネントの1つです:
モデルアダプターは、Foundryが以下と相互運用できるようにすることが可能です:
Palantirは、そのモデルバージョンのモデルアダプタークラスとインターフェースして、すべてのモデルと同じ方法で対話します。
モデルは一度作成され、プラットフォーム内の複数の場所で使用できるため、アダプターは重みまたは基礎となるコンテナからモデルのインスタンスを初期化する方法を認識する必要があります。
プラットフォーム内で訓練された重みについては、ユーザーは @auto_serialize アノテーションを使用して、ほとんどのモデルタイプで動作するはずの組み込みシリアライザーを活用する必要があります。シリアライゼーション/デシリアライゼーションのロジックを明示的に指定する必要がある高度なケースについては、load()および_save()メソッドを参照してください。
コンテナと外部モデルについては、アダプターは、推論に使用できるように、init_container()
またはinit_external()
メソッドを使用して関連する設定で初期化されます。
各アダプターはAPIの説明を宣言する必要があります。プラットフォームは、この説明(期待される入力、出力、行名、タイプを含む)に依存して、様々なモデル消費パターンの他のアプリケーションとの統合を可能にします。
サポートされているタイプとAPI定義の例については、API リファレンスを参照してください。
初期化が完了すると、アダプターはバッチまたは対話型のワークロードの推論に使用できます。推論ロジックはpredict()
メソッドの一部として定義する必要があります。
プラットフォームは、提供されたAPI定義を使用して、定義された名前とタイプでpredict()
メソッドを呼び出し、推論を実行します。
モデルアダプターの作成に関する詳細な情報は、モデルアダプターの作成に関するドキュメンテーションを参照してください。また、モデルアダプターリファレンスページで完全な Python API を参照することもできます。