モデルの接続と開発ModelsコンテナモデルFAQ

注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

FAQ

Foundry内でユーザーがアップロードしたすべての画像を表示するための中央の場所はありますか?

はい。Control PanelはFoundry管理者に、プラットフォームにプッシュされたすべての画像を表示する能力を提供し、これらの画像に存在する脆弱性を表示およびリコールすることができます。

コンテナを利用したモデルはライブデプロイメントと互換性がありますか?

はい、コンテナモデルはライブおよびバッチデプロイメント内で使用できます。

Foundryにプッシュする画像を作成する際に特定のベースイメージを使用する必要がありますか?

いいえ、標準のベースイメージは提供されておらず、必要もありません。ただし、プッシュされたすべての画像は画像要件を遵守する必要があります。

画像が公開しなければならない標準APIはありますか?

いいえ。Foundryが画像とどのようにやり取りするかは、model adapterの実装によって定義されます。このカスタムadapterの例で反映されている一般的なパターンは、入力を受け取る特定のポートでリッスンするように画像を構築し、次にmodel adapterがpostリクエストを送信することです。

コンテナ化されたモデルの最大画像サイズはどのくらいですか?

通常、22 GBを超える画像はDockerプッシュステップ中にタイムアウトします。ユースケースがより大きな画像を必要とする場合は、Palantirの担当者に連絡してください。

FoundryはWindowsベースのコンテナの実行をサポートしていますか?

いいえ。プラットフォームにプッシュされたすべての画像は、Foundry Kubernetesクラスタ内のエンティティがLinuxマシンであるため、Linuxプラットフォーム用にビルドする必要があります。

モデル内で複数のコンテナを使用できますか?

はい。複数の画像をモデルバージョンにバックするように構成できますが、オーケストレーションのサポートはありません。すべてのコンテナは実行時に同時に起動され、コンテナの起動順序を保証することはできません。

コンテナを利用したモデルはすべてのFoundryインスタンスでサポートされていますか?

いいえ。ユーザーが提供するすべてのコンテナワークフローには、バックインフラストラクチャとしてRubix ↗エンジンが必要です。また、Control Panelでコンテナワークフローを有効にする必要があります。

モデルでテレメトリを有効にするにはどうすればよいですか?

モデルでテレメトリを有効にするには、新しいモデルバージョンを作成し、モデルバージョン作成のステップ 3テレメトリを有効にするをオンにします。画像には/bin/sh内のシェル実行ファイルが必要で、シェルコマンドsetおよびteeをサポートする必要があります。

すべてのタイプのモデルでテレメトリは機能しますか?

いいえ、コンテナ化されたモデルのテレメトリはPythonトランスフォームおよびライブデプロイメントでのみ機能しますが、バッチデプロイメントのコンテナログは出力されません。

コンテナにテレメトリに必要なコマンドと設定があるかどうかをテストするにはどうすればよいですか?

docker run --entrypoint /bin/sh <EXAMPLE_IMAGE>:<IMAGE_TAG_OR_DIGEST> -c 'set -a && tee -a' && echo "Telemetry compatible"を実行してテストできます。Telemetry compatibleという出力が表示された場合、このコンテナに対してテレメトリを有効にできます。