注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

コンピュートリソース

Model Studio では、トレーニングジョブのコンピュートリソースを設定して、パフォーマンスとコストを最適化できます。トレーニング要件に合わせて、vCPU とメモリーの割り当てを指定できます。

Model Studio のリソース設定ページ。

デフォルトでは、許容される最大値は8コアと64 GB のメモリーです。これらの上限を引き上げるには、Palantir サポートにお問い合わせください。

コンピュート使用量はこれらの値に基づいて測定され、Foundry コンピュート秒として報告されます。詳細については、使用量の種類に関するドキュメントを参照してください。

パフォーマンスに関する考慮事項

vCPU

Model Studio のトレーナーは、割り当てる vCPU を増やすことでパフォーマンスを向上させることができます。トレーナーはより多くの vCPU コアを活用して、ワーカー内で実行する並列処理の量を増やせるため、vCPU の割り当てを増やすことは Model Studio にとって特に有益です。

メモリー

Foundry でのデータセットの保存方法により、データセットに合わせてメモリー容量を適切に調整していない場合、メモリー不足(OOM)エラーが発生することがあります。Foundry で生成されるデータセットは高い圧縮率で圧縮されている傾向があるため、展開するとより多くのメモリーを必要とする場合があります。メモリーの割り当てを増やすと、トレーナー内の並列化されたワーカーがより効率的に動作できるため、全体的なパフォーマンスの向上につながる可能性があります。

GPU

GPU を使用できるのは、GPU リソースキューが割り当てられているプロジェクトから開始されたトレーニングジョブのみです。プロジェクトに GPU が割り当てられている場合、コンピュート設定ページで使用できるようになります。