注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。
AIP Logic は、Palantir のツールで、オントロジーと計算機能を通じてユーザーの組織のデータと対話しながら、迅速かつ持続的に LLM 駆動のプロセスを構築できます。AIP Logic は、データをクエリ、アクションや関数を実行、ユーザーのユースケースのための新情報を生成できる思考の流れのワークフローを線形に作成できる「LLM の指示のブロック」の概念を基に構築されています。AIP Logic では、「ブロック」は使用測定の原子単位で、各ブロックは Foundry 内の他のシステムをトリガーすることができ、それらのシステムもコンピュート秒を使用して AIP Logic ブロックに情報を返すことができます。
Palantir とエンタープライズ契約を結んでいる場合は、コンピュート使用の計算を進める前に Palantir の担当者に連絡してください。
AIP Logic のリソースは、1つ以上の AIP Logic のブロックで構成されます。リソースを実行すると、所望の出力を達成するために必要なブロックが実行されます。ブロックは、オントロジーのクエリ、関数、アクションなどのツールを使用して出力を生成することができます。
AIP の LLM トークンは、基になるモデル(例:OpenAI ↗)の様式で測定され、プロンプトとレスポンスのサイズ、および行われるプロンプトの数に依存します。詳細については、各モデルタイプの使用表をご覧ください。
AIP Logic ブロックが実行されるか、ツールを使用することを選択すると、最小限のコンピュート秒が使用されます。
4
コンピュート秒8
コンピュート秒AIP Logic ブロックが計算を外部のツール(オントロジーのクエリや関数など)に委任すると、これらのアプリケーションの実行中に追加のコンピュートが使用される場合があります。
AIP Logic の一部の操作は、コンピュート使用に大きな影響を与える可能性があります。以下では、トークン使用、ロジックブロック実行の総数、Foundry コンピュートの使用に注意を払うことで、コンピュート使用を制御するためのガイダンスを提供します。
ユーザーが AIP Logic リソースを持っており、そのリソースには 2つの LLM ブロックがあると仮定します。LLM ブロックの1つにはアクションが設定されており、実行時にそれを呼び出します。ロジックリソースは最初から最後まで2回実行されます。
LLMブロックの数: 2
アクションを呼び出すLLMブロックの数: 1
実行回数: 2
1回の実行に必要な計算秒数 = 2つのLLMブロック * 4計算秒数 + 1つのアクションブロック * 8計算秒数
1回の実行に必要な計算秒数 = (2 * 4) + (1 * 8)
1回の実行に必要な計算秒数 = 16計算秒数
2回の実行 = 2 * 16計算秒数 = 32計算秒数
合計 = 32計算秒数