Model Catalog

Model CatalogはFoundryのAIPアプリケーションで、Palantirが提供するすべてのモデルの発見と方向性を支援するために作成されました。

Model Catalogは以下のことを可能にします：

• AIPで利用可能なモデルを表示し、新しいモデルを見つけることができます。
• ユースケースに適したモデルを選択することができます。今後のアップデートでは、比較と意思決定のためのさらに多くのツールとベンチマークが提供される予定です。
• Marketplaceを通じて基本的なテンプレートとユースケーステンプレートの両方を使用してワークフローを開始することができます。
• サンドボックス/プレイグラウンドを使用して異なるモデルをテストすることができます。

Model Catalogには主に2つのビューがあります：

• Model Catalog ホームページ
• モデルエンティティページ

Model Catalog ホームページ

Model Catalog ホームページは発見とナビゲーションのインターフェースで、ユーザーのFoundryエンロールメントで利用可能なすべての大規模言語モデルを表示します。 ホームページでモデルを分類する方法はいくつかあります：

• モデルタイプ
  • Completion Model: コンテキストに関連するテキストを生成し、入力テキストを予測して完成させるモデルです。コンテンツ生成、自動補完、翻訳、質問応答などのタスクに適しています。たとえば、GPT-4 Turbo、Mixtral 8x7B、Llama2 70B Chat。
  • Embedding Model: 単語や文のような離散データを連続ベクトル表現に変換するモデルです。主にセマンティック検索やその他の情報検索ユースケースに使用されます。たとえば、text-embedding-ada-002やInstructor Large。
  • Vision Model: 視覚入力を分析し解釈するために訓練されたモデルで、物体の認識、画像の分類、および画像やビデオデータのさまざまなコンピュータービジョンタスクをサポートします。たとえば、GPT-4 VisionやGemini Pro Vision。
• ステータス
  • Experimental: モデルプロバイダーやPalantirによって実験的と見なされるモデルで、APIが変更される可能性があり、トークン容量が制限されるか、モデルが廃止される可能性があります。これらのモデルは通常、探索とテストに使用され、長期的な安定性とサポートには重点が置かれません。たとえば、現在実験的と見なされているGemini Pro Vision。
    • ほとんどのエンロールメントは「Stable」ライフサイクルステージ内のモデルのみを表示するように設定されています。実験的なモデルにアクセスするには、Palantirサポートに連絡してください。
  • Stable: ステーブル、または一般利用可能なモデルは、プロバイダーとPalantirの両方から信頼されるソリューションで、堅牢な機能と保証されたサポートを提供し、長期的な使用に適しています。GPT-4oやLlama3.1はステーブルモデルの例です。
  • Sunset: サンセットモデルは今後数ヶ月で廃止される予定です。サンセットモデルは廃止予定日以降、新しいワークフローをサポートすることはできませんが、既存のワークフローをサポートすることはできます。ステーブルモデルに比べて、サンセットモデルは同じレベルの技術サポートを受けることができません。GPT-4は、GPT-4oに置き換えられるため、サンセットモデルの例です。
  • Deprecated: Palantirはサンセット期間が終了した後、モデルプロバイダーと協力してモデルをFoundryから削除または廃止します。廃止されたモデルは既存のワークフローをサポートすることができず、新しいAPIコールもサポートできません。そのため、モデルの廃止前にプロジェクトをステーブルモデルに移行する必要があります。Foundryは廃止されたモデルの履歴データとログを保持し、アクセス可能にします。

• モデルクリエイター
  • モデルクリエイターは、特定のLLMを作成、開発、および維持する責任を持つ組織です。たとえば、Azure OpenAI、Anthropic、Google Gemini、Mixtral AIなどがあります。モデルクリエイターは、OpenAIを通じてAzure、Anthropicを通じてAWSなど、他の組織とのパートナーシップを通じてLLMを提供することもあります。一部のモデルはPalantir自体によって提供され、ホストされることもあります。たとえば、LlamaやMixtralです。

モデルが利用できない、またはグレーアウトされている場合、それはエンロールメントで有効になっていないことを意味します。モデルを有効にするには、プラットフォーム管理者またはPalantirの担当者に連絡してください。 モデルの有効化についてさらに詳しく学んでください。

モデルエンティティページ

各モデルには3つの主要セクションを持つエンティティページがあります：

• Playground: ビルダーがさまざまなモデルを試すためのインターフェース。
• 使用方法: ワークフローの構築を開始するために必要なコンテンツで既に入力されたリソースを作成して開始します。Model Catalogは現在、FunctionsとTransformsをサポートしています。
• モデルの説明: 基本的な説明、法的免責事項、トークン制限やトレーニングデータのカットオフなどのモデルのコンテキストウィンドウ、およびその他の情報。

モデル比較ページ

Model Catalogの比較ページでは、ビルダーがさまざまなLLMのパフォーマンスを効率的に比較および評価することができます。インターフェースでは、2つのLLMを選択し、同じcompletionまたはvisionタスクでテストすることができます。これにより、情報に基づいた意思決定が可能になり、ビルダーがワークフローに最適なモデルを迅速に選択できるようになります。