注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

関数内のレガシー言語モデル

レガシー

このページでは、関数内のレガシー言語モデルについて説明します。TypeScript v2 と Python については、プロキシエンドポイントとモデルエイリアスを使用するワークフローを参照してください。更新された TypeScript v1 の言語モデルは、画像認識やストリーミングなどの機能をサポートしています。更新された TypeScript v1 のモデルを使用するには、アップグレード手順に従ってください。

Palantir は、関数内で使用できる言語モデルを提供しています。Palantir が提供する LLM の詳細については、こちらを参照してください。

前提条件

Palantir が提供する言語モデルを使用するには、次の条件を満たしていることを確認してください。

エンロールメントで AIP が有効になっている。
AIP ビルダー機能を使用する権限がある。

言語モデルをインポートする

言語モデルを使い始めるには、次の手順に従って、関数を記述するコードリポジトリに使用するモデルをインポートする必要があります。

モデルのインポートサイドパネルに移動して開き、インポート済みのモデルをすべて表示します。

新しい言語モデルをインポートするには、リソースのインポートパネルの右上にある追加を選択し、モデルを選択します。新しいウィンドウが開き、Palantir が提供するモデルのうち、利用可能なモデルを表示できます。

Palantir が提供する LLM の一部を表示したモデルのインポートダイアログ。

また、Modeling Objectives アプリ、またはモデルの直接デプロイによって以前に作成されたカスタムモデルを表示できるタブもあります。これらのモデルの使用方法の詳細については、モデルに対する関数のドキュメントを参照してください。
インポートするモデルを選択し、選択を確定を選択して、これらのモデルをリポジトリにインポートします。タスクランナーが localDev タスクを実行し、これらのモデルを操作するためのコードバインディングを生成します。
言語モデルをインポートしたら、次のインポート文を追加することで、リポジトリ内で使用できます。GPT_4o を、リポジトリにインポートした言語モデルの名前に置き換えます。

Copied!1
import { GPT_4o } from "@foundry/models-api/language-models"

言語モデルを使用する関数を記述する

この段階で、インポートした言語モデルを使用する関数を記述できます。この例では、上記の説明に従って GPT_4o をインポート済みであると仮定します。

まず、ファイルに次のインポート文を追加します。

Copied!1
import { GPT_4o } from "@foundry/models-api/language-models"

各言語モデルでは、厳密に型付けされた入力と出力を持つ、生成されたメソッドを利用できます。たとえば、GPT_4o モデルには createChatCompletion メソッドがあり、ユーザーはメッセージに加えて、温度や最大トークン数など、モデルの動作を変更するための追加パラメーターを渡すことができます。

次の例では、提供されている GPT_4o モデルを使用して、ユーザーが入力したテキストに対して簡単な感情分析を実行します。この関数は、テキストを「Good」、「Bad」、または「Uncertain」に分類します。

Copied!1
2
3
4
5
6
7
8
9
10
11
@Function()
public async sentimentAnalysis(userPrompt: string): Promise<string> {
    const systemPrompt = "Provide an estimation of the sentiment the text the user has provided. \
    You may respond with either Good, Bad, or Uncertain. Only choose Good or Bad if you are overwhelmingly \
    sure that the text is either good or bad. If the text is neutral, or you are unable to determine, choose Uncertain."

    const systemMessage = { role: "SYSTEM", contents: [{ text: systemPrompt }] };
    const userMessage = { role: "USER", contents: [{ text: userPrompt }] };
    const gptResponse = await GPT_4o.createChatCompletion({messages: [systemMessage, userMessage], params: { temperature: 0.7 } });
    return gptResponse.choices[0].message.content ?? "Uncertain";
}

この関数は、プラットフォーム全体で使用できます。

埋め込み

Palantir は、生成言語モデルに加えて、埋め込みの生成に使用できるモデルも提供しています。簡単な例を以下に示します。

Copied!1
2
3
4
5
@Function()
public async generateEmbeddingsForText(inputs: string[]): Promise<Double[][]> {
    const response = await TextEmbeddingAda_002.createEmbeddings({ inputs });
    return response.embeddings;
}

これは、セマンティック検索のワークフローを実行するために最もよく使用されます。

パフォーマンスに関する考慮事項

一部のモデルにはレート制限が適用され、一定期間内に渡せるトークン数が制限される場合があります。この制限は、関数に適用される標準の制限と併せて適用されます。

注：AIP 機能の提供状況は変更される可能性があり、顧客によって異なる場合があります。

←

PREVIOUSFunctions 内の言語モデル

NEXTエイリアス / カスタムエイリアス

→