Documentation
ドキュメントの検索
karat

+

K

APIリファレンス ↗
プラットフォームの概要AIP LogicAIP Logic よくある質問

注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

AIP Logic よくある質問

このページでは、AIP Logic アプリケーションに関するよくある質問について詳しく述べています。

AIP Logic をプラットフォーム全体とどのように連携させることができますか？

ロジック関数の使用方法に関するドキュメントを確認してください。

トークン数を減らすにはどうすればいいですか？

AIP Logic でのすべてのアクティビティは、ツールのレスポンスを含めてトークン制限にカウントされます。トークン制限は、ブロックごとにリセットされます。デバッガーで各メッセージの最後に使用されたトークン数を確認できます。バーが赤い場合は、トークン数を減らして信頼性のあるパフォーマンスを実現することを検討してください。

トークン数を減らすために、以下の手順をお勧めします。

  • 入力オブジェクトから必要な特定のプロパティを選択するか、クエリ対象となるオブジェクトのプロパティを指定して、LLM が送受信する文字列 (OBJECT_NAME property1 property2 など) のサイズを減らします。デバッガーで Show raw を選択すると確認できます。
  • Query objects ツールを使用する場合は、LLM に送信するプロパティのサブセットを選択します。
  • 複数の Use LLM ブロックに 1 つのブロックを分割することを検討してください。各ブロックにはトークン制限があるため、ブロックを中間ステップに分割してみることができます。
  • LLM モデルを 32k に変更します。

ロジック関数を 1 つのブロックにまとめるか、複数のブロックに分割すべきかはいつ決めるべきですか？

LLM の機能を試す際に大幅な変更を素早く簡単に行うことができるため、1 つの大きなブロックにまとめることが有益ですが、次のような場合はロジックを複数のブロックに分割することが望ましいかもしれません。

  • LLM に複数のステップを実行させたいが、結果が一貫しない場合。
  • ブロックがコンテキスト制限に達している場合。
  • 各実行が実行に時間がかかりすぎる場合。

複数のブロックに分割することで、以下の利点が得られます。

  • LLM は引き渡された情報にのみアクセスできます。1 つの大きなブロック内の中間結果は、潜在的に無関係な場合があります。
  • トークンが不足する可能性が低くなります。
  • 複数の小さなタスクは、1 つの長いタスクよりも実行が速くなる可能性があります。

AIP Logic ブロックのパフォーマンスを向上させるにはどうすればいいですか？

AIP Logic ブロックのパフォーマンスを向上させるために、以下の提案を試してみてください。

  • 入力 / 出力ペアの例を 5 ～ 10 個選択し、プロンプトを変更するたびにこれらを実行します。これらを AIP Logic のユニットテストとして保存します。
  • LLM に対して、いくつかのショットの例を提供します。これにより、タスクをモデルにとってより理解しやすくすることで、LLM のパフォーマンスが大幅に向上する可能性があります。LLM が参照するシステムプロンプトを入力できます。
  • 意外な失敗が発生している場合は、LLM がデータの正しい「理解」を持っているかどうかを検証します。LLM に問題の理解と計画を説明させることで、どのようなコンテキストが欠けているかの洞察が得られます。
  • ダイナミックないくつかのショットの例を持つフィードバックループを構築することを検討してください。

LLM や他のモデルパラメーターの温度を変更する方法はありますか？

Use LLM ブロックの Configuration テキストフィールドで温度を編集することにより、LLM の 温度（LLM の応答のランダム性を表すパラメーター）を変更できます。デフォルトの温度は 0 です。温度が低いほど、出力はより決定論的になります。

例のコード:

Copied!
1
2
3
{
    "temperature": 0.9  // "temperature"は温度を指しますが、ここでは0.9という値が設定されています。
}

Logic を使用してセマンティック検索のワークフローをサポートすることは可能ですか？

はい、現在では Logic がアクションを通じてもしくはオブジェクト上の関数を書いて AIP Logic から呼び出すことにより、オントロジーでセマンティック検索を実行するツールを追加することができます。詳しくはセマンティック検索ワークフローチュートリアルをご覧ください。

LLM はどのようにしてフィードバックから「学習」できますか？

次のデザインパターンを使用すると、ユーザーのワークフローに合わせて LLM にフィードバックから「学習」させることができます：

  1. LLM が推奨を出すたびに、(1) 推奨と (2) 推奨の理由をキャプチャします。次に、Logic 関数を Workshop に接続し、人間のレビュープロセスを組み込む際に、(3) 人間からのフィードバックと (4) 正しい人間による検証済みの決定を書き戻します。この例では、この書き戻しオブジェクトを「Suggestion」オブジェクトと呼ぶことにしましょう。
  2. Logic 関数で、LLM が「Suggestion」オブジェクトに対してクエリオブジェクトツールを使用できるようにし、LLM が同じ推奨を出した他のインスタンスを検索します。LLM に人間のフィードバックを処理させ、その後、LLM の推奨を進行するかどうかを LLM にクエリします。

Logic の出力が正しいことをどのように確認できますか？

Logic にユニットテストを追加することで、関数が与えられた入力で正常に実行されたかどうかをテストすることができます（手動）。

Logic の以前のバージョンを見ることはできますか？

はい、バージョン履歴サイドバーを使用して以前に保存されたバージョンを見たり、以前のバージョンに戻ることができます。

リストから以前のバージョンを選択して、現在の状態と比較します。

AIP Logic 過去のバージョンパネルとプレビュー。

1つの LLM ブロックが複数の値を返すことはできますか？

はい。"Struct" 出力タイプを使用すると、複数の名前付き値を返すことができます。

要求された変数名と値の出力を示す。

ツールが LLM ブロックに与えるオブジェクトの数を設定できますか？

はい、LLM ブロックの Function ツールに Object Query ツールを追加する際に、オブジェクトの返り値制限を設定するを選択して、任意のツール使用から返すオブジェクトの数を選択できます。

オブジェクトの返り値制限を設定するオプション。

AIP Logic Debugger では関数が正常に実行されるのに、Workshop または API 経由で呼び出した場合には失敗するのはなぜですか？

Debugger で AIP Logic 関数をテストおよび開発する際には、関数は 5 分間の実行時間制限の対象外です。しかし、関数が Workshop 環境または関数実行 API から呼び出される場合、5 分間の実行時間制限が適用されます。