Documentation
ドキュメントの検索
karat

+

K

APIリファレンス ↗
オントロジーの構築概要AIP Logic よくある質問

注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

AIP Logic よくある質問

このページでは、AIP Logic アプリケーションに関するよくある質問について説明します。

AIP Logic をプラットフォーム全体とどのように連携させることができますか？

ロジック機能を使用する方法に関するドキュメントを確認してください。

トークン数を減らす方法は？

AIP Logic でのすべてのアクティビティはトークン制限にカウントされます。これにはツールの応答も含まれます。トークン制限はブロックごとにリセットされます。デバッガーで各メッセージの最後に使用されたトークン数を確認できます。バーが赤い場合は、トークン数を減らして信頼性のあるパフォーマンスを確保してください。

トークン数を減らすために、以下の手順をお勧めします。

  • 入力オブジェクトから必要な特定のプロパティを選択するか、クエリするオブジェクトプロパティを指定して、LLM が送受信する文字列（オブジェクト名 プロパティ1 プロパティ2 など）のサイズを減らします。これはデバッガで Show raw を選択することで確認できます。
  • オブジェクトをクエリする ツールを使用する場合は、LLM に送信するプロパティのサブセットを選択します。
  • 単一のブロックを複数の LLM を使用する ブロックに分割することを検討してください。各ブロックにはトークン制限があるため、ブロックを中間段階に分割して試すことができます。
  • LLM モデルを 32k に変更します。
  • 可能な限り、変換ブロック、実行ブロック、および アクションを適用するブロック などの決定的なブロックを使用してください。これらのブロックは、より予測可能な結果を生み出し、トークンを使用しないため、ロジックがより効率的で管理しやすくなります。

ロジック機能を 1 つのブロックにまとめるべきか、複数のブロックに分割すべきか？

単一の大きなブロックでは、LLM の機能を試す際に素早く簡単に大きな変更を加えることができますが、次のような場合はロジックを複数のブロックに分割することが望ましいかもしれません。

  • LLM に複数のステップを実行させたい場合や、結果が一貫性がない場合。
  • ブロックがコンテキスト制限に達している場合。
  • 各実行が実行に時間がかかる場合。

複数のブロックに分割することで、次のような利点が得られます。

  • LLM は渡されたものだけにアクセスできます。単一の大きなブロック内の中間結果は、場合によっては関係がない可能性があります。
  • トークンが不足する可能性が低くなります。
  • 複数の小さなタスクは、1 つの長いタスクよりも実行が速くなる可能性があります。

AIP Logic ブロックのパフォーマンスを向上させる方法は？

AIP Logic ブロックのパフォーマンスを向上させるために、以下の提案を試してみてください。

  • 入力/出力ペアの例を 5 ～ 10 件選び、プロンプトを変更するたびに実行します。これらを AIP Logic の単体テストとして保存しておきます。
  • LLM にフューショット例を提供します。これにより、タスクがモデルにとってより理解しやすくなり、LLM のパフォーマンスが大幅に向上することがあります。LLM が参照するためのシステムプロンプトを入力できます。
  • 予期しない失敗が発生している場合は、データの正しい「理解」を持っているかどうかを確認するために、LLM に問題の理解と計画を説明させます。これにより、欠けているコンテキストがわかります。
  • フィードバックループを構築して、動的なフューショット例を使用することを検討してください。
  • 変換ブロック、実行ブロック、および アクションを適用するブロック などの決定的な変換ボードを使用してください。

LLM の温度や他のモデルパラメーターを変更する方法はありますか？

LLM の 温度 を変更することができます。温度は、LLM の応答のランダム性を表すパラメーターです。LLM を使用する ブロックの Configuration テキストフィールドで温度を編集することができます。デフォルトの温度は 0 です。温度が低いほど、出力はより決定的になります。

例のコード：