注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。
Palantir では、責任ある AI は後から付け加えるものではなく、テクノロジーを構築するうえでの基盤であると考えています。私たちのアプローチは、システムのライフサイクル全体を通じて責任ある AI の利用を可能にするソフトウェアの開発を中心としています。倫理的な配慮はモデル開発だけにとどまらず、データ基盤や処理パイプラインから、ユーザーインターフェースや人間の意思決定ワークフローまで、技術システム全体に及ぶものと捉えています。倫理的な配慮を独立したコンプライアンス要件として扱うのではなく、開発ライフサイクル全体に責任ある AI のための機能を統合しています。
このドキュメントでは、Palantir の AI プラットフォーム (AIP) が、責任ある AI 開発の8つの中核テーマをどのようにサポートするか、その概要を説明します。各テーマでは、原則と、ユーザーが信頼できる AI システムを実際に構築するうえで役立つ機能やワークフローを結び付けています。このガイダンスの背景にある、より広範なプライバシーと市民的自由の原則、および製品の機能については、プライバシーと市民的自由の実践をご覧ください。
AI システムは、幅広い人々を包摂し、誰もが利用できるものであるべきであり、個人や集団に対する不当な差別をもたらすべきではありません。
AIP は、データ内のバイアスの要因を特定し、モデルのバイアスを評価し、モデルの利用中に公平性に関する懸念を監視するための機能を提供します。
チームは、Sensitive Data Scanner とデータの正常性監視を使用して、モデル開発を開始する前にデータ基盤内の保護対象属性や不均衡を検出し、データ準備プロセスの早い段階で公平性のリスクを特定できます。これにより、データレベルで潜在的なバイアスに対処できます。ただし、高品質なデータを使用していても、モデル自体からバイアスが生じることがあります。そのため、Modeling Objectives によるサブセット評価と AIP Evals の両方が、人口統計上のグループ間でモデルの性能に差がないかを検出するための体系的なテストを提供します。いずれかのレベルでバイアスが検出された場合、チームは再サンプリング、代表性のあるデータの追加収集、アルゴリズムによるアプローチの調整など、対象を絞った軽減策を実施できます。
AI システムはブラックボックスであるべきではありません。AI システムへの信頼を築くには、ユーザーがその仕組みを可能な限り理解できるようにするべきです。
AIP は、生成 AI の推論のデバッグから従来型モデルの性能評価まで、AI システムの仕組みをユーザーが理解するためのツールを提供します。
バージョン管理システムは、開発プロセス全体を通じて、モデル開発における意思決定とその根拠を自動的に記録します。生成 AI システムでは、AIP Logic のデバッグ表示によって、LLM がどのようにタスクを調整し、説明可能なツールに委任するかをリアルタイムで可視化します。また、オントロジーと AIP の観測可能性は、チームがシステムの動作を理解するのに役立つ包括的な実行トレースを提供します。チームは、LLM による処理だけに頼るのではなく、AIP Logic ツールを使用して特定のタスクを解釈可能なコンポーネントに委任することで、より透明性の高いシステムを設計できます。AIP Evals と Modeling Objectives を通じたテストおよび評価のアプローチは、技術チームとビジネス部門の関係者の両方が理解しやすい形式でモデルの性能メトリクスを提示することで、これらの機能を補完します。
AI システムは、ライフサイクル全体を通じて安全性、セキュリティ、有効性を評価する機能を備えるように構築する必要があります。
AIP は、AI システムのセキュアで管理されたデプロイと継続的な監視を可能にし、ライフサイクル全体を通じて安全性と信頼性を確保します。
アクセス制御とデータマーキングにより、最初からセキュリティの境界を確立し、地理的制限によってモデルのリクエストとレスポンスが規制に準拠した管轄区域内にとどまるようにします。保存時および転送時の暗号化は、AI 開発ライフサイクル全体を通じて情報を保護します。モデルのデプロイとプレリリース関数により、本番リリース前の段階的なテスト手順を必須にできます。また、容量制限は、予期しない LLM 使用量の急増によるサービスの中断を防ぎます。リアルタイム監視システムは、セキュリティ、性能、運用メトリクスを継続的に監視し、ロールバック機能によって問題の検出時に即座に対応できます。
AI システムは、関連する開発プロセス、データソース、モデル構築に使用したすべてのデータの来歴を記録する機能を提供する必要があります。
AIP は、データの来歴からデプロイの決定に至るまで、AI 開発ライフサイクル全体にわたる包括的なドキュメントと監査証跡を自動的に記録します。
Data Lineage は、データが処理パイプラインを流れる際に来歴情報を自動的に記録し、データソースと変換をすべて可視化します。Workflow Lineage は、アプリケーションのロジックと意思決定ワークフローに AI がどのように活用されているかを可視化します。監査ログはすべてのシステムインタラクションと意思決定を記録し、LLM コストガバナンスはリソース消費量と費用を追跡することで、AI システムの運用の透明性を高めます。Notepad のドキュメントテンプレートと Modeling Objectives のドキュメントにより、チームは、規制当局による審査や内部監査に適した形式でプロジェクト情報、評価結果、意思決定の根拠を一元化した、標準化された記録を作成できます。
AI システムの構築は、科学者、エンジニア、ドメイン専門家、その他のステークホルダーが協力する学際的なプロセスである必要があります。
AIP は、柔軟なアクセス制御、共有開発環境、さまざまなスキルレベルのユーザーが利用できる評価フレームワークを通じて、多様なステークホルダーの連携を支援します。
ロールベースの権限と体系的な承認ワークフローにより、プロジェクトの開始時から明確な連携の枠組みを確立します。Code Workspaces と Code Repositories は、技術者と非技術者が AI 開発に共同で取り組める環境を提供します。Workshop のツールは、異なる分野間でのリアルタイムの共同分析を可能にし、外部データ共有の制御は安全なパートナーシップを促進します。柔軟な評価フレームワークにより、ドメイン専門家、コンプライアンス担当者、技術チームが個別に作業するのではなく、開発プロセスの適切な時点でそれぞれの専門知識を活かせるようにします。
AI システムのさまざまな部分を担当する人々の役割とワークフローを明確に定義する必要があります。
AIP は、Granular Permissions、包括的な監査証跡、体系化された承認ワークフローを通じて、責任の所在とつながりを明確にします。
Granular Permissions の管理により、AI ライフサイクル全体を通じて誰がどの操作を行えるかを定義し、最初から明確な説明責任の体制を確立します。完全な監査証跡によって意思決定者とその根拠が自動的に記録され、ガバナンスチームは Audit Explorer でそれらを確認できます。チェックと Checkpoint による体系化された承認ワークフローは、体系的なレビュープロセスを構築します。特に Checkpoints では、運用ワークフローで AI が提案する意思決定を関係者が了承し、その理由を提示できます。これにより、手作業での追加の追跡を必要とせずに、監査と検証が可能な、透明性のある責任のつながりが構築されます。
AI システムは、個人、社会、環境全体に利益をもたらす必要があります。人間の意思決定を置き換えるのではなく、強化する必要があります。
AIP は、体系化された意思決定支援フレームワークと人間による監督を必須とする仕組みを通じて、AI が人間の意思決定を置き換えるのではなく、強化することを保証します。
オントロジーに基づく意思決定支援フレームワークは、人間の主体性と意思決定権を維持する体系化されたワークフローの中で、AI のインサイトを提示します。アクションと承認プロセスによる人間の監督ワークフローは、重要な意思決定が引き続き人間の管理下にあることを保証します。ダッシュボードと可視化機能は、複雑な AI の出力を、十分な情報を踏まえて人間が判断できる形式に変換します。また、人間による Checkpoint を伴うワークフローの自動化は、重要な意思決定段階で適切な監督を保証します。オプトアウトとフォールバックの仕組みをアプリケーションに組み込むことで、AI 支援プロセスに対するユーザーの管理権を維持できます。フィードバックループの統合は、人間の意思決定を収集して AI の推奨事項を継続的に改善し、人間の専門性を置き換えるのではなく強化する、協働型の知能活用アプローチを構築します。
Palantir の AI プラットフォームは、責任ある AI を場当たり的なものではなく、体系的なものにします。このプラットフォームは、スキルレベルや専門分野を問わず、すべてのユーザーを、責任ある AI の原則を組み込んだ確立されたワークフローへと導きます。
責任ある AI は、イノベーションの制約ではありません。むしろ、重要な意思決定に利用できるほどの信頼性を AI システムにもたらすものです。Palantir は、開発ライフサイクルのあらゆる側面に責任ある AI の原則を組み込み、技術的に高度であるだけでなく、倫理的に健全で、運用上も信頼できる AI システムを組織が構築できるようにします。
AI のデプロイを取り巻く状況全体を考慮した統合的なアプローチを採ることで、ユーザーが責任とガバナンスに関する最高水準を維持しながら、最も困難な課題を解決できるよう支援します。