注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。
Palantir では、責任ある AI は後から付け加えるものではないと考えています。むしろ、テクノロジーを構築するうえでの根幹です。私たちのアプローチは、システムのライフサイクル全体を通じて責任ある AI の利用を可能にするソフトウェアの開発を中心としています。倫理的な考慮事項はモデル開発だけにとどまらず、データ基盤や処理パイプラインから、ユーザーインターフェースや人間の意思決定ワークフローに至るまで、テクノロジーシステム全体に及ぶものと捉えています。私たちのプラットフォームでは、倫理的な考慮事項を独立したコンプライアンス要件として扱うのではなく、開発ライフサイクル全体に責任ある AI の機能を組み込んでいます。
このドキュメントでは、責任ある AI 開発の8つの中核テーマを Palantir の AI プラットフォーム（AIP）がどのようにサポートするか、その概要を説明します。各テーマでは、信頼できる AI システムを実際に構築する際に役立つ機能やワークフローと、原則を結び付けています。このガイダンスの背景にある、より広範なプライバシーと市民的自由の原則および製品機能については、プライバシーと市民的自由の実践を参照してください。
AI システムは包摂的でアクセスしやすく、個人や集団に対する不当な差別をもたらすものであってはなりません。
AIP は、データ内のバイアスの原因を特定し、モデルのバイアスを評価し、モデルの利用中に公平性に関する懸念を監視するための機能を備えています。
チームは、Sensitive Data Scanner とデータヘルスの監視を使用して、モデル開発が始まる前にデータ基盤の保護対象属性や不均衡を検出し、データ準備プロセスの早い段階で公平性のリスクを特定できます。これは、データレベルでの潜在的なバイアスに対処するものです。ただし、高品質なデータを使用していても、モデル自体からバイアスが生じる可能性があります。そのため、Modeling Objectives によるサブセット評価と AIP Evals は、いずれも人口統計学的な集団間におけるモデル性能の不均衡を検出するための体系的なテストを提供します。いずれかのレベルでバイアスが検出された場合、チームは再サンプリング、代表性のあるデータの追加収集、アルゴリズムのアプローチの調整など、対象を絞った緩和策を実施できます。
AI システムはブラックボックスであってはなりません。AI システムへの信頼を築くために、ユーザーはその仕組みを可能な限り理解できる必要があります。
AIP は、生成 AI の推論のデバッグから従来型のモデルの性能評価まで、AI システムの仕組みをユーザーが理解するためのツールを提供します。
バージョン管理システムは、開発プロセス全体を通じて、モデル開発における決定とその根拠を自動的に記録します。生成 AI システムでは、AIP Logic のデバッグ表示によって、LLM がタスクをどのようにオーケストレーションし、説明可能なツールに委任するかをリアルタイムで可視化できます。また、オントロジーと AIP の観測可能性は、チームによるシステムの挙動の理解に役立つ包括的な実行トレースを提供します。チームは、LLM による処理のみに依存するのではなく、AIP Logic ツールを使用して特定のタスクを解釈可能なコンポーネントに委任することで、より透明性の高いシステムを設計できます。AIP Evals と Modeling Objectives によるテストと評価のアプローチは、技術チームとビジネスの関係者の両方にわかりやすい形式でモデルの性能メトリクスを提示することで、これらの機能を補完します。
AI システムは、ライフサイクル全体を通じて安全性、セキュリティ、有効性を評価する機能を備えるように構築する必要があります。
AIP は、AI システムの安全かつ制御されたデプロイと継続的な監視を可能にし、ライフサイクル全体を通じて安全性と信頼性を確保します。
アクセス制御とデータマーキングは、最初からセキュリティの境界を確立します。また、地理的制限により、モデルのリクエストとレスポンスが規制に準拠した管轄区域内にとどまるようにします。保存時および転送時の暗号化は、AI 開発ライフサイクル全体を通じて情報を保護します。モデルのデプロイとプレリリースの関数により、本番リリース前の段階的なテスト手順を徹底できる一方、容量制限は予期しない LLM 使用量の急増によるサービスの中断を防ぎます。リアルタイム監視システムは、セキュリティ、パフォーマンス、運用のメトリクスを継続的に監視し、ロールバック機能により、問題が検出されたときに即座に対応できます。
AI システムは、関連する開発プロセス、データソース、モデルの構築に使用されるすべてのデータの来歴を文書化する機能を備える必要があります。
AIP は、データの来歴からデプロイに関する意思決定まで、AI 開発ライフサイクル全体にわたる包括的なドキュメントと監査証跡を自動的に記録します。
Data Lineage は、データが処理パイプラインを流れる際に来歴情報を自動的に記録し、データソースと変換をすべて可視化します。Workflow Lineage は、AI がアプリケーションのロジックと意思決定ワークフローをどのように支えているかを可視化します。監査ログは、すべてのシステムインタラクションと意思決定を記録します。また、LLM コストガバナンスはリソース消費と費用を追跡し、AI システムの運用の透明性を高めます。Notepad のドキュメントテンプレートと Modeling Objectives のドキュメントにより、チームは、プロジェクト情報、評価結果、意思決定の根拠を一元化した標準的な記録を、規制当局による審査や内部監査に適した形式で作成できます。
AI システムの構築は、科学者、エンジニア、分野の専門家、その他の関係者が協力する、分野横断的なプロセスである必要があります。
AIP は、柔軟なアクセス制御、共有開発環境、さまざまなスキルレベルのユーザーが利用できる評価フレームワークを通じて、多様な関係者の協働を支援します。
ロールベースの権限と体系化された承認ワークフローは、プロジェクト開始時から明確な協働の枠組みを確立します。Code Workspaces と Code Repositories は、技術系と非技術系の参加者が AI 開発に共同で取り組める環境を提供します。Workshop のツールは、異なる分野にまたがるリアルタイムの共同分析を可能にし、外部とのデータ共有の制御は安全なパートナーシップを促進します。柔軟な評価フレームワークにより、分野の専門家、コンプライアンス担当者、技術チームは、個別に作業するのではなく、開発プロセスの適切な時点でそれぞれの専門知識を生かして貢献できます。
AI システムのさまざまな部分に責任を持つ人々について、ロールとワークフローを明確に定義する必要があります。
AIP は、Granular Permissions、包括的な監査証跡、体系的な承認ワークフローを通じて、責任の所在を明確にします。
Granular Permissions の管理は、AI のライフサイクル全体で誰がどのアクションを実行できるかを定義し、最初から明確な責任体制を確立します。完全な監査証跡が意思決定者とその根拠を自動的に記録する一方、チェックと Checkpoint による体系的な承認ワークフローが、組織的なレビュープロセスを確立します。特に Checkpoint を使用すると、関係者は業務ワークフローで AI が提案した意思決定を確認し、その根拠を示すことができます。これにより、追加の手動追跡作業を必要とせずに、監査と検証が可能な、透明性の高い責任体制が確立されます。
AI システムは、個人、社会、環境全体に利益をもたらす必要があります。人間の意思決定に取って代わるのではなく、それを強化する必要があります。
AIP は、体系的な意思決定支援の枠組みと、人間による監督を必須とする仕組みを通じて、AI が人間の意思決定に取って代わるのではなく、それを強化することを保証します。
オントロジーに基づく意思決定支援の枠組みは、人間の主体性と意思決定権限を維持する体系的なワークフローの中で、AI のインサイトを提示します。アクションと承認プロセスによる人間の監督ワークフローは、重要な意思決定が引き続き人間の管理下に置かれることを保証します。ダッシュボードと可視化機能は、複雑な AI の出力を、十分な情報を踏まえた人間の判断を可能にする形式に変換します。また、人間による確認のための Checkpoint を備えたワークフローの自動化は、重要な意思決定段階で適切な監督を確保します。オプトアウトとフォールバックの仕組みをアプリケーションに組み込むことで、AI が支援するプロセスに対する管理権限をユーザーが維持できるように設計できます。フィードバックループの統合は、人間の意思決定を取り込んで AI の推奨事項を継続的に改善し、人間の専門知識に取って代わるのではなく、それを強化する協働型のインテリジェンスのアプローチを実現します。
Palantir の AI プラットフォームは、責任ある AI を場当たり的ではなく、体系的に実践できるようにします。このプラットフォームは、責任ある AI の原則を組み込んだ確立されたワークフローを通じて、あらゆるスキルレベルと専門分野のユーザーを導きます。
責任ある AI は、イノベーションを制約するものではありません。むしろ、重要な意思決定に使用できるほど AI システムの信頼性を高めるものです。Palantir は、開発ライフサイクルのあらゆる側面に責任ある AI の原則を組み込み、技術的に高度であるだけでなく、倫理的に健全で、運用面でも信頼できる AI システムを組織が構築できるようにします。
AI のデプロイを取り巻く状況全体を考慮する統合的なアプローチにより、ユーザーが責任とガバナンスの最高水準を維持しながら、最も困難な課題を解決できるよう支援します。