センシティブデータ

このガイドでは、センシティブデータとは、適切な制御がなければ、プライバシー、セキュリティ、ビジネス、または個人の損害をもたらす可能性のある情報を指します。

センシティブデータは個人識別情報よりも広範囲です。個人データ、資格情報、金融記録、健康情報、雇用に関する詳細、機密ビジネス文書、プライベートなコミュニケーション、顧客記録、特許コード、セキュリティの発見、内部システムの詳細を含む可能性があります。

機密データの正確な法的意味は、管轄区域、ポリシー、業界、および文脈によって異なります。この記事は法的助言ではありません。AIの使用における実用的なセーフティの観点を提供します。情報の貼り付け、アップロード、検索、または生成の前には、その情報の公開が個人、顧客、雇用主、パートナー、製品、またはシステムに損害を与える可能性があるかどうかを尋ねてください。

AIツールはデータ共有を日常的に行うように感じさせます。ユーザーは数秒で契約書、サポートチケット、スプレッドシート、ソースファイル、医療記録、またはプライベートメッセージをチャットボックスに貼り付けることができます。そのスピードは役立ちますが、メール、ストレージ、分析、カスタマーシステムなどの同じ情報に対して通常適用されるチェックを回避する可能性があります。

NISTはプライバリスク管理を企業リスク管理の一部として扱い、個人に関するデータがシステム、製品、サービスを通じてどのように流れているかに注意を払っています[1]。ジェネレーティブAIはさらにワークフローの質問を追加します。つまり、どのデータがツールに送信されるか、ツールがどのデータを取得できるか、どのデータが保持されるか、誰がログを表示できるか、および出力がプライベートまたは機密情報である可能性があるかです[2]。

OWASPは、LLMおよび生成AIアプリケーションにおいて、個人情報、金融詳細、健康記録、機密ビジネスデータ、セキュリティ資格情報、および法的文書を含む、重大なリスクとして情報漏洩を説明しています [3]。これらの例は役立ちますが、これらがすべてではありません。より安全な習慣は、可能な損害と承認を考慮して考えるということです。

センシティブデータのリスクは、AIワークフローのいくつかのポイントで入る可能性があります。ユーザーがプロンプトにデータを貼り付けるかもしれません。製品がプライベートドキュメントを取得するかもしれません。ツールがデータベースを呼び出すかもしれません。ログがリクエストを保存するかもしれません。モデルの出力がソースの詳細を明らかにするかもしれません。同僚が元のデータが許可した範囲よりも広く出力を共有するかもしれません。

良い実践はデータ最小化から始まります。タスクに必要な情報の最小限を使用してください。必要ない場合は、名前、口座番号、シークレット、正確な住所、内部ID、不要な文書のセクションを削除してください。NISTプライバシーフレームワークは、組織のリスク戦略に一致したデータの管理を説明し、データ最小化をプライバシープリンシプルとして明確に識別しています[1]。

承認されたツールは重要です。異なるAI製品には、異なる利用条件、保持設定、管理者コントロール、トレーニング用オプション、ログの動作、およびデータ処理に関する合意があります。ユーザーは、すべての提供者がプロンプトでトレーニングされていると主張してはならず、どの提供者も決してそうしないと主張してはなりません。正しい質問は：この承認された製品、プラン、設定、契約では今日何が許可されていますか？

アクセス制御も重要です。検索拡張アシスタントは、ユーザーが見ることのできないドキュメントを検索してはなりません。コードアシスタントはリポジトリからのシークレットを暴露してはなりません。サポートツールは他の顧客の記録を明らかにしてはなりません。AIワークフローにおいても、他のソフトウェアと同じように、必要な情報のみを共有することが重要です。

マネージャーが従業員のフィードバックを要約するAIアシスタントを希望しています。元のファイルには名前、パフォーマンスの問題、医療休暇のノート、給与の懸念、プライベートな苦情が含まれています。全体を一般的なツールに貼り付けるのは、目的が無害であってもリスクがあります。

より良いワークフローは、ツールがそのデータクラスで承認されているかを確認することから始まります。マネージャーは名前や不要な詳細を削除し、要約に必要なテーマのみを保持し、元のファイルを承認されたシステムに保存し、個人の物語を明らかにしない集約された要約を要求します。それでも、共有する前に出力を再識別する手がかりがあるかを人間が確認する必要があります。

一般的な誤解は、情報の削除（redaction）が安全を保証するということです。情報の削除はリスクを軽減しますが、残っている詳細が個人、顧客、会社、出来事、またはシステムを特定できる場合、失敗する可能性があります。偽名化（pseudonymization）も直接的な特定を軽減しますが、他の手がかりが残っている場合、匿名性を保証するものではありません。

もう一つの誤解は、機密データとは個人データだけであるということです。プライベートなAPIキー、未発表の製品ロードマップ、顧客契約、脆弱性報告、特許技術のスニペット、販売パイプライン、または内部調査は、個人名を含まない場合でも機密データである可能性があります。

センシティブデータのミスは、プライバシーの被害、アカウントの侵害、顧客の信頼喪失、知的財産の暴露、雇用上の被害、規制の審査、またはセキュリティインシデントにつながる可能性があります。リスクは、プロンプト、取得されたドキュメント、生成された出力、ログ、プラグイン、共有されたリンク、またはコピーされた要約から生じる可能性があります。

リスク低減は保証ではありません。承認されたツール、アクセス制御、マスキング、擬似化、保持設定、契約上の制御はすべて役立ちますが、すべての使用を安全にすることはできません。データが非常に機密性が高かったり、ルールが明確でなかったりする場合、所有者がワークフローを承認するまでAIツールを使用しないことが最も安全な選択肢であるかもしれません。

AIでデータを使用する前に、次の質問をしてください。このツールはこのデータに対して承認されていますか？このタスクには元のデータが必要ですか？識別子や詳細を削除できますか？出力が個人、顧客、秘密、契約、コードベース、またはシステムを暴露する可能性がありますか？ログや共有された会話を見ることができる人は誰ですか？保持およびトレーニング使用の設定はどのようなものですか？

不明な場合は、より厳格なルールに従ってください。承認されたツールを使用し、最小限の権限、必要最低限の情報共有、文書化された保持を実施してください。承認されていないシステムに資格情報、シークレット、プライベートな顧客記録、機密文書を貼り付けないでください。疑問がある場合は、情報所有者またはセキュリティ/プライバシー担当者に共有の前に相談してください。