Consent／Purpose 限界 × AI Data Use

AIで個人データを利用する際、同意を取得したことと現在のAI処理が許容されることは同義ではない。処理ごとに目的、データ、主体、処理段階、lawful basis、通知内容、再利用互換性、撤回・異議等の権利処理を結び付け、実行時にもその対応関係を検証する。

「AI改善」「サービス向上」のような包括語だけで開発・評価・推論・ログ解析・再学習・human review・安全性監視・第三者提供を一括しない。開発とdeploymentは異なるprocessing activityになり得るため、少なくとも処理段階、期待機能、利用文脈、controller/processor関係を記録する。

GDPRではconsentは複数あるlawful basisの一つである。consentを用いる場合はfreely given, specific, informed, unambiguousで、撤回可能性を含む要件を満たす必要がある。したがって「AIには必ず同意が必要」「privacy noticeに書けば同意済み」「opt-outがあるからconsent成立」とは扱わない。

新しいAI用途が元目的とcompatibleかという評価と、その処理にlawful basisが存在するかという評価は別gateである。UKの現行ICO guidanceも、purpose limitationのcompatibility rulesはlawful basis要件に追加されるもので、置換しないとしている。法域ごとの例外・互換性規則をcross-jurisdictionへ一般化しない。

各data flowについて少なくとも以下をversioned recordにする。 - data category/source/data-subject class - exact processing purpose - lifecycle stage（collection, training, fine-tuning, evaluation, inference, logging, review, retraining等） - controller/processor/recipient - lawful basisと適用法域 - consentに依拠する場合のconsent version・scope・timestamp・withdrawal path - compatibility assessmentと新目的 - retention/deletion propagation - model、retrieval、memory、logs、analytics等の派生先 - evidence/notice/DPIA等のlocator

データをLLM、RAG、memory、eval、trainingへ渡す前に、対象purposeとdata classがledger上で許可されるか確認する。許可不明、purpose drift、lawful-basis不明、撤回状態不明はALLOWへ推測せず、隔離・人手確認等のfail-closed側へrouteする。これは法的結論を自動化するという意味ではなく、既に承認されたpolicy decisionをruntimeへ投影する統制である。

consent withdrawalは、過去に適法だった処理を自動的に違法化するものではない一方、consent依存の将来処理を継続する根拠にはならない。撤回を受けたら、将来のcollection/inference/retraining等を停止する対象、既存store・derived artifact・modelへの影響、別lawful basisの有無を個別に判定する。モデルからの完全除去可能性を未検証のまま保証しない。

purpose limitationは「データ再利用を全面禁止する原則」ではない。法域によってcompatible reuse、research/statistical purpose等の扱いがあり、UKでは2025年法改正後のrulesもある。またAIモデルの匿名性はcase-by-caseであり、匿名化済みという前提だけでpurpose/lawful-basis gateを消さない。

• broad purposeでfunction creepを隠す
• consent UIとbackend purpose ledgerが非同期
• withdrawalがtraining queue、vector store、memory、logsへ伝播しない
• processor/subprocessorが異なるpurposeで二次利用する
• development purposeからdeployment purposeへ無検証で拡張する
• lawful basis、purpose compatibility、consentを単一booleanへ潰す
• jurisdiction/age/special-category条件をtenant全体へ一律適用する
• model由来情報やderived artifactsの削除可能性を過大評価する

「AIで個人データを使えるかは、同意の有無だけでは決まらない。目的、処理段階、法的根拠、再利用互換性、通知、権利処理を法域と実装境界ごとに確認し、承認済みpurposeをruntimeのdata-flow gateへ投影する。UNKNOWNを同意済み・互換ありと推測しない。」

対象組織の法域、controller/processor関係、data inventory、special-category/children data、lawful-basis decision、consent UX/version、withdrawal propagation、purpose ledger、subprocessor terms、retention/deletion、model training/retraining利用、匿名化判定、DPIA、tenant実挙動は未確認である。