Transaction／High-impact Action Guardrails

発注、契約、支払、削除、権限変更は不可逆性・金銭・権利影響を伴う。AIの提案能力と、実行権限・人間監督・停止可能性を別に設計する必要がある。

governance / Enterprise AI Core / organization overlay / security / audit / legal-regulatory

EU AI Actの高リスクAIに対するhuman oversight、停止・override・automation bias対策は何を要求するか。それを一般企業の全transactionへ直接適用できるか。

• source class: official legislation / consolidated text; exact title: Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act); author/org: European Union, EUR-Lex; canonical URL: https://eur-lex.europa.eu/eli/reg/2024/1689/oj publication/update/access: current consolidated text shown 2026-07-27 / accessed 2026-09-13 JST; version/release/tag/commit/API revision/model ID: Regulation (EU) 2024/1689, current consolidated version; supporting locator: Article 14 lines 1270-1285（effective human oversight、理解・automation bias、interpretation、disregard/override/reverse、safe stop、特定biometric matchの二人確認）; Article 13 lines 1250-1269（capabilities/limitations、metrics、human oversight、logs）; evidence label: VERIFIED_SPEC + PRODUCT_VOLATILE; relation: support / limit.
• source class: official framework; exact title: AI Risk Management Framework; author/org: NIST AI Resource Center; canonical URL: https://airc.nist.gov/airmf-resources/ publication/update/access: AI RMF 1.0, revised version in progress / accessed 2026-09-13 JST; version/release/tag/commit/API revision/model ID: AI RMF 1.0; supporting locator: lines 32-35（voluntary use） and 58-63（Govern/Map/Measure/Manage、context/risk tolerance/resources Profiles）; evidence label: VERIFIED_SPEC + PRODUCT_VOLATILE; relation: context / limit.

EU AI Act Article 14は「高リスクAI」に対して、自然人による有効な監督、能力/限界の理解、automation biasへの注意、出力のoverride/reverse、safe stopを条文として要求する。Article 13はperformance limitationsとlogs等を instructions に含める。したがって、transaction guardrailとして提案・実行・承認・停止・監査を分離する設計は条文の方向性と整合する。しかし、台帳の「transaction/high-impact action」は企業運用上の分類であり、全発注・契約・支払・削除・権限変更がEU法上同じ高リスク分類になることは、この条文だけでは確立されない。NISTは任意利用であり法的義務ではない。

法域・用途・system classification・provider/deployer役割で義務が変わる。human-in-the-loopが形式的承認ボタンだけならrisk reductionを証明しない。stop buttonが存在しても既に送信/支払/削除された外部副作用を巻き戻せるとは限らない。

法域、AI system classification、provider/deployer status、用途・影響、権限/IAM、transaction API、二重承認、limits、実行前diff、監査ログ、kill switch、rollback/compensation手段を確認する。認証済み決済・契約・削除・権限変更試験は未実施。

default-deny capability、dry-run/proposal、risk tier、small limit、two-person or qualified approval、idempotency key、pre/post state、safe stop、reconcileを設計候補とする。実装・法務レビュー・実取引試験未実施。

synthetic transaction fixtureでamount/recipient/scope、policy classification、approval bypass、duplicate/retry、partial failure、cancel/rollback、audit completenessを測る。人間承認時間とfalse approvalを別計測する。

SECURITY/PRIVACY: least privilege、token scope、no production secret/payment data。AUDIT: proposed action、policy version、approver(s)、diff、idempotency、provider response、reconciliation。COST: approval/reconcile/human review、failed action。OPERABILITY: circuit breaker、rate/amount limit、dead-letter queue、manual recovery。

「EU AI Act Article 14は高リスクAIのhuman oversightとして、能力・限界の理解、automation biasへの注意、override/reverse、safe stop等を規定する。企業の全transactionを自動的に同一の高リスク分類へ置く根拠ではなく、実運用では法域・用途・権限・不可逆性を別途分類する。」

本文改訂では action type、reversibility、financial/rights impact、agent capability、approval、stop、rollback、reconcile、audit evidenceを横並びにする。EU AI Actの適用条文・ガイダンス更新と、対象国法務レビューを次回確認する。

具体的な企業actionの法的分類、各provider/APIのtransaction approval/rollback、human oversightの有効性、二重承認の必要条件、実際のincident/near-miss率、地域差。

高リスクというラベルだけで法的結論を出さない。承認ボタン・API成功・ログ存在を、損害防止・可逆性・法的適合の証拠としない。 UNIT_CLOSE_STATUS: INDIVIDUAL_BOUNDED_CLOSE / EVIDENCE_RECORDED / UNKNOWN_PRESERVED

---