AIが使えない状況から安全に手動運用へ戻る訓練

AIの停止時に「人が代わる」と定めても、その人が必要な情報・権限・技能・処理時間を持つとは限りません。手動復帰訓練は、自動処理を止め、残った仕事の状態を確かめ、限定した業務を人が引き継ぎ、復旧後の重複や取りこぼしまで照合する練習です。手順書が存在することと、現在の担当者が実行できることを区別します。

Google SREの教育事例は、現実的で封じ込めた故障と実際の監視・ツールを使う訓練や、災害のロールプレイを取り上げています[S1: SRE education practices / Disaster Role Playing]。インシデント対応の章にも、顧客へ実際の影響を与えずに制御した緊急事態を作る訓練の説明があります[S2: Prepare]。ここから得られるのは、紙上の手順確認と、制御された実行訓練を段階的に組み合わせる考え方です。

米国運輸省OIGの2016年の監査は、航空機の自動化の監視と手動操縦技能の評価に関する課題を報告しました[S3: report summary / recommendations]。二件の勧告は2017年に閉じられています。現行の航空規制違反や、AI業務の技能喪失率を示す証拠として使いません。自動化を利用しているだけでは異常時の引継ぎ技能を保証できないという、別分野の注意例に限ります。

以下はAI運用へ適用する辞典の提案です。対象業務・訓練責任者・承認者・中止条件を先に決め、実顧客への送信や実決済を伴わない試験環境から開始します。訓練という理由で権限を無制限にしたり、本番の停止を独断で実施したりしません。

復帰対象を「全件手動で維持する」と固定しません。通常のAI処理が毎時千件、人の処理能力が毎時数十件なら、全件の代替は成立しません。継続する業務、保留できる業務、受付を止める業務、利用者への案内を決めます。手動時も情報の閲覧範囲と承認境界を保持し、共有の管理者IDで全作業を代替しないようにします。

単なるAPI停止だけでなく、もっともらしい誤答、古い検索結果、承認サービス停止、認証情報の失効、送信後の応答消失を含めます。誤答の訓練では、AIの説明を正解として配布せず、独立した正解資料を訓練管理者が保持します。通常経路と同じAIで作った手順書だけに依存すると、同じ誤りを持ち込みます。

たとえばAIが発注要求を送信した後、応答だけが失われた場面では、担当者は直ちに同じ注文を手動送信しません。業務操作ID・相手先記録・照会結果を確認し、成立、不成立、依然不明を分けます。照合不能なら再送せず、権限を持つ担当者へ判断を渡します。「止めた」ことは、既に外部へ到達した作用の取消しを意味しません。

モデル停止と同時にネットワークやID基盤も使えなくなる場合、オンライン手順書や通常の管理画面へアクセスできない可能性があります。オフラインに持ち出してよい資料、別経路の連絡先、緊急権限の発行・失効・事後監査を検証します。資格情報を訓練用資料へ平文で保存しません。

検知までの時間、安全停止までの時間、担当者受領までの時間、手動での正しい処理件数、重複・欠損・権限違反、復旧後の照合完了を別に測ります。時間内に終わっただけで、誤処理があれば合格にしません。許容時間と最低能力は業務責任者が実害と依存関係から決めます。一律に「月一回」「五分以内」を共通規格として扱いません。

支援付きで成功した結果と、担当者が単独で達成した結果を分けます。引継ぎ相手、夜間・休暇・繁忙時の体制も変えて確認します。新任者、ツール変更、権限変更、手順改訂、前回失敗がある場合は、影響箇所を再訓練します。訓練中に発見した手順の欠落は、担当者の責任だけにせず手順・UI・情報源を修正し、その修正を再検証します。

机上演習は判断・連絡経路の確認に有用ですが、接続権限やUI操作の証明にはなりません。試験環境での成功も、本番負荷や相手先の処理保証にはなりません。本記事で人を対象にした訓練、技能評価、本番停止は実施していません。参照したSRE事例や航空監査は、AI手動復帰訓練の効果を直接測る研究ではありません。

組織固有の必要技能、最少要員、訓練周期、復旧時間目標、障害時の実処理能力、緊急アクセス手段の有効性は未確認です。これらは承認された訓練と実測で決めます。未知を残したままでも、継続できる業務範囲を限定し、停止・保留を含めた計画を作成できます。

「手動代替手順がある」と「特定の担当・構成・条件で手動引継ぎと復旧照合を実施した」を分けます。訓練を実施していない場合、手動で継続可能と保証しません。AIの完了報告を信用せず、外部の結果をreadbackします。

• [S1] Google SRE, Accelerating SREs to On-Call and Beyond. https://sre.google/sre-book/accelerating-sre-on-call/ （訓練を運用する主体の事例、2026-10-20確認）
• [S2] Google SRE Workbook, Incident Response. https://sre.google/workbook/incident-response/ （Prepare / training exercises、同日確認）
• [S3] US DOT OIG, AV2016013, 2016-01-07. https://www.oig.dot.gov/library-item/32899 （独立監査、航空分野の歴史的証拠、同日確認）
• 来歴: 統合台帳・原案台帳EA-528。既存の採集状態を訓練実施や研究完成と読み替えていません。