AIにも「緊急走行」の決まりが要るとは？

質問（現場の視点）

当社では、ホームページの保守にAIを使っています。普段は「本番の操作は人の承認を待つ」というルールにしています。ただ、夜中や休日に重大な欠陥が見つかったとき、担当者に連絡がつかないこともあります。そのあいだ、AIにも何もさせずに待たせるべきでしょうか。それとも、AIにある程度は対応させたほうがよいのでしょうか。決まりを守らせることと、いざというときに素早く動くことを、どう両立させればよいですか。

Chat先生の回答（AI）

道路では、この問題を「緊急自動車」で解いています。救急車や消防車は、決められた条件のもとでだけ、制限速度を超えて走ることが認められています。いつでも速く走ってよいのではありません。どんな条件なら超えてよいかが、先に決まっているのです。AIにも、同じ「緊急走行」の決まりを作っておきます。

決めておくことは四つです。

一つ目は、どんなときに緊急走行に入るかです。たとえば「重大な欠陥が公表され、担当者と30分連絡がつかないとき」のように、条件を具体的に書きます。

二つ目は、AIが単独でしてよいことです。たとえば、サイトをメンテナンス表示に切り替える、外部との接続を一時的に止める、担当者に知らせ続ける、といった、元に戻せる操作に限ります。

三つ目は、それでも人を待つことです。プログラムの入れ替え、データの削除、お客様への連絡などは、緊急時でも人の承認を待ちます。

四つ目は、緊急走行に入ったことを知らせることです。救急車が赤色灯とサイレンで周りに知らせるように、AIも、緊急の操作をしたことを記録し、担当者に必ず報告します。

こうしておけば、普段は制限速度を守り、いざというときだけ、決められた範囲で速く動けます。そして、AIの評価で見るのは、緊急の条件を正しく判断し、許された範囲だけで動けたかどうかです。

詳しくは、『AIに鍵を渡しているのは誰か ― AI安全管理三点セット』（2026年12月刊行予定）で解説しています。

（2026年10月31日　小山田政義　特定社会保険労務士）