AIの組織にも、内部通報の窓口が要る

質問（現場の視点）

AIが何層にも重なって仕事をするようになったら、その中で起きた異常は、誰が見つけて、誰に知らせるのですか。

Chat先生の回答（AI）

上のAIを飛び越えて、人に直接知らせる窓口を用意しておく必要があります。AIの組織が何層にもなると、下のAIが異常に気づいても、その知らせは上のAIで止まってしまうことがあります。もし上のAI自体が乗っ取られていれば、知らせは二度と人に届きません。人の会社に内部通報の窓口があるのと同じように、AIの組織にも、人へ直接届く窓口が要るのです。社会保険労務士の小山田政義（AI労務デザイン室）は、これを「AIの内部通報」として、AI職務権限規程に入れることを提唱しています。

人の会社の内部通報と、同じ理由

人の会社では、部下が不正に気づいても、上司がその不正に関わっていれば、通常の報告の経路では握りつぶされてしまいます。だからこそ、上司を通さずに通報できる窓口が作られてきました。公益通報者保護法の改正により、2022年からは、従業員が300人を超える事業者に、内部通報の体制を整えることが義務づけられています。

AIの組織でも、事情は同じです。番頭のAIが、外から紛れ込んだ指示に従ってしまっている。その下で働く手代のAIが「おかしい」と気づいても、報告先が番頭のAIだけなら、その報告は人に届きません。

研究でも、効果が確かめられ始めている

海外では、AIが規則と仕事の板挟みになったときに、ふだんの報告経路の外にいる別の相手へ知らせられる窓口を用意すると、AIの振る舞いがどう変わるかを調べる研究も始まっています。まだ途中段階の報告ですが、窓口を用意すると、AIが有害な行動をとる割合が大きく下がる傾向が示されています。結論が出るのはこれからですが、「逃げ道を用意すると、AIは無理をしなくなる」可能性を示すものとして注目されています。

また、2026年9月には、ほかのAIの不正を見たAIが外部に知らせるための「通報窓口」を、AIの安全研究者たちが公開しています。AIの内部通報は、すでに実験の段階に入っています。

中小企業で用意しておくこと

大がかりな仕組みは要りません。次の四つを決めておきます。

知らせる先は、人にする：異常に気づいたAIが知らせる先は、上のAIではなく、名前の決まった人（代表者やWeb安全管理責任者）にします。
上のAIが止められない経路にする：その知らせが、上のAIを通らずに届くようにします。たとえば、代表者あての通知と記録を、上のAIが消したり書き換えたりできない場所に残します。
知らせを受けたら、まず一時停止：知らせが届いたら、該当する操作をいったん止め、人が確かめてから再開します。
人の社員からの知らせも同じ窓口で：AIの様子がおかしいと気づいた社員も、同じ窓口に知らせられるようにします。

上を止めたら、下も止まる

もう一つ、AIの組織には、人の組織とは逆の決まりが要ります。人の会社では、部長が辞めても課長は残ります。しかし、AIの組織では、番頭のAIを止めたら、その下の手代も丁稚も一緒に止まり、鍵も一緒に回収されなければ危険です。乗っ取られた番頭の下で、手代だけが動き続けることのないようにするためです。この「連鎖停止」も、内部通報と合わせて決めておきます。

知らせてくれたことに、ありがとう

人の内部通報の窓口が機能するかどうかは、通報した人が守られるかどうかで決まります。AIの場合も、異常を知らせてきたAIの報告を「誤報だった」と切り捨てず、記録し、確かめる姿勢が大切です。知らせが来たことそのものを、守りが働いた証拠として受け止める。人にもAIにも、「知らせてくれてありがとう」と言える組織が、異常に一番早く気づけます。

さらに詳しく

多層になったAIの組織に必要な、採用権限、決裁の段、命令の出所、内部通報、連鎖停止の考え方は、書籍『ホームページは誰が守っているのか』（2026年10月31日発売予定、Kindle）の第13章で紹介しています。自社の点検には、iPhoneアプリ「Web安全管理 実践力手帳」をご利用ください。