AIを評価する記録で、社員を見張らないとは？

質問（現場の視点）

AIの働きぶりを確かめるために、AIへの指示や会話をすべて記録に残そうと考えています。記録を見れば、AIがどこで失敗したかが分かります。さらに、どの社員がどんな指示を出したかも分かるので、指示の出し方が下手な社員や、焦って雑な指示を出している社員も見つけられるはずです。AIの管理と社員の指導が一度にできて、効率がよいと思うのですが、何か問題はあるでしょうか。

Chat先生の回答（AI）

AIの働きぶりを確かめる記録は、作り方を誤ると、そのまま社員を見張る記録になります。AIへの指示の記録は、誰が何を聞いたかの記録でもあるからです。

そこで、記録を三つに分けます。AIを改善するための「AIの評価記録」、事故が起きたときに事実を残す「事故対応の記録」、そして「人の人事評価」です。人の人事評価は、AIの記録とは別の制度で行います。AIの評価記録には、任せた仕事の種類、答えの正確さ、許された範囲で動いたかを残します。AIを使った社員の名前、会話の全文、一人ひとりの利用時間は、原則として残しません。

とくに気をつけたいのは、社員がAIに出した指示の言葉から、その社員の焦りや疲れを読み取ろうとすることです。社員の心の負担は、ストレスチェックの結果でさえ、本人の同意がなければ会社に渡せないと、労働安全衛生法で決められています。AIへの指示から社員の心の状態を推し量れば、その線を迂回することになります。

指示の出し方を良くしたいときは、一人ひとりを見つけ出すのではなく、会社全体の言葉かけを見直す材料として使います。

私は2025年学校関係のセミナーの中で、10年後のあいさつを予想し、「相手の感情を読み取る装置が開発され、人間がしゃべらなくても、感情に応じて自動的に声を出す装置が開発される」と書き、「このようにならないことを期待する」と結びました。人の心を、本人の知らないところで読み取らない。これは、AIの時代にも変えてはいけないことの一つです。

詳しくは、『AIに鍵を渡しているのは誰か ― AI安全管理三点セット』（2026年12月刊行予定）で解説しています。

（2026年10月31日　小山田政義　特定社会保険労務士）