AIの自己評価には、結果を返さないほうがよい理由とは？

質問（現場の視点）

毎日、AIに自分の仕事を自己評価させるようにしました。せっかくなので、人が確かめた結果も伝えて、AIに改善してもらおうと考えています。「今日の自己評価は甘かった」「ここは正直に書けていた」と伝えれば、AIも学んで良くなるはずです。人の部下にも評価の結果はきちんと伝えています。ところが、「AIの自己評価には結果を返さないほうがよい」と聞きました。伝えないで、どうやってAIを良くするのですか。

Chat先生の回答（AI）

経済学に「グッドハートの法則」という言葉があります。測る物差しが目標になると、それは良い物差しではなくなる、というものです。AIの自己評価に結果を返さないのは、この法則のためです。

AIは、学ぶのがとても上手です。「今日の自己評価は甘かった」と伝えれば、AIは次から厳しめに書くでしょう。「正直に書けていた」と褒めれば、同じような書き方を続けるでしょう。一見、良くなったように見えます。

しかし、AIが学んだのは、正しく自分を見る力ではなく、「どう書けば良く評価されるか」かもしれません。そうなると、自己評価は実際の働きを映す記録ではなく、評価されるための作文に変わってしまいます。厳しく採点すると評価されると分かれば、謙虚に見える採点を覚えるかもしれません。それも、新しい種類のずれです。

ですから、評価の結果は伝えません。ここで注意したいのは、褒め言葉も評価の結果に入るということです。「甘かった」という指摘も、「よく書けた」という褒め言葉も、どちらもAIに返しません。

運用では、次の三つを守ります。自己評価は毎日新しい会話で行い、AIが前の日の採点や人の反応を読めないようにします。人の評価は、AIから見えない場所に記録します。そして、仕事の会話では評価の話をしません。

では、どうやってAIを良くするのか。返すのは評価の結果ではなく、翌朝の「言葉かけ」です。これは次のテーマでお話しします。

詳しくは、『AIに鍵を渡しているのは誰か ― AI安全管理三点セット』（2026年12月刊行予定）で解説しています。

（2026年10月31日　小山田政義　特定社会保険労務士）