AIの評価をするとき、最初に精度指標を決めたくなる。

正解率、誤差率、MAE、再現率、±10%以内、みたいなやつ。

そのあたりの指標設計は大きく進みを悪くする可能性がある。

目指すべき状態

「正確なAI」ではなく、「許容できる間違い方をするAI」を考える

実運用するAIに、常に100%正しいことを要求するのは難しい。

人間も間違えるし、入力データ自体に揺れがあることも多い。

だから本当に決めたいのは、

• どの程度まで間違ってよいかだけではない。
• **どういう間違い方なら許容できるか。**こちらの方が重要になる。

つまりこれは単なる評価の話ではなく、AIにどんな失敗の仕方をさせるかという設計でもある。

たとえば。

LPガスの残量を予測するAI

最近扱った案件では、顧客宅に設置されたLPガスの残量を予測し、いつ配送すべきかを決めるシステムを評価していた。

• 仮に本当の残量が30%だったとする。
• AIが40%と予測した場合と、20%と予測した場合。
• どちらも誤差は10ポイントである。
• 数値だけを見れば同じ誤差だ。
• でも、業務上起きることは逆になる。

実際より多く残っていると予測した場合