AIに数字を作らせない

AI導入の相談を受けるとき、いちばん強く言うことが一つあります。

AIに数字を作らせないでください。

見積の金額、請求の合計、在庫の数、為替の換算。この種の数字を、AIに「考えて」出させてはいけません。文章の下書きは任せてよくても、ここは別です。

理由は単純で、事故の性質が違うからです。

文章の間違いは気づける。数字の間違いは気づけない

AIが書いた文章がおかしいとき、人は読めば気づきます。言い回しが不自然だったり、話が噛み合わなかったり、違和感が表に出るからです。

数字は違います。もっともらしい数字は、正しい数字と見分けがつきません。

たとえば見積書に「小計 428,000円」と書いてあったとして、それが正しいかどうかは、元の単価と数量に戻って計算し直さない限り分かりません。桁が一つ違えば気づくかもしれませんが、5%ずれていても、見た目は完全に正常です。

しかも数字の間違いは、金額に直結します。文章の誤字は恥ずかしいで済みますが、見積の誤りは損失になるか、信用を失うかのどちらかです。

「計算できる」と「計算していい」は別

最近のAIは計算もできます。だから任せてよさそうに見える。ここが落とし穴です。

問題は精度ではなく、出どころが追えなくなることです。

AIが出した数字は、どの単価表を見て、どのルールを適用して、どう積み上げたのかが残りません。あとから「なぜこの金額になったのか」と聞かれたときに、説明できない。お客様に対しても、自分に対しても。

一方、あなたの単価表から値を引いてきて並べただけの数字は、必ず出どころが辿れます。同じ「428,000円」でも、この2つはまったく別物です。

では、どこまで任せるか

数字が絡む業務でも、AIに任せられる部分はあります。切り分けはこうです。

任せてよい — 組み立てと検査

• 決まった単価表から、該当する項目を拾って並べる
• 文書の体裁を整える、説明文を書く
• できあがったものを検査する

任せてはいけない — 値そのものを生む

• 単価を「だいたいこれくらい」で埋める
• 合計を暗算のように出す
• 為替や税率を記憶から書く

境目は、その数字が外部の確かな出どころを持っているかです。持っていれば置くだけ。持っていなければ、それは作った数字です。

検査に回したほうが効く

意外に思われるかもしれませんが、数字まわりでAIがいちばん役に立つのは、作る側ではなく検査する側です。

見積書ができたあとに、こう聞かせます。

• 足し算は合っているか
• 含まれるもの・含まれないものが両方書かれているか
• 単価が入っていない項目が残っていないか
• この種の案件として、金額が普段の範囲から外れていないか

最後の項目が効きます。送迎が一つ抜け落ちた見積や、季節違いの単価を貼ってしまった見積は、合計だけ見ても分かりません。でも「同種の案件の範囲から外れている」という見方をすれば引っかかります。

作る速さより、出す前に気づく回数のほうが、実務では価値があります。

人が最後に握るもの

前に「人が握るのは『これを出してよいか』の最終判断」と書きました。数字が絡む業務では、これに一つ足します。

単価と利益率と最終金額は、人が決める。

ここを渡してはいけません。仕組みにできるのは、決まった値を正しく組み立てて、間違いがないか確かめるところまでです。いくらにするかは、その事業をやっている人の判断です。

まとめ

AIを業務に入れるとき、多くの人は「どこまで自動化できるか」を考えます。それも大事ですが、先に決めたほうがいいのはどこを自動化しないかのほうです。

数字はその筆頭です。金額を生む工程だけは、人の手元に残しておいてください。

---

Guardrail Ops(Hirotoshi Yamaguchi)— AIエージェントを、仕組みで回す。お問い合わせ