賢いのに、簡単なところで転ぶ
海外の技術者が集まる掲示板 Hacker News に、シンプルな質問が投稿されました。LLM（大規模言語モデル。Claude や ChatGPT の頭脳にあたる仕組み）に何度も頼んでいるのに、いまだにどうしても失敗する単純なことは何か、という問いです。
ChatGPT や Claude に繰り返し頼んでいるのに、それでもなぜか失敗してしまう単純なことは何ですか。
質問した本人は、その一点だけを解く専用の小さなモデルを作りたかったようです。つまり、世界中の人が毎日イライラしている具体的な一箇所を探していた。私はこの問いの立て方そのものが、非エンジニアにとって一番実用的な視点だと思っています。
ふだん私たちがAIの話題を追いかけるとき、視線は「何ができるようになったか」に向きます。長い契約書を要約できる、議事録を整形できる、メールの下書きを書ける。できることのリストは毎月伸びていきます。ところが実際の会社でAI活用が止まる原因は、できることの少なさではありません。難解な仕事は平然とこなすのに、誰でもできる簡単な作業をときどき外す、というムラのほうが原因になります。
社内でAI導入が失速する流れは、判で押したように同じです。最初の一週間は感動します。二週目に、請求書の一覧の合計金額が一件だけ違っていたことに気づきます。三週目、担当者が念のため全部を自分で見直すようになります。四週目、見直す時間のほうが長いという理由で誰も使わなくなる。導入の失敗はたいてい、機能の物足りなさではなく、この信頼の崩れ方で起きます。AI導入の成否を決めるのは平均点ではなく、たまに出る外れ値をどう扱う設計になっているかです。
そこでこの記事では、AIが得意なことではなく、驚くほど苦手なことを正面から並べます。そのうえで、苦手を残したまま仕事を任せるやり方を、業種ごとに具体的な手順まで落とし込んでいきます。
何度も同じ場所で転ぶ、5つのパターン
私は自分の仕事で毎日Claudeを使い、非エンジニアの方の相談も受けていますが、そこで繰り返し出てくる失敗は、だいたい5種類に収まります。
1つめは、数えることです。文字数、件数、行数、回数。300字以内でと指定したのに340字で返ってくる。20件の一覧をと頼んだのに、数えると18件しかない。AIは文章の意味を扱うのは得意でも、対象を1つずつ数え上げる作業には向いていません。人間なら指を折れば確実に合う作業を、AIは感覚で答えています。
2つめは、引き算です。文章を膨らませるのは驚くほど上手いのに、削るのは苦手です。半分の長さにしてくださいと頼むと、言い回しを変えただけで情報量がまったく減っていない文章が返ってきます。この段落は不要なので消してくださいと指示すると、消したうえで別の説明を足してくることさえあります。書く方向には強い力が働くのに、減らす方向には力が働きません。
3つめは、知らないと言えないことです。AIは、自社の就業規則も、取引先の担当者名も、去年の自社の売上も知りません。ところが知らないと答える代わりに、それらしい答えを組み立ててしまいます。ここが一番危険です。誤りが、誤りに見えない自然な文章の形で出てくるからです。明らかにおかしい答えなら誰でも気づきますが、8割正しくて1割だけ静かに間違っている資料は、そのまま社外に出ていきます。
4つめは、長い指示の後半を取りこぼすことです。条件を10個並べると、7個目あたりから守られなくなります。とくに「〜は使わないでください」という否定形の条件が落ちやすい。人間の部下なら、指示が多いときは聞き返してくれますが、AIは全部を承知した顔で始めて、静かに一部を無視します。
5つめは、同じ依頼への揺れです。昨日うまくいった頼み方が、今日は少し違う形の結果を返してきます。1回きりの作業なら気になりませんが、毎月同じ形式で出す資料を作らせるときに効いてきます。
この5つに共通するのは、どれも小学生でもできる作業だという点です。人間にとっての難しさと、AIにとっての難しさは、まったく別の順番で並んでいます。
なぜそうなるのか、仕組みを1分で
原因を知っておくと、対策の当てずっぽうが減ります。難しい話は省いて、実務に効く3点だけ押さえます。
まず、AIは文章を文字単位では見ていません。トークンと呼ばれる、単語や語のかたまりの単位で処理しています。私たちが1文字ずつ数えるのに対して、AIはかたまりの並びとして文章を扱っているので、文字数のような細かい単位の勘定が構造的に苦手です。300字以内という指示を、意味としては理解していても、書きながら正確に数えているわけではありません。
次に、AIは記憶を検索して答えを取り出しているのではなく、これまでの文脈から見て、いちばんもっともらしい続きを一語ずつ組み立てています。だから、知らない事実を聞かれたときも、答えを持っていませんという状態にはなりません。もっともらしい続きは常に生成できてしまうからです。自社の制度や最新の法改正について、堂々と誤答が出てくるのはこの性質によるものです。
3つめに、AIは電卓を内蔵していません。3桁の掛け算も、暗算で書き下しているだけです。ただしここには抜け道があって、計算そのものを本人にさせるのではなく、計算する仕組み（表計算の数式や短いコード）を書かせて、その仕組みに計算させれば正確になります。苦手を消す方法は、モデルを賢くすることではなく、道具を渡すことです。
AIは答えを思い出しているのではなく、いちばんもっともらしい続きを組み立てています。この一文を覚えておくだけで、どの作業が危ないかの見当がつくようになります。事実を持ってくる仕事は危なく、渡した材料を言い換えたり整理したりする仕事は安全、という大まかな線が引けます。
任せる基準は、賢さではなく検算のコスト
ここからが実務の話です。AIに任せる仕事を選ぶとき、多くの方は「AIにできそうか」で判断します。私はこの基準を捨てました。代わりに使っているのは、出てきた結果が合っているかどうかを、自分が何分で確認できるか、という基準です。
確認に10秒しかかからない仕事は、たとえAIが2割間違えても任せる価値があります。メールの下書き、文章のトーン調整、箇条書きから文章への変換。目で読めばおかしい部分がすぐわかるので、間違いは実害になりません。
逆に、100件のデータを1件ずつ照合しないと合っているかわからない仕事は、そのままでは任せてはいけません。作業時間が3時間から30分に減っても、確認に3時間かかるなら差し引きで損をします。ここで諦めるのではなく、確認が安くなる形に仕事を作り直すのが正しい打ち手です。
たとえば100件の分類作業なら、分類の理由を1行ずつ書かせておく。件数を最後に明記させる。判断に迷った行には印を付けさせる。この3つを足すだけで、全件を目で追う確認が、印の付いた10件だけを見る確認に変わります。確認の総量そのものを減らす発想です。
任せられるかどうかは、AIの賢さではなく、あなたが結果を安く確かめられる形にできるかで決まります。同じ作業でも、渡し方を変えれば任せられる仕事に変わります。
業種別に見る、任せる線の引き方（経理・営業事務）
抽象論だけでは動かせないので、具体的な現場に落とします。
15人規模の製造業で、経理を1人で回している場合。 月末に届く請求書のPDFが30枚前後あり、取引先名・金額・支払期日を転記して一覧にする作業に、毎月3時間かかっているとします。ここでAIに任せてよいのは、PDFから3項目を抜き出して表にする部分までです。合計金額まで出させてはいけません。暗算の領域だからです。抽出した表は表計算ソフトに貼り、合計はSUM関数で出します。さらに、抽出行の件数が実際のPDF枚数と一致しているかを1つの数式で確認し、ずれた月だけ人が原因を追う。この形にすると3時間が40分程度になり、確認すべき箇所は件数と合計の2つだけに減ります。任せる範囲を欲張って合計まで頼んだ瞬間に、この設計は崩れます。
20人規模の不動産会社で、営業事務が問い合わせ対応をしている場合。 反響のあったお客様に、条件の近い物件を3件紹介するメールを毎日10通ほど送っているとします。文面の組み立てはAIの得意分野で、丁寧語の調整も内見の案内文も安定して書けます。一方で、専有面積・築年・賃料・最寄駅からの分数といった数値をAIに書かせてはいけません。自社の管理システムから数値をコピーし、それを本文に貼ったうえで、この数値は一切変更せずそのまま使ってくださいと明示して渡します。物件名や担当者名も同じ扱いです。私が見てきた事故はほぼ全部、数字と固有名詞の書き換えで起きています。
この2例に共通する線引きは単純です。文章の形を整える仕事は任せ、事実そのものを持ってくる仕事は人が用意します。
業種別に見る、任せる線の引き方（士業・EC運営）
社労士事務所で、顧問先向けの案内文を作る場合。 最も危険な使い方は、制度の要件をAIに直接尋ねることです。年度で変わる料率や上限額は、AIが自信を持って古い数字や存在しない数字を出してきます。しかも文章として整っているので、専門家でも一瞬信じてしまう体裁になっています。使い方を逆さまにしてください。厚生労働省のページや通達のPDFを自分で開いて本文をコピーし、それを貼り付けたうえで、この内容を顧問先の総務担当者向けに200字で説明してください、と頼む。要約と言い換えはAIの中核的な得意分野なので、根拠を自分で用意する形にした途端に、実用に耐える精度になります。調べさせるのではなく、読ませる。この一語の違いが品質を分けます。
10人規模のECショップで、レビュー分析と商品説明文を回している場合。 500件のレビューを、品質・配送・価格・使い方の4カテゴリに分類したいとします。分類そのものは任せて構いませんが、カテゴリごとの件数をAIに数えさせると合いません。1行1レビューで分類ラベルだけを出させ、集計は表計算のCOUNTIF関数で行います。商品説明文でも注意点があります。セール告知で30%OFFと書いた原稿が、いつの間にか3割引や最大30%OFFに変わっていることがあります。値引き率や送料無料の条件は、書き換え禁止の固定領域として渡してください。
4つの現場を並べて見えてくるのは、業種ごとに正解が違うのではなく、同じ線が引かれているという事実です。数字と固有名詞と最新の事実は人が用意し、その材料を整えて読みやすくする工程をAIに渡すと、どの業種でも安定します。
苦手を前提にした、5つの実践手順
ここまでの内容を、明日から回せる手順にまとめます。
第一に、仕事をひとかたまりで渡さないことです。請求書処理という単位ではなく、抽出・整形・集計・確認の4工程に割ります。割ると、集計だけが危ないという事実が見えてきます。ひとかたまりのまま渡すと、危ない工程が安全な工程に紛れて見えなくなります。
第二に、一次情報は自分で添えます。社内規程、公式サイトの本文、管理システムの出力。調べる工程を人が持ち、読んで整える工程をAIが持つ。この分担にするだけで、事実の誤りの大半が消えます。
第三に、検算できる形式で出させます。表形式で出す、件数を最後に明記させる、判断に迷った行に印を付けさせる。この3つは、どの業務でもそのまま使えます。
第四に、数字は機械で突き合わせます。件数はCOUNTA、合計はSUM。AIが出した数字とセルが計算した数字が一致するかを見るだけで、静かな間違いが表に出てきます。
第五に、人が最終確認して確定します。確認を全件から印の付いた数件に減らしたうえで、最後の判断は人が持つ。この一段を省いた運用は、いずれ必ず事故を起こします。
指示の型としては、次のプロンプトをそのまま使えます。
（コピーして使えるプロンプト:） あなたは私の業務アシスタントです。次のルールを必ず守ってください。
- 以下の資料に書かれていない事実は絶対に補わない。不明な箇所は資料に記載なしと書く。
- 数字・金額・日付・固有名詞は、資料の表記をそのまま転記する。言い換えや単位の変換をしない。
- 出力は表形式にし、最後の行に抽出件数として件数を必ず書く。
- 判断に迷った項目には、その行の末尾に要確認と付ける。
資料: （ここに元の文章やデータを貼り付けてください）
この型の本質は、AIに完璧を求めることではなく、間違いが自分から手を挙げる形式にしておくことです。要確認の印と件数の明記は、どんな業務にも移植できます。
注意点と、よくある3つの誤解
1つめの誤解は、もっと高性能なモデルに変えれば直る、というものです。世代が上がるたびに文章力や推論の質は確かに上がりますが、数える・最新の事実を知っている・自社の内部情報を知っている、といった弱点は性能では消えません。これらは能力の問題ではなく、仕組みと情報の届き方の問題だからです。消せるのは道具です。計算は表計算に、最新情報は検索や貼り付けた一次資料に任せる。上位プランに変える前に、この配線を見直すほうが効果が出ます。
2つめの誤解は、プロンプトを工夫すれば100%にできる、というものです。頼み方の改善で、体感の精度は7割から9割まで上がります。ただし残りの1割は、頼み方ではなく運用でしか埋まりません。件数の突き合わせ、印付き行の目視、最終承認者を決めること。ここを設計せずにプロンプトだけを磨き続けると、いつまでも導入が本番に進まないという状態になります。
3つめの誤解は、間違えるくらいなら使わないほうが安全だ、というものです。比較対象を間違えています。比べるべきは完璧な状態ではなく、いまの人手の作業のミス率です。深夜の転記作業や、月末の疲れた頭での確認作業に、ミスがゼロだった月はおそらくありません。AIを入れて、確認の観点を件数と合計の2点に絞ったほうが、実際のミスは減ることが多い。判断の軸は、ミスをゼロにできるかではなく、ミスの起きる場所を自分で選べるかどうかです。
もう1点、社内で広げるときの現実的な注意を添えておきます。顧客の個人情報や未公表の数字をAIに貼り付けてよいかどうかは、必ず先にルールを決めてください。貼ってよい情報の種類、匿名化してから貼るもの、絶対に貼らないもの。この3分類をA4一枚にして共有するだけで、現場は迷わなくなります。ルールがない状態で便利さだけが広がるのが、いちばん危ない導入の仕方です。
まとめ
冒頭の問いに戻ります。LLMがいまだに失敗する単純なことは何か。答えは、数えること、削ること、知らないと言うこと、長い指示の末尾を守ること、毎回同じ答えを返すこと。どれも人間なら苦もなくできる作業ばかりです。
この非対称さは、欠陥として嘆く話ではなく、仕事の割り振り方を教えてくれる情報だと私は捉えています。難しいから人がやる、簡単だからAIに渡す、という常識的な分け方は通用しません。事実を持ってくる工程は人が持ち、材料を整えて形にする工程をAIが持つ。数字は機械に数えさせ、最後の判断は人が持つ。この配線に組み替えたチームだけが、感動の一週目のあとも使い続けられています。
まずは自分の業務を1つ選び、抽出・整形・集計・確認の4工程に割ってみてください。そのうえで、集計の工程だけを表計算に戻す。それだけで、今日からAIの外れ値に振り回されない運用になります。
AIの限界を知ることは、使うのをやめる理由ではなく、任せ方を設計するための材料です。
自社の業務のどこまでを任せてよいのか、どこから人が見るべきなのか。実際の帳票や業務フローを見ながら整理したい方は、Claude Worksの無料30分相談をご利用ください。業種と作業内容をうかがったうえで、任せる線の引き方と、確認コストを下げる具体的な手順をその場で一緒に設計します。
