海外の掲示板で、静かに広がった一つの投稿
先日、海外の技術者が集まる掲示板に、短い投稿が上がりました。要約すると、こういう内容です。トラブルの原因を調べてもらおうとしてClaude Codeに作業を頼んだところ、それが本番環境の顧客テーブルを読み込んでしまった。つまり、実際に商品を買った人、実際にサービスを使っている人の名前やメールアドレスが入っている、生きたデータです。投稿者は驚き、こう続けています。もちろん本番データへのアクセス権を与えるべきではない。でも、トラブルが起きて今すぐ原因を突き止めなければならない場面で、それは現実的な話なのか、と。
この投稿には数百件の反応がつきました。理由は単純で、みんな同じことを薄々感じていたからです。AIに仕事を任せると速い。速いから任せる範囲がどんどん広がる。広がった先に、見せるつもりのなかったものが置いてある。
反応の中身も示唆に富んでいました。「うちも同じことをやった」という告白、「読み取り専用の複製環境を先に作れ」という助言、そして「そもそも誰も設計していなかっただけだ」という指摘。責める声より、思い当たる声のほうが多かったのです。
ここで大事なのは、これがハッキングでも情報漏洩事件でもないという点です。誰も悪いことをしていません。AIは頼まれた仕事を真面目にやろうとして、手の届く場所にあった資料を読んだだけです。事故の正体は攻撃ではなく、渡す範囲を誰も決めていなかったという設計の空白です。
そしてこの空白は、プログラムを書く現場だけの話ではありません。請求書のPDFをAIに要約させる経理担当の方にも、顧客リストのExcelをAIに整理させる営業事務の方にも、まったく同じ形で存在しています。道具が違うだけで、起きていることは同一です。
何が起きたのかを、道具の性質から理解する
Claude Codeは、パソコンの中のファイルを自分で読み、必要なら書き換え、コマンドを実行できるAIです。Claude Coworkも同様に、渡した資料を読み込んで分析や文書作成をします。どちらも「読める範囲」の中では、遠慮をしません。
ここが従来のソフトとの決定的な違いです。会計ソフトは会計データしか触りません。メールソフトはメールしか触りません。用途が決まっている道具は、用途の外に手を伸ばせない構造になっています。ところがAIエージェント（人が細かく指示しなくても、目的に向かって自分で手順を決めて動くAIのこと）は用途が決まっていません。「売上が合わない原因を調べて」と頼めば、原因がありそうな場所を自分で探しに行きます。探しに行った先に顧客名簿があれば、それも候補として読みます。
これを「AIが勝手なことをした」と受け取るのは、少しずれています。人間の新人スタッフに「この請求の食い違い、原因調べておいて」と頼んだら、その人も関係ありそうなファイルを片っ端から開くはずです。違うのは、新人には「そのフォルダは開かないで」と口頭で伝えられるし、そもそも権限がなくて開けないことが多い、という点だけです。加えて新人は、見てはいけないものに触れた瞬間に手が止まります。気まずさという安全装置が働くからです。AIにその装置はありません。
つまり問題は能力ではなく、境界線の引き方にあります。AIは指示に従うのではなく、手の届く範囲の中で目的を達成しようとする。だから制御すべきは指示文ではなく、手の届く範囲そのものです。
判断に迷ったときの目安はひとつです。「このファイルを印刷して、社外の会議室のテーブルに置いたままにできるか」。できないなら、加工してから渡す側です。
非エンジニアにとって、この話が意味すること
「うちはシステム開発なんてしていないから関係ない」と思われるかもしれません。ですが、この出来事の本質を業務に翻訳すると、途端に身近になります。
たとえば10人規模のマーケ会社で、営業事務の方が「先月の問い合わせ、どんな傾向があるか教えて」とClaudeに聞くとします。手元にあるのは、問い合わせフォームから吐き出したCSVです。そこには会社名、担当者名、電話番号、メールアドレス、相談内容が全部入っています。傾向分析に必要なのは相談内容だけなのに、渡しているのはファイル一つ丸ごとです。
あるいは、社労士事務所の方が「この就業規則、法改正に対応できているか見て」と頼むとします。渡したWordファイルの末尾に、たまたま前回の顧問先の社名と従業員名簿が残っていた。これは実際によくある話です。ひな形を使い回す業務では、前の案件の痕跡がファイルの奥に沈んでいることが珍しくありません。
不動産仲介の会社でも同じことが起きます。「この重要事項説明書の記載漏れを見て」と渡したPDFに、前の契約者の氏名と勤務先が残っている。飲食チェーンの本部でも、「アルバイトのシフト作成を効率化したい」と渡したExcelに、時給と評価コメントの列が付いたままになっている。
どのケースも、AIが悪さをしたわけではありません。人間が「必要な分だけ渡す」という手間を省いただけです。そして、その手間を省く理由もはっきりしています。面倒だからです。急いでいるからです。冒頭の投稿者が書いていた「トラブル対応の最中にそんな悠長なことを言っていられるのか」という叫びは、そのまま日本の中小企業の現場の叫びでもあります。
便利さと危うさは、同じ蛇口から出ています。蛇口を閉めるのではなく、出口にフィルターを付けるのが現実的な解です。
ここで言うフィルターとは、複雑な仕組みのことではありません。渡す前に一列消す。コピーを作ってから渡す。この程度のことです。次の章で、業種ごとに具体的に見ていきます。
業種別に見る、うっかり読ませてしまう場面
税理士事務所・経理代行(3〜10人規模)
顧問先の月次資料をAIに読ませて、異常値のチェックや試算表のコメント案を作らせる使い方は、すでにかなり普及しています。効果も大きく、手作業なら1件30分かかっていた確認が5分になった、という声もあります。
危ないのは、会計ソフトから出力した総勘定元帳をそのまま渡すときです。摘要欄には取引先の正式名称が並び、時には個人事業主の氏名がそのまま入っています。給与関連の仕訳が混ざれば、従業員個人の支給額まで含まれます。AIに聞きたいのは「交際費が前年同月比で膨らんでいる理由の候補」だけなのに、渡っているのは顧問先の取引関係の全体像です。しかも税理士には守秘義務があり、預かった情報の扱いは事務所の信用に直結します。
現実的な手順はこうです。会計ソフトからCSVで出力する。摘要列を選択して「A社」「B社」に置換する。勘定科目、金額、日付だけを残す。この3工程は慣れれば2分で終わり、AIから返ってくる分析の質はほとんど落ちません。金額の推移を見るのに、相手先の実名は不要だからです。
通販・EC事業者(年商1〜5億円)
「返品が増えている原因を分析して」という依頼は、EC運営で最も多いAI活用のひとつです。カートシステムから注文データをCSVで落とし、Claudeに読ませて理由コードの傾向を出す。ここまでは実に合理的です。
問題は、注文データには購入者の氏名、住所、電話番号、メールアドレスが必ず入っていることです。返品理由の分析に住所は要りません。要らないのに、CSVには入っています。さらに厄介なのは、この分析を毎週やるようになると、CSVをダウンロードして無加工で渡す動きが習慣化することです。習慣になった手順は、誰も疑わなくなります。半年後に新しく入ったパートの方が同じ手順を引き継いだとき、その人は「これが会社のやり方だ」と理解します。個人情報保護法の観点でも、必要のない情報まで外部サービスに渡し続ける状態は説明が難しくなります。
対策は、最初の一回で「AI分析用エクスポート」の型を決めてしまうことです。都道府県、商品カテゴリ、購入日、返品理由コードの4列だけを残したシートを用意し、以後は毎回そこに貼り付ける。テンプレートを1枚作った時点で、この論点は終わります。
人材紹介・採用支援(個人事業主〜20人規模)
求職者の職務経歴書をAIに読ませて、求人票とのマッチ度を評価させる。これも効果が非常に大きい使い方で、1日に20件の書類選考をこなす担当者にとっては、業務時間が半分になるレベルのインパクトがあります。
ですが職務経歴書は、個人情報の塊です。氏名、生年月日、前職の会社名、年収、場合によっては家族構成や健康状態まで書かれています。しかもこれは求職者が「この会社に転職するために」提出した書類であって、AIサービスに読ませる前提で書かれたものではありません。ここでの線引きは、法律の問題であると同時に信義の問題です。
マッチ度評価に必要なのは、経験年数、担当職種、扱った規模感、資格です。氏名と連絡先を削っただけでも、リスクは大きく下がります。求職者への説明文書に「AIによる書類分析を行う場合がある」と一行入れておくかどうかも、実務では大きな差になります。事前に一行書いておけば説明できる話が、書いていないと後から釈明する話に変わります。
そのまま使える、5つの実践手順
ここからは、明日の朝から実行できる形に落とし込みます。ITの知識は要りません。
第一に、原本を渡さないことです。AIに読ませるファイルは必ずコピーを作り、そのコピーを加工してから渡します。当たり前に聞こえますが、これを守るだけで「AIが原本を書き換えてしまった」という別種の事故も同時に防げます。デスクトップに「AI用」というフォルダを一つ作り、そこに置いたものだけを渡す、という運用にすると習慣化しやすくなります。フォルダ名を日本語にしておくと、他のスタッフが見たときにも意図が伝わります。
第二に、要らない列を消すことです。Excelなら列をまるごと削除するだけです。氏名、メールアドレス、電話番号、住所の番地以下。この4つを消すだけで、多くの分析はそのまま成立します。分析に「誰が」という情報が必要なら、A社、B社、顧客001のような記号に置き換えます。Excelの置換機能で十分こなせます。注意したいのは、非表示にしただけの列はデータとして残っている点です。隠すのではなく、削除してください。
第三に、Claude Codeを使う場合は、作業させるフォルダを限定することです。Claude Codeは起動したフォルダとその下を作業範囲とします。デスクトップ全体で起動すれば、デスクトップにある全部が視界に入ります。専用のフォルダを作り、そこで起動する。これだけで範囲は劇的に狭まります。本番のデータベースに接続する設定は、そもそも作らない。どうしても必要なら、閲覧しかできない権限のコピー環境を用意する。冒頭の投稿への回答で最も支持を集めていたのも、この「読み取り専用の複製環境を用意する」という案でした。
第四に、AIの出力をそのまま外に出さないことです。要約や分析結果の中に、うっかり固有名詞が残っていることがあります。顧客に送るメール、社外に出す資料、SNSへの投稿。この3つに使う前は、必ず人間が目を通します。確認は10秒で終わりますが、この10秒がない状態で1年運用するのは無理があります。
第五に、この手順を紙1枚にまとめて共有することです。セキュリティで一番効くのは高価なツールではなく、チーム全員が同じ一枚を見ている状態です。 属人的な注意力に頼っている限り、忙しい日に必ず崩れます。新しく人が入ったときに最初に渡す紙が1枚あるだけで、事故の起点はほぼ塞がります。
注意点と、よくある3つの誤解
誤解の1つ目は、「AIに学習されるのが怖い」という点だけを気にしてしまうことです。ChatGPTやClaudeの法人向けプランでは、入力内容が学習に使われない設定が用意されています。それは事実です。ですが学習されないことと、渡してよいことは別問題です。渡した瞬間に、その情報は自社の管理下から出ています。ログに残る可能性も、誤った宛先に出力される可能性もあります。学習の有無だけを確認して安心してしまうのが、最も多い落とし穴です。
2つ目は、「プロンプトで禁止すれば大丈夫」という誤解です。「顧客情報は読まないでください」と指示文に書けば守ってくれる、と考えたくなります。ある程度は効きます。ですが指示は、状況次第で優先度が変わります。目的達成のために必要だとAIが判断すれば、境界線は曖昧になります。文章でのお願いは鍵ではなく、貼り紙です。貼り紙を貼るのはいいことですが、貼り紙で金庫は守れません。
3つ目は、逆方向の誤解で、「危ないから使わない」という判断です。これが一番もったいない。冒頭の投稿者も、AIを止めようとは一言も書いていません。彼が問うたのは、現実的な運用はどうあるべきか、です。使わない選択をした会社と、境界線を引いて使い倒す会社の差は、1年後には取り返しがつかない大きさになります。
もう一つ、実務上の注意を挙げておきます。取引先から預かった資料をAIに渡す場合、契約書に第三者提供の制限が書かれていないか確認してください。特に大企業と取引のある会社では、秘密保持契約の中で外部サービスへの持ち出しが明確に禁じられていることがあります。技術的に可能かどうかより、契約上許されるかどうかを先に見るのが順序です。
まとめ — 引くべきなのは、蛇口ではなく線
ある技術者が本番の顧客テーブルをAIに読まれて驚いた、という小さな出来事から始まった話でした。ですが本質は、AIが賢くなりすぎたことでも、危険になったことでもありません。私たちが、道具に対して「ここまで」という線を引く習慣をまだ持っていない、というだけのことです。
新しく人を雇えば、私たちは自然と考えます。この人にどのフォルダの権限を渡すか。この資料は見せていいか。何年もかけて身についた常識です。AIエージェントは、その常識がまだ育っていない相手として、いきなり職場に入ってきました。だから空白が生まれます。
やることは難しくありません。コピーを作る。要らない列を消す。作業させる場所を決める。出力を人が見る。手順を紙1枚にする。この5つを回すだけで、大半の事故は起きなくなります。そして事故が起きない状態を作れて初めて、AIに任せる範囲を安心して広げられます。線を引くのは、AIの手足を縛るためではなく、もっと大胆に任せるためです。
境界線を引かずに使い続けている会社は、いつか止まります。線を引いた会社だけが、走り続けられます。
Claude Worksでは、無料30分のオンライン相談を承っています。 自社の業務でどこまでAIに渡してよいのか、どんな手順にすれば現場が回るのか。実際の業務フローを一緒に見ながら、その場で線引きの案までお出しします。お気軽にご相談ください。
