毎日出てくる便利そうなツールを、私たちはどう扱えばいいのか

ここ1年ほどで、仕事に使えそうなAIツールの数が明らかに増えました。私のところにも週に何本か、社長や個人事業主の方から「このツール、使っても大丈夫ですか」という相談が届きます。議事録を自動で要約するもの、請求書をまとめて読み取るもの、Claude Codeをもっと便利に使うための補助ツール。どれも紹介記事を読むと魅力的に見えますし、実際に便利なものも多い。

ただ、そのうちのかなりの割合が、ここ数か月のあいだに個人が作って公開したものです。しかもその多く自体がAIに書かせたコードでできています。作った人に悪気があるかどうかとは別に、中身を誰も細かく点検していないソフトが、いま猛烈な勢いで世の中に出ている。これが今の状況です。

この状況を、海外の開発者コミュニティでも持て余しはじめています。技術に詳しい人たちですら「面白そうなツールがたくさんあるが、うかつにインストールできない」と言い出した。その理由がとても具体的で、非エンジニアの私たちにもそのまま当てはまるものでした。問題は、危ないツールをどう見分けるかではなく、そもそも見分けるのが現実的でなくなったことにあります。

技術用語をひとつだけ補足しておきます。この記事で言うインストールとは、パソコンにソフトを入れて動かすことです。ブラウザで開くだけのWebサービスとは違い、インストールしたソフトはあなたのパソコンの中を歩き回れます。この差が、これから話す内容の全部にかかわってきます。

海外の開発者が怖いと言い始めた

きっかけになったのは、開発者向けの掲示板に投稿された一本の相談でした。趣旨はこうです。毎日たくさんの面白そうなプロジェクトが公開される。でも今は、悪意のあるコードをソフトに仕込むのが以前よりずっと簡単になった。試してみたいけれど、うっかり仕込みのあるソフトを入れてしまうのが怖い。特にAIまわりの補助ツールは、少なくとも自分のAIサービスのログイン情報を持っていける立場にある。皆さんはどうやって折り合いをつけているのか。

この投稿が刺さったのは、質問者が素人ではないからです。ソフトを隔離して動かす仕組みについても知っていて、それでも足りないかもしれないと書いている。つまり、専門知識で殴り倒せる問題ではなくなってきた、という話なのです。

背景には2つの変化があります。ひとつは、公開されるソフトの数が桁違いに増えたこと。AIがコードを書いてくれるので、以前なら数週間かかった小さなツールが数時間で形になります。数が増えれば、中身を点検する目は相対的に薄くなります。もうひとつは、AI時代のパソコンに、以前より価値の高いものが置かれるようになったことです。昔のパソコンに入っていたのは、せいぜい社内資料と業務システムのパスワードでした。今は違います。

技術に詳しい人が慎重になっている領域で、詳しくない人が無防備でいるのは、単純に危ない。 私が今この記事を書いている理由はそれです。怖がらせたいのではなく、線の引き方を持っておいてほしい。

盗まれて一番困るのは、ファイルではなく鍵

多くの方は、セキュリティの話を聞くと「会社の資料が流出する」ことを想像します。もちろんそれも困るのですが、いま本当に危ないのは資料そのものではありません。パソコンに保存されている、各種サービスへの入場券です。

たとえばClaude Codeを使っていると、パソコンの中に認証情報が保存されます。毎回ログインし直さなくていいのは、この保存された認証情報のおかげです。同じように、クラウドストレージ、会計ソフト、社内システム、メールなど、一度ログインしたサービスの多くは、パソコンの中に「この人は本人です」という証明書のようなものを置いています。これをまとめて認証情報とかトークンと呼びます。要するに合鍵です。

悪意のあるソフトがやることは、たいていシンプルです。あなたのファイルを片っ端から盗むような目立つ動きはせず、この合鍵だけを静かに持ち出す。合鍵さえあれば、後から好きなタイミングで、あなたになりすましてサービスに入れます。クラウドストレージの中身を落とすことも、AIサービスを大量に使って請求だけあなたに回すこともできる。しかも本人のパソコンから盗んだ鍵なので、不正なアクセスとして検知されにくい。

自分のパソコンに今どんな鍵が置かれているかは、実は簡単に確認できます。macOSなら、ターミナルに次の1行を貼って実行するだけです。中身を書き換えたり送信したりはしません。置き場所があるかどうかを見るだけのコマンドです。

ls -la ~/.claude ~/.aws ~/.ssh 2>/dev/null

何か表示されたなら、そこに鍵があるという意味です。守るべきは書類の山ではなく、この数個のフォルダだと理解できた時点で、対策の優先順位はかなりはっきりします。

非エンジニアの職場でこそ起きやすい理由

ここまで読んで「うちは技術者がいないから、そんな怪しいツールは入れない」と思った方がいるかもしれません。私の経験では、むしろ逆です。技術者がいない職場のほうが、この問題は起きやすい。理由は3つあります。

ひとつめは、判断が個人任せになることです。情シス部門のある会社なら、新しいソフトを入れるときに申請が要ります。10人規模の会社や個人事業主にはその仕組みがありません。誰かがSNSで見つけた便利そうなツールを、その日のうちに自分のパソコンに入れる。悪気はまったくなく、むしろ仕事熱心な人ほどそうします。

ふたつめは、手順書をそのまま実行してしまうことです。ツールの紹介記事には、たいてい「このコマンドをコピーして貼り付けてください」と書いてあります。中身が読めないので、判断のしようがない。読める人でも面倒なので飛ばします。結果として、何をしているか分からないものを実行するのが習慣になってしまう。

みっつめは、仕事用と私用のパソコンが同じことです。会計データも、顧客リストも、家族の写真も、全部1台に入っている。ここに1本入れたツールが問題を起こすと、被害の範囲が最初から全部になります。会社支給のパソコンと業務システムが分かれている大企業とは、そもそも前提が違います。

だからといって、新しいツールを一切試さない方針にすると、今度は競争力の話になります。AIまわりの生産性差は、ツールを試した人と試さない人ではっきり開いています。禁止で解決しようとすると、たいてい隠れて使われるだけになり、状況はかえって見えなくなります。 必要なのは、試すことを前提にした線引きです。

業種別に見る、現実的なシナリオ

抽象的な話だと自分ごとになりにくいので、実際にありそうな場面を3つ挙げます。

10人規模のマーケティング会社の場合

SNS運用を担当している方が、投稿文を自動生成して予約投稿までしてくれるツールを見つけたとします。手順どおりにパソコンへ入れ、クライアントのSNSアカウントと連携させた。ここまでは通常の業務判断です。問題は、そのツールが同時にパソコン内のAIサービスの認証情報にも触れられる立場にあること。仮にそれが持ち出されると、社のClaudeやその他AIサービスが第三者に使われ、翌月の請求で初めて気づくことになります。さらに悪いのは、クライアントのSNSアカウントの連携権限まで一緒に握られている場合です。自社の被害だけなら謝って済みますが、預かっているアカウントで勝手な投稿が出ると、契約そのものが飛びます。マーケ会社にとって最大の資産は、他社のアカウントを預かれる信用です。金額よりそちらの損失が大きい。

税理士事務所・社労士事務所の場合

所長の方が、決算書のPDFを読み込ませて要約させる補助ツールを試すとします。試したのは自分のノートパソコン1台。そこには顧問先50社分の決算データと、給与計算のためのマイナンバーを含む従業員情報、会計ソフトへのログイン情報が同居しています。士業事務所の場合、情報の性質上、漏えいが起きた時点で顧問先への報告義務が発生し、場合によっては監督官庁への届け出も必要になります。実害が確認できなかったとしても、報告すること自体が信用の毀損になる。私がこの業種の方に必ず言うのは、試すこと自体を止める必要はないが、顧問先データの入っているパソコンで試すのだけは止めてほしい、ということです。試用専用の環境を1つ用意する費用は、事故1件のコストとは比べものになりません。

製造業の総務・経理担当の場合

従業員80名ほどのメーカーで、経理を2人で回している職場を想像してください。請求書の処理が月末に集中するので、PDFから金額と取引先を自動で抜き出すツールを探して導入した。このケースで怖いのは、盗まれる情報より、業務の乗っ取りです。経理担当のパソコンには、ネットバンキングの操作環境と、取引先のメールアドレス一覧が揃っています。ここが押さえられると、取引先を装って振込先変更を連絡する、いわゆるビジネスメール詐欺の準備が整ってしまう。実際にこの手口の被害は中堅製造業で継続的に発生していて、標的にされる理由は、支払いのタイミングと金額が読みやすいからです。ツールの安全性というより、そのパソコンが何を触れる立場にあるかで危険度が決まる、という典型例だと思います。

3つに共通しているのは、被害の大きさを決めているのがツールの正体ではなく、入れた場所だという点です。ここが分かると、対策は驚くほど単純になります。

そのまま使える、5ステップの安全確認

私が実際に顧問先へ案内している手順を、そのまま書きます。技術知識は要りません。所要時間は最初の設定に1時間、以降は1ツールあたり5分程度です。

ステップ1は、用途を1行で書くことです。 何のために入れるのかを先に言語化できないツールは、たいてい入れても使いません。議事録を要約したい、請求書から金額を抜きたい、といった粒度で十分です。これだけで導入数の半分は減ります。

ステップ2は、試す場所を分けること。ここが最重要です。方法は3つあり、どれか1つでかまいません。ひとつは、パソコンにもう1つユーザーアカウントを作り、そこを試用専用にする方法。macOSでもWindowsでも標準機能で作れます。ふたつめは、中古の安いノートパソコンを1台、試用機として置く方法。士業や経理の方にはこれを勧めています。みっつめは、クラウド上の作業環境を使う方法で、自分のパソコンに何も入れずに済みます。共通しているのは、壊れても失うものがない場所を1つ持っておく、という発想です。

ステップ3は、鍵を持たせないこと。試用の段階では、そのツールにクラウドストレージやメールへの連携許可を与えないでください。連携を求められたら、それは後から足せるものかどうかを確認する。多くのツールは、連携なしでも基本機能は試せます。試用アカウントを分けていれば、そもそも渡せる鍵がない状態を作れます。

ステップ4は、1週間ダミーデータで使うこと。本物の顧客リストや決算データではなく、架空の会社名と数字で作ったサンプルを使います。この1週間で、そもそも業務に合うかどうかも分かります。私の実感では、この段階で7割は脱落します。合わなかったものを本番に入れずに済んだ時点で、この手順は元が取れています。

ステップ5は、台帳を1行残すこと。スプレッドシート1枚でかまいません。ツール名、入れた日、入れた人、用途、連携しているサービス。これだけです。半年後に問題が起きたとき、何を止めればいいかが分かる。逆にこれがないと、被害の範囲を特定するのに何日もかかります。

よくある誤解と、やりすぎない線引き

この話をすると、決まって出てくる反応がいくつかあります。順番に答えます。

ひとつめは、有名なツールなら安全でしょう、という考え。半分正しいのですが、注意点があります。有名なツールでも、その中に追加で入れる拡張機能や連携プラグインは別物です。本体は多くの人が見ていても、拡張の中身までは見られていない。実際、過去に何度も起きているのは、本体ではなく周辺の小さな部品が入れ替えられるパターンです。判断するときは、本体の知名度ではなく、いま入れようとしている部品そのものの素性を見てください。

ふたつめは、ウイルス対策ソフトが守ってくれるという期待。これは今回のケースでは、あまり当てになりません。認証情報を読み取って外部に送る動作は、正規のソフトが普通にやっている動作と見分けがつきにくいからです。ウイルス対策ソフトを外せという意味ではまったくありませんが、それだけで足りると思わないでください。

みっつめは、逆方向の誤解です。危ないなら全部禁止すればいい、という結論。これは効果が薄いうえに副作用が大きい。禁止された現場で起きるのは、私物のパソコンでこっそり使う行動です。会社の管理下から完全に外れるので、事故が起きたときに把握すらできなくなります。私が見てきた範囲では、ルールを1枚に絞って全員に守らせるほうが、分厚い禁止規定よりはるかに機能します。

四つめは、うちは小さいから狙われない、という考え。むしろ小さい組織のほうが狙われやすい面があります。攻撃側は個別に標的を選んでいるのではなく、広くばらまいて引っかかったところを刈り取る方式が中心だからです。規模は防御になりません。

やりすぎない線引きとして私が提案しているのは、鍵の入っているパソコンでは新しいものを試さない、という一点だけです。 これが守れていれば、他の細かいルールは後からでも足せます。逆にここが崩れていると、どれだけ規定を作っても実質的な防御にはなりません。

それでも試し続けたほうがいい、と私が考える理由

ここまで慎重な話を書いてきましたが、私の立場は「試すのをやめよう」ではありません。むしろ逆です。

いま起きている変化は、道具の性能が上がったという話にとどまりません。これまで外注や専門部署に頼んでいた作業を、担当者本人が自分でやれるようになった、という構造の変化です。経理の方が請求書処理の一部を自動化する、士業の方が定型的な書類作成を半分の時間で終わらせる。こうしたことが、プログラミングを学ばなくてもできるようになった。この波に乗るかどうかで、数年後の生産性はかなり変わります。試さないという選択には、目に見えないコストがあります。

一方で、便利さのために鍵を全部差し出すのは違う。この2つは両立します。実際、冒頭で紹介した海外の相談スレッドでも、結論は「使うのをやめる」ではありませんでした。試す場所を隔離する、権限を最小限にする、といった現実的な運用の話が中心でした。技術に詳しい人たちが到達している答えも、突き詰めれば私が上で書いた5ステップとほぼ同じです。

大事なのは、判断の基準を各自の勘に任せないことだと思います。この記事の内容を、社内向けに3行にまとめて共有するだけでも効果があります。新しいツールは試用環境で試す。試用中は連携を許可しない。使うと決めたら台帳に書く。この3行が全員の共通認識になっている職場は、私が見てきた中では事故が起きていません。

危ないから使わない、ではなく、危なくない場所で使う。これが今の現実的な答えです。

制限が目的ではなく、安心して試し続けられる状態を作ることが目的です。 そう考えると、セキュリティの整備は守りではなく、攻めの前提条件だと分かってきます。

まとめ

要点を整理します。

AIツールが大量に公開される時代になり、中身を1つずつ点検して安全性を判断するのは、技術者であっても現実的でなくなりました。だから判断の軸を「そのツールが安全か」から「そのツールに何を触らせるか」へ移す必要があります。

盗まれて一番困るのは、資料そのものではなく、パソコンに保存された各種サービスの認証情報です。AIサービスの認証情報、クラウドストレージの合鍵、メールのセッション、社内システムの保存パスワード。守るべき対象は思ったより少なく、場所も限られています。

被害の大きさを決めるのは、入れたツールの正体より、入れた場所です。顧問先データの入ったパソコン、ネットバンキングを操作するパソコン、クライアントのアカウントと連携しているパソコン。ここで新しいものを試さない。それだけで、想定される最悪のケースは大きく変わります。

そのうえで、用途を1行で書く、試す場所を分ける、鍵を持たせない、1週間はダミーデータ、台帳に1行残す。この5ステップを回してください。特別な道具も予算もほとんど要りません。必要なのは、最初の1時間で試用環境を1つ用意する手間だけです。

そして、これは新しいものを試すのをやめるための手順ではありません。安心して試し続けるための手順です。慎重さと積極性は、正しく設計すれば両立します。

自社の場合に何をどう分ければいいのか、どのツールなら試して大丈夫なのか。個別の状況によって答えは変わります。Claude Worksでは、非エンジニアの経営者・個人事業主・バックオフィス担当の方を対象に、無料30分のオンライン相談を行っています。いま使っているツールと業務内容をうかがったうえで、その場で試用環境の作り方まで具体的にお伝えします。お気軽にご相談ください。