この発言が話題になった背景
ある日、ニュースのタイムラインに「AnthropicのCEOが、オープンソースのAIは危険になりつつあると語った」という短い見出しが流れてきました。AnthropicはClaude（クロード）というAIをつくっている会社で、私たちがふだん仕事で使っているClaude CodeやClaude Coworkの開発元です。その会社のトップが、自社と競合する考え方であるオープンソースのAIに対して「危険だ」と言ったわけですから、AI業界では小さくない波紋が広がりました。
ここで言うオープンソースAIとは、AIの中身（モデルと呼ばれる頭脳部分のデータ）を誰でも無料で入手でき、自分のパソコンや会社のサーバーに置いて、好きなように改造して使えるAIのことです。代表的なものに、Metaという会社が公開しているLlama（ラマ）などがあります。反対に、Claudeやお馴染みのChatGPTは、提供元の会社のサーバーの中だけで動いていて、利用者は決められた窓口を通して使う形になっています。こちらはクローズド（提供元が管理する）AIと呼ばれます。身近な例えで言えば、オープンソースは「設計図ごと配られる組み立て家具」、クローズドは「完成品として店から届く家電」のような違いだと考えると、イメージしやすいかもしれません。
なぜこの話題が、エンジニアではない経営者や事務担当の方にも関係するのか。それは、どちらのAIを仕事に取り入れるかという選択が、これから数年の業務の安全性とコストを左右するからです。たとえば、無料という理由だけで素性の分からないAIを社内に入れてしまうと、後から「あの顧客データはどこへ行ったのか」と慌てることになりかねません。技術の難しい話に聞こえても、入り口は「うちはどのAIを使うべきか」という、ごく実務的な問いです。この記事では、CEOの発言の中身を噛み砕きながら、その判断材料を一緒に整理していきます。
何が語られたのか
発言そのものは「オープンソースのAIは危険になりつつある」という一文で、長い演説ではありません。ただ、この短い言葉の裏には、AIをつくる人たちの間でずっと続いてきた路線対立があります。
一方には「AIは人類の共有財産であるべきで、中身を公開して誰でも検証・改良できるようにすべきだ」という考え方があります。透明性が高く、特定の大企業に独占されにくいという良さがあります。もう一方には「強力なAIは、原子力や強い薬と同じで、誰でも自由に手に入る状態にすると悪用される。だから提供元が責任を持って管理すべきだ」という考え方があります。AnthropicのCEOは、後者の立場に立っています。
ここで大切なのは、CEOは「オープンソースのAIは性能が低い」と言っているのではない、という点です。性能はむしろ年々上がっています。問題にしているのは、性能が上がるほど、悪い使い方をしようとする人の手にも渡りやすくなるという構造です。たとえば、詐欺メールを大量に自動生成する、偽情報をもっともらしく量産する、危険な化学・生物関連の知識を引き出す、といった用途です。少し前までは専門知識のある人にしかできなかったことが、性能の高いAIを手元に置けば誰にでもできてしまう、というのが懸念の核心です。クローズドなAIなら提供元が「その質問には答えません」とブレーキをかけられますが、中身が公開されて手元で改造できるAIは、そのブレーキ自体を外せてしまいます。
オープンソースが危険なのではなく、ブレーキを外せる強力なAIが誰の手にも渡ることが危険だ。CEOの主張はこの一点に集約されます。
つまり論点は「公開か非公開か」という形式ではなく、「強力になったAIの安全装置を、誰が、どう担保するのか」という責任の話です。性能の競争から、安全と責任の競争へと、AIをめぐる議論の軸が移りつつあるというのが、この発言の本質です。
オープンとクローズド、二つの路線の違い
両者の違いを、仕事で選ぶ立場から整理しておきます。技術的な優劣ではなく、会社が業務で使うときに効いてくる現実的なポイントに絞ります。
オープンソースAIは、中身を自社のサーバーに置けるので、データが外に出ないという安心感があります。月額料金もかからず、改造の自由度も高い。一方で、安全装置の維持や不具合への対応はすべて自社の責任になります。専門の人材がいなければ、その自由はかえって重荷になります。具体的には、AIを動かすための高性能な機材の購入や、トラブル時の復旧、悪用を防ぐ設定の更新まで、すべて自前でこなす必要があるということです。無料に見えて、人件費や設備費という形で別のコストがかかる点に注意が必要です。
クローズドAIは、提供元がサーバーも安全装置も面倒を見てくれます。怪しい使い方には自動でブレーキがかかり、新機能も勝手に更新されます。そのかわり、利用料がかかり、提供元のルールに従う必要があります。多くの非エンジニアの会社にとっては、自社に専門チームを抱えずに済むぶん、こちらのほうが現実的です。
CEOが警戒しているのは、左側のAIが悪意ある人の手に渡る場合です。ただ、ふつうの中小企業が業務改善のために使う分には、左右どちらにも一長一短があります。判断に迷ったら、「もし不具合や情報漏れが起きたとき、自社で対処できるか」を自問してみてください。対処できる専門人材がいないなら、答えはおのずと右側に寄ります。経営判断としては、性能の高さよりも、安全装置と責任の所在がはっきりしているかを先に見るべきだというのが、この対比から読み取れる教訓です。
非エンジニアにとっての本当の意味
ここまで読んで「結局それは大企業や研究者の議論で、うちには関係ない」と感じた方もいるかもしれません。けれども、この話は二つの形で、ふつうの会社の現場に降りてきます。
一つめは、選ぶ側としての影響です。今後、社員が「無料で使えるAIを見つけたので業務に入れました」と言ってくる場面が増えます。その無料AIが、安全装置の外されたオープンソースのものだった場合、入力した顧客情報がどこに残るのか、誰も保証してくれない状態になりかねません。たとえば営業担当が見込み客リストを要約させたり、人事担当が履歴書を整理させたりと、悪気なく機密を入力してしまうことは十分起こり得ます。経営者や管理職は、AIの中身を技術的に理解する必要はありませんが、「それは誰が責任を持って管理しているAIか」を一言で確認できる感覚を持っておく必要があります。
二つめは、使われる側としての影響です。CEOが懸念する悪用、つまり巧妙な詐欺メールや偽の請求書、なりすましの問い合わせは、AIによってどんどん本物らしくなります。経理担当の方が受け取る「取引先からの振込先変更のお願い」が、AIで完璧な日本語と体裁に仕上げられている、という時代がすでに来ています。以前なら不自然な日本語や妙な署名で気づけたものが、今はベテランでも見抜けないほど精巧になっているのです。
だからこの発言は、私たちにとって「どのAIを使うか」と「どう身を守るか」という、二つの実務課題を同時に突きつけているのです。遠い技術論ではなく、明日の業務の話だと捉えると、急に自分ごとになります。
業種別に見る、現場での影響と選び方
抽象論だけでは動けないので、具体的な業種で考えます。いずれも従業員数十名規模をイメージしています。
まず、10人規模のマーケティング会社の場合です。ここでは記事やSNS投稿の下書きにAIを使う場面が多く、社員それぞれが思い思いのツールを入れがちです。無料で高性能だからとオープンソースの改造版を使うと、クライアントの未公開キャンペーン情報を入力した瞬間に、その情報がどこに保存され学習に使われるのかが不透明になります。この業種では、入力するのが他社の機密である以上、データの行き先がはっきりしているクローズドなAIを会社の標準として一本化し、無料ツールの私的利用を禁じるのが安全です。あわせて、新しいツールを入れたいときは必ず上長に申請する一文を就業ルールに加えておくと、現場の暴走を防げます。下書きの速さより、情報の管理を優先する判断になります。
次に、地域で営業する税理士・社会保険労務士などの士業事務所です。扱うのは顧客の決算情報やマイナンバーを含む個人情報で、外部に漏れれば信用が一瞬で失われます。ここで怖いのは、悪用されたAIによる「顧問先になりすました問い合わせ」です。AIが過去のメールの文体を真似て、もっともらしい口調で資料の再送を求めてくる、といった攻撃が現実に起きます。この業種では、自分が使うAIを安全なものに絞ると同時に、相手から来る連絡を必ず電話など別経路で確認する運用ルールを、AIの普及と同じ速さで整える必要があります。とくに「至急」「今日中に」と急かしてくる依頼ほど、いったん立ち止まって確認する習慣をつけることが、被害を防ぐ最後の砦になります。
三つめは、製造業や卸売業のバックオフィス、特に経理・総務の担当者です。請求書の処理や支払いの確認に追われる現場では、AIによる読み取りや要約は大きな助けになります。ただし、振込先が記された請求書がAIで精巧に偽造される時代でもあります。この業種では、AIを業務効率化に取り入れること自体は進めつつ、一定金額以上の支払いは人間が二重で確認するという昔ながらの仕組みを、むしろ強化しておくのが現実的です。たとえば「振込先の変更連絡が来たら、登録済みの電話番号にかけ直して確認する」という一手間を決めておくだけで、被害の多くは防げます。AIで楽になった分の余力を、確認の手間に回すという発想です。
業種は違っても、共通する結論があります。強力なAIが安く出回るほど、選ぶAIは安全側に寄せ、人による最終確認はむしろ厚くするという、一見逆向きの二つの構えが同時に必要になるということです。
明日からできる、AIの選び方の手順
では、具体的に何をすればよいのか。専門知識がなくても踏める手順に落とし込みます。難しい設定の話は出てきません。
最初にやるのは、今うちの会社で誰がどのAIを使っているかの棚卸しです。多くの会社で、経営者の知らないところで社員が無料ツールを使っています。責めるためではなく現状を知るために、一度だけ全員に聞いてみてください。聞き方も「使っているツールを教えてほしい、罰するためではなく会社で安全に使えるよう整えたいから」と前置きすると、正直な申告が集まります。次に、そのAIが「提供元の管理するクローズドなものか」を確認します。Claude、ChatGPTといった名前で、正規のサービスとして契約しているなら、まず問題ありません。判断がつかない無料ツールは、いったん業務利用を止めます。
その上で、会社として使うAIを一つか二つに決め、機密情報を入れてよい範囲をルール化します。「顧客名や金額は入れてよいが、マイナンバーや口座情報は入れない」といった具合に、具体的な線引きを紙一枚にまとめておくと、誰もが迷わず判断できます。最後に、AIで作った文章や、AIが処理した支払いは、人が最終確認するという一行を業務手順に加えます。
この四つは、どれも技術ではなく運用の話です。プログラムを書く必要も、難しい用語を覚える必要もありません。AIの安全は、最新の技術で守るものというより、誰が何を使い、最後に人が確認するという地味な運用で守るものだというのが、この手順の根っこにある考え方です。一度決めてしまえば、あとは新しい社員が入るたびに同じことを伝えるだけで回ります。半年に一度くらい棚卸しを繰り返せば、いつのまにか野良ツールが増えていた、という事態も防げます。
注意点と、よくある誤解
最後に、この話題でつまずきやすい誤解をほどいておきます。
一つめの誤解は「オープンソースAIは悪いものだ」という受け取り方です。そうではありません。中身が公開されていることは、研究の進歩や、特定企業への一極集中を防ぐうえで大きな価値があります。CEOが問題にしているのは、安全装置を外せる強力なAIが、無責任に拡散することであって、公開という仕組みそのものではありません。実際、Anthropic自身もAIの仕組みを研究者に開示する取り組みを進めています。善悪で割り切れる話ではないと知っておくと、社内で誰かが極端な意見を言ったときに冷静に対応できます。
二つめの誤解は「うちは小さい会社だから狙われない」という油断です。AIによる悪用は、人手をかけずに大量の相手を同時に狙えるのが特徴です。攻撃する側からすれば、相手が大企業か個人事業主かを選り好みする理由はなく、機械的に手当たり次第で送りつけてきます。むしろ、対策が手薄で確認の仕組みがゆるい小さな会社のほうが、効率のよい標的になります。規模が小さいことは、残念ながら安全の理由になりません。
三つめは「結局AIは怖いから使わないほうがいい」という後ろ向きな結論です。これは、いちばんもったいない誤解です。リスクがあるのは事実ですが、安全なAIを正しく選び、人による確認を残しておけば、業務効率化の恩恵は十分に受けられます。怖がって何もしない会社と、安全に使いこなす会社の差は、これから急速に開いていきます。車に事故の危険があるからといって誰も運転をやめないように、リスクは正しく管理して付き合うものだと考えるのが現実的です。
危険だから使わないのではなく、危険を理解したうえで安全な側を選んで使う。これが、この発言から私たちが受け取るべき態度です。
過度に怖がるのでも、無防備に飛びつくのでもなく、安全装置のあるAIを選んで人の確認とセットで使う。この中間の構えこそが、非エンジニアの現場にとって最も現実的な正解です。
まとめ
AnthropicのCEOによる「オープンソースのAIは危険になりつつある」という一言は、性能競争の時代から、安全と責任を問う時代へとAIの議論が移ったことを示すサインでした。中身を誰でも改造できるAIと、提供元が管理するAIという二つの路線には、それぞれ長所と短所があります。非エンジニアの会社にとっての要点は、性能の高さよりも、安全装置と責任の所在がはっきりしているAIを選ぶこと、そしてAIの出力には必ず人の最終確認を残すことです。
棚卸し、確認、一本化、最終確認という四つの手順は、どれも技術ではなく運用でできます。マーケティング会社も士業も製造業のバックオフィスも、入り口は同じです。怖がって立ち止まるのでも、無防備に飛びつくのでもなく、安全な側を選んで使いこなす。その姿勢が、これからの数年で大きな差を生みます。一歩目は、今日、社内で誰がどのAIを使っているかを聞いてみることからで構いません。
自社にとってどのAIが安全で、何から始めればよいか迷ったら、一度専門家と一緒に整理してみることをおすすめします。Claude Worksでは、非エンジニアの経営者やバックオフィス担当の方向けに、無料30分のオンライン相談を行っています。安全なAIの選び方から、社内ルールのつくり方、業務での具体的な活用まで、あなたの会社の状況に合わせて一緒に考えます。まずは気軽にご相談ください。
