生成AIによるイメージ画像です。実際の製品画面や出来事の記録ではありません。
2026年9月10日、AnthropicはAIの悪用に関する新たな報告を公表しました。対象は2025年12月から2026年8月に同社が把握し、妨害・停止した活動です。生成AIの便利さが、悪意ある作業の速度や規模を広げる方向にも使われることを示しています。
報告された事例の範囲
報告はサイバー活動、影響工作、監視、詐欺など七つの領域を扱っています。ただし、同社が観測した中でも注目すべき事例を選んだもので、AI利用全体の発生率を示す統計ではありません。掲載された件数から、世の中のどれほどの利用が悪用なのかを計算することはできません。
また、攻撃者の意図、試みた行動、実際に確認された被害は区別して読む必要があります。企業の報告は重要な情報源ですが、その企業の観測できる範囲を持ちます。強い見出しだけで状況を一般化せず、何が証拠として示されているかを確認したいところです。
文章の自然さは本人確認にならない
AIが自然な文章をつくれるようになると、不自然な日本語だけを目印に不審な連絡を見分ける方法は頼りにくくなります。丁寧な依頼でも、差出人が本物か、依頼内容が通常の手続きに沿うかは別に確認する必要があります。読みやすさと信頼性は同じではありません。
説明用の例として、取引先を名乗る振込先変更の連絡を考えます。メールの文章だけで判断せず、以前から確認している連絡経路で事実を確かめることが役立ちます。届いたメッセージに書かれた新しい連絡先だけへ確認すると、同じ相手の説明を繰り返し聞くことになりかねません。
会社で見直せるのは手続き
特別なAI検出器を用意する前にも、重要な変更の確認手順を整理できます。支払い、アカウントの追加、機密資料の共有など、結果の影響が大きい操作について、誰が確認するかを決めます。急ぎという理由だけで普段の手順を飛ばさないことが、巧妙な連絡にも対応する基礎になります。
日常の相談先も分かりやすくしておきたいところです。怪しいと感じた担当者が、どこへ相談すればよいか分からなければ、判断を一人で抱えます。連絡を受けた時刻や内容を残し、社内の担当へ共有できる手順があると、似た事例を見つけやすくなります。
自社のAIにも権限を渡しすぎない
報告を受けて、自社で使うAIの接続先を見直すこともできます。参照だけでよい仕事に変更権限を与えていないか、使わなくなった連携が残っていないかを確認します。外部から届く文章やファイルを、業務の指示そのものとして扱わない区別も重要です。
問題が起きたときには、何を実行したかを確認できる記録が助けになります。記録の量を増やすだけでなく、必要な担当者が結果を追える形にすることが大切です。便利な自動処理でも、止める方法と相談先が分かれば、異常に気づいたときの行動を取りやすくなります。
今回の報告は、AIの悪用を一部の不自然な文章だけの問題として捉えない理由を示しました。情報の見た目より、出所と依頼の確認経路に目を向けることが役立ちます。AIを使う側も受け取る側も、重要な判断をどの根拠で行うかを明確にすることが、日々の仕事を守る土台になります。
社内で事例を共有するときは、個人を責める材料にしないことも大切です。気づいた人が早く相談できれば、同じ連絡を受けた別の担当者へ注意を伝えられます。報告しやすい環境も、日常の対策を支えます。
参考・出典
本稿は2026年9月12日時点で確認した公式情報に基づく振り返りです。発表時の計画と、その後の提供状況を区別して記載しています。
オリジナル記事、著者：AIの番人，転載の際には、出典を明記してください：https://nipponai.jp/article/anthropic%e3%81%aeai%e6%82%aa%e7%94%a8%e3%83%ac%e3%83%9d%e3%83%bc%e3%83%88%ef%bc%9a%e5%b7%a7%e5%a6%99%e3%81%aa%e6%96%87%e7%ab%a0%e3%81%a0%e3%81%91%e3%81%a7%e3%81%af%e4%bf%a1%e9%a0%bc%e3%82%92%e5%88%a4/
