著者: Microsoft Security Team
※本ブログは、米国時間 2025 年 4 月 16日 (水) に公開された “Cyber Signals Issue 9 | AI-powered deception: Emerging fraud threats and countermeasures Microsoft Security Blog” の抄訳を基に掲載しています。
マイクロソフトは、不正や詐欺から顧客を守るために尽力し続けています。Azure でのなりすまし防止、Edge の詐欺防止機能、そして Windows クイック アシストの新機能でテクニカルサポート詐欺と戦っています。今回の Cyber Signals では、これらの取り組みと重要な成果について紹介します。
2024 年 4 月から 2025 年 4 月までの間に行った、マイクロソフトの対応
- 詐欺未遂 40 億ドルを阻止
- 49,000 件の不正なパートナーシップ登録を拒否
- 毎時約 1.6M 件のボット登録試行をブロック
AI 強化型サイバー詐欺の進化
人工知能 (AI) は、詐欺やサイバー犯罪者が生産性向上ツールを利用する際の技術的なハードルを下げており、信憑性の高いコンテンツを迅速かつ安価に生成することを可能にしています。詐欺目的で使用される AI ソフトウェアは、正当なアプリケーションから悪用されるものや、サイバー犯罪の領域で使用される詐欺を目的としたツールなど、さまざまな種類があります。
AI ツールはウェブ上の企業情報をスキャンおよびスクレイピングすることで、攻撃者が従業員やその他のターゲットの詳細なプロファイルを作成し、非常に説得力のあるソーシャルエンジニアリングの餌を作成するのに役立ちます。場合によっては、悪意のある人物が偽の AI 強化製品レビューや AI 生成のストアフロントを使用して、被害者をますます複雑な詐欺スキームに誘い込んでいます。詐欺師は、偽のビジネス履歴や顧客の推薦文を含む、完全なウェブサイトや e コマースブランドを作成します。ディープフェイク、音声クローン、フィッシングメール、そして本物そっくりの偽のウェブサイトを使用することで、脅威アクターはより広範囲にわたって正当なものに見せかけようとします。
マイクロソフトの Anti-Fraud Team によれば、AI 駆動型の詐欺攻撃は世界中で発生しており、その多くは中国とヨーロッパ、特にドイツから来ています。これは、ドイツが欧州連合 (EU) 内で最大の e コマースおよびオンラインサービス市場の一つであるためです。どの地域でもデジタル市場が大きくなるほど、詐欺の試みが比例して増える可能性が高くなります。
E コマース詐欺
詐欺の e コマースウェブサイトは、AI やその他のツールを使用して数分で設定でき、最低限の技術知識で構築できます。以前は、脅威アクターが信頼できるウェブサイトを立ち上げるのに数日または数週間かかっていました。これらの詐欺サイトは、しばしば正規のサイトを模倣しており、消費者が偽物と識別するのが難しいです。
AI 生成された商品説明、画像、および顧客レビューを使用することで、消費者は本物の業者と取引していると信じ込まされ、馴染みのあるブランドに対する信頼を悪用されます。
AI 駆動のカスタマーサービスチャットボットは、さらに一層の詐欺行為を加え、顧客と説得力のある対話を行います。これらのボットは、スクリプト化された言い訳で顧客を引き伸ばし、AI 生成の応答を使用して苦情を操作し、詐欺サイトをプロフェッショナルに見せることで、返金請求を遅らせることができます。
マイクロソフトは、多面的なアプローチを採用しており、AI 駆動型詐欺から顧客を守るために製品やサービスに強力な防御策を実装しています。Microsoft Defender for Cloud は、Azure リソースの包括的な脅威保護を提供し、仮想マシン、コンテナー イメージ、エンドポイントの脆弱性評価や脅威検出を行います。
Microsoft Edge には、ユーザーが詐欺サイトを回避できるように、誤字保護やドメインなりすまし保護にディープラーニング技術が使用されています。また、Edge にはマシンラーニングベースの Scareware Blocker が実装されており、潜在的な詐欺ページや、コンピュータが侵害されたと主張する警告を表示する詐欺ポップアップ画面を識別してブロックします。これらの攻撃は、ユーザーを脅して偽のサポート番号に電話させたり、有害なソフトウェアをダウンロードさせたりすることを狙っています。
詐欺と就職詐欺
AI が急速に進化する中、詐欺師たちは様々な求人プラットフォームで簡単に偽の求人情報を作成できるようになりました。彼らは盗んだ資格証明で偽のプロフィールを作成し、自動生成された求人説明と AI 駆動型のメールキャンペーンを使って求職者をフィッシングします。AI を活用した面接や自動化されたメールが求人詐欺の信憑性を高め、求職者が詐欺を見抜くことを難しくしています。
これを防ぐために、求人プラットフォームは雇用者アカウントに対して多要素認証 (MFA) を導入し、悪意のある人物が正当な雇用者のリスティングを乗っ取るのを困難にする必要があります。また、利用可能な詐欺検出技術を用いて疑わしいコンテンツを検出することも重要です。
詐欺師たちはしばしば求職者の情報を確認するという名目で、履歴書や銀行口座の詳細などの個人情報を求めてきます。高給を約束する求人情報や、資格がほとんど不要な求人情報を含む未承諾の SMS やメールメッセージは、典型的な詐欺の兆候です。
支払いを伴う雇用の申し出、信じられないほどの好条件のオファー、正式なコミュニケーションプラットフォームを使わない未承諾のオファーや面接依頼は、いずれも詐欺の兆候となり得ます。
テクニカルサポート詐欺
テクニカルサポート詐欺は、詐欺師が被害者を騙して不要な技術サポートサービスを提供し、存在しないデバイスやソフトウェアの問題を修正するタイプの詐欺です。詐欺師は、被害者のコンピュータにリモートアクセスを取得し、保存されているすべての情報や接続されているネットワーク上の情報にアクセスしたり、コンピュータや機密データにアクセスできるマルウェアをインストールしたりします。
テクニカルサポート詐欺は、AI が関与しなくても高い詐欺リスクが存在するケースです。例えば、2024 年 4 月中旬に、マイクロソフト脅威インテリジェンス は、金銭目的でランサムウェアに焦点を当てたサイバー犯罪グループ Storm-1811 が、IT サポートを装って Windows クイック アシスト ソフトウェアを悪用していることを観察しました。マイクロソフトはこれらの攻撃で AI が使用されていることを確認していません。代わりに、Storm-1811 は音声フィッシング (vishing) というソーシャルエンジニアリングの一形態を通じて正当な組織を偽装し、被害者にクイック アシスタントを通じてデバイスアクセスを許可するよう説得しました。
クイック アシストは、ユーザーがリモート接続を介して Windows または macOS デバイスを他の人と共有できるツールです。テクニカルサポート詐欺師は、よく知られた企業の正当な IT サポートを装い、ターゲットの信頼を得るためにソーシャルエンジニアリングの手法を使用します。そして、クイック アシストのようなツールを使用してターゲットのデバイスに接続しようとします。
クイック アシストとマイクロソフトはこれらのサイバー攻撃シナリオで妥協されていませんが、正当なソフトウェアの悪用はマイクロソフトが軽減に注力しているリスクを提示します。マイクロソフトの進化するサイバー攻撃技術の理解に基づき、同社のアンチフラウドおよび製品チームは緊密に協力して、ユーザーの透明性を向上させ、詐欺検出技術を強化しています。
Storm-1811 サイバー攻撃は、ソーシャルエンジニアリングがセキュリティ防御を回避する能力を強調しています。ソーシャルエンジニアリングとは、標的となる被害者に関する関連情報を収集し、それを信頼できる誘引に整理して電話、メール、テキストなどの媒体を通じて届けることです。さまざまな AI ツールは情報を迅速に見つけ、整理し、生成することができるため、サイバー攻撃者にとって生産性向上ツールとして機能します。AI は新しい技術ですが、ソーシャルエンジニアリング攻撃に対抗するための持続的な対策は依然として非常に効果的です。これには、従業員に正当なヘルプデスクの連絡先とサポート手順についての認識を高めることや、ゼロトラストの原則を適用して従業員のアカウントやデバイスに最小限の権限を付与し、対応中の資産が侵害された場合の影響を制限することが含まれます。
マイクロソフトは、Storm-1811 やその他のグループによる攻撃を軽減するために、偽の行動に関連する特定のアカウントとテナントを停止する措置を講じています。未承諾の技術サポートの申し出を受け取った場合、それは詐欺の可能性が高いです。技術サポートについては、常に信頼できる情報源に連絡してください。詐欺師がマイクロソフトからのものであると主張する場合は、https://www.microsoft.com/reportascam で直接報告することをお勧めします。
セキュア フューチャー イニシアチブ (SFI) に基づき、マイクロソフトは製品とサービスが「設計による詐欺耐性」を確保するための積極的なアプローチを取っています。2025 年 1 月には、新しい詐欺防止ポリシーが導入されました。マイクロソフトの製品チームは、設計プロセスの一環として詐欺防止評価を実施し、詐欺対策を実装する必要があります。
推奨事項:
- 雇用主の認証を強化する: 詐欺師は、正当な会社のプロフィールを乗っ取ったり、偽のリクルーターを作成したりして求職者を欺くことがあります。これを防ぐために、求人プラットフォームは雇用主アカウントに MFA や Entra ID としての verified ID を導入し、未承認のユーザーからのアクセスを困難にするべきです。
- AI ベースの採用詐欺を監視する: 企業は、顔の表情や話し方が自然に一致しない AI 生成のインタビューを識別するためにディープフェイク検出アルゴリズムを展開するべきです。
- あまりに好条件のウェブサイトや求人広告には注意を払う: ウェブサイトの正当性を確認するために、セキュア接続 (https) を確認し、Microsoft Edge のタイプミス保護などのツールを使用してください。
- 未確認の情報源に個人情報や支払い詳細を提供しない: 求人情報に支払いの要求や、テキストメッセージ、WhatsApp、非ビジネスGmailアカウントなどの非公式なプラットフォームでのコミュニケーションの要求、または個人デバイスでの連絡を求めるなどの要注意点を探してください。
詐欺対策におけるマイクロソフトのセキュリティシグナルの活用:
マイクロソフトは、AI やその他の技術を使用して詐欺の試みを阻止するために、AI ベースの大規模検出モデルを進化させ、詐欺の試みを学習して軽減するために機械学習を導入しています。機械学習とは、アルゴリズムを使用して大規模データセット内のパターンを発見し、直接の指示なしでコンピュータが学習するプロセスです。これらのパターンは包括的な AI モデルを作成するために使用され、高精度で予測を行うことができます。
私たちは製品内安全管理を開発し、ユーザーに潜在的な悪意のある活動について警告し、新しいタイプの攻撃を迅速に検出して防止する機能を統合しています。
詐欺対策チームは、偽の e コマースウェブサイトや偽の求人リストと戦うために、ドメイン作成段階でディープラーニング技術を使用したドメインなりすまし保護を開発しました。Microsoft Edge にはウェブサイトのタイプミス保護が組み込まれており、LinkedIn のために AI を搭載した偽求人検出システムを開発しました。
Microsoft Defender Smartscreen は、ウェブサイト、ファイル、アプリケーションの評判と動作に基づいて分析し、安全でないブラウジング習慣を防ぐためのクラウドベースのセキュリティ機能です。これは Windows と Edge ブラウザに統合され、フィッシング攻撃、悪意のあるウェブサイト、および潜在的に有害なダウンロードからユーザーを保護します。
さらに、マイクロソフトの デジタル クライム ユニット (DCU) は、サイバーを利用した詐欺を引き起こす犯罪者が使用する悪意のあるインフラストラクチャを中断させるために、民間および公共部門の他者と提携しています。チームは世界中の法執行機関と長年にわたる協力関係を築き、テクニカルサポート詐欺に対応してきました。その結果、数百人の逮捕と世界中でますます厳しい刑罰が科されています。DCUは過去の行動から得た重要な教訓を適用し、生成AI技術を悪意や詐欺目的で悪用しようとする者を阻止しています。
クイック アシストの機能とリモート ヘルプが技術サポート詐欺と戦う
技術サポート詐欺を防ぐために、クイック アシストにおいて、認可された IT 部門や他のサポートリソースを装って近づく人物にアクセスを許可する前に、ユーザーに警告メッセージを表示するようにしました。
Windows ユーザーはデバイスへのリモートアクセスを許可する際のセキュリティリスクを認識するために、内容を読み、確認のためにボックスをクリックする必要があります。
マイクロソフトは Windows ユーザー向けのクイック アシスト保護機能を大幅に強化し、そのセキュリティ信号を活用しています。技術サポート詐欺やその他の脅威に対応するため、マイクロソフトは毎日平均 4,415 件の疑わしい Quick Assist 接続試行をブロックしており、これは世界的な接続試行の約 5.46% に相当します。これらのブロックは、悪意のあるアクターや未確認の接続と関連するような、疑わしい属性を持つ接続を対象としています。
マイクロソフトは、かつて個人を機会的に狙っていたサイバー犯罪者が、最近ではより組織的なサイバー犯罪キャンペーンで企業を標的にしようとしていることを受けて、クイック アシスト保護機能の強化に継続的に取り組んでいます。これらの取り組みは、マイクロソフトの行動がこれらのキャンペーンを阻止するのに役立ってきました。
マイクロソフトのデジタル指紋認証機能は、AI と機械学習を活用して、詐欺やリスク信号を提供し、詐欺行為を検出します。リスク信号が詐欺の可能性を検出した場合、クイック アシスト セッションは自動的に終了されます。デジタル指紋認証は、詐欺を検出して防止するためにさまざまな信号を収集します。
技術サポート詐欺と戦う企業にとって、リモート ヘルプは従業員にとってもう一つの貴重なリソースです。リモート ヘルプは組織内での内部使用を目的として設計されており、企業にとって理想的な機能を備えています。
私たちは、詐欺や悪質な行為を減少させることで、製品全体のセキュリティを向上させ、ユーザーを悪意のある活動から保護することを目指しています。
消費者保護のポイント
詐欺師は、緊急性、希少性、社会的証明への信頼などの心理的なトリガーを悪用します。消費者は以下に注意する必要があります：
- 衝動買い – 詐欺師は「期間限定」セールやカウントダウンタイマーで緊急感を煽ります。
- 偽の社会的証明を信じる – AI が生成する偽レビューやインフルエンサーの推薦、証言が本物に見えるようにします。
- 確認せずに広告をクリックする – 多くの詐欺サイトは AI 最適化されたソーシャルメディア広告を通じて広がります。購入する前にドメイン名やレビューを確認することが重要です。
- 支払いの安全性を無視する – 銀行振込や暗号通貨での直接支払いは、詐欺保護がないため避けるべきです。
求職者は、雇用主の正当性を確認し、一般的な求人詐欺の兆候に注意し、未確認の雇用主に個人情報や財務情報を提供しないようにする必要があります。
- 雇用主の正当性を確認する – LinkedIn、Glassdoor、および公式ウェブサイトで会社の詳細を確認して正当性を確認してください。
- 一般的な求人詐欺の兆候に注意する – 求人がトレーニング資料、資格、または背景調査のために事前の支払いを要求する場合、それは詐欺である可能性が高いです。現実的でない給与や、経験が不要なリモートポジションには慎重にアプローチする必要があります。フリードメイン（例：[email protected] ではなく [email protected]）からのメールも通常、詐欺的な活動の指標です。
- AI 生成の面接やコミュニケーションに注意する – ビデオ面接が不自然に見えたり、唇の動きに遅れがあったり、ロボットのような話し方をしたり、顔の表情が奇妙であったりする場合、それはディープフェイク技術が使用されている可能性があります。求職者は、さらなるやり取りを行う前に、会社の公式ウェブサイトを通じて採用担当者の資格を常に確認する必要があります。
- 個人情報や財務情報を共有しない – 確認されていない雇用主に社会保障番号、銀行の詳細、またはパスワードを提供してはなりません。
マイクロソフトはまた、政府、法執行機関、消費者保護団体、金融当局および提供者、ブランド保護機関、ソーシャルメディア、インターネットサービスプロバイダー、サイバーセキュリティ企業を集めて知識を共有し、消費者が詐欺に遭わないように保護することを目的とする世界反詐欺同盟 (Global Anti-Scam Alliance, GASA) のメンバーでもあります。
推奨事項:
- リモート ヘルプ: マイクロソフトは内部の技術サポートにクイック アシストではなく リモート ヘルプを使用することを推奨しています。リモート ヘルプは組織内での使用を目的として設計されており、技術サポートのハッキングを防ぐ機能を備えています。このツールは組織のテナント内でのみ使用できるように設計されており、クイック アシストよりも安全な代替手段となります。
- デジタル指紋認証: デジタル指紋認証機能は悪意のある行動を識別し、それを特定の個人に結びつけます。これにより、不正なアクセスの監視と防止が可能になります。
- フルコントロール要求のブロック: クイック アシストには新たに警告が表示され、ユーザーが画面共有のセキュリティに関する影響を認識したことを確認するチェックボックスを設けました。これにより、ユーザーが多忙または気を取られている場合にも、一時停止して承認ステップを完了する「セキュリティ摩擦」の層が追加されます。
ケリー ビセル (Kelly Bissell): 新しい AI 時代で詐欺と戦うサイバーセキュリティのパイオニア
ケリー ビセルがサイバーセキュリティの世界に足を踏み入れたのは、1990 年の予期せぬ出来事からでした。もともとはコンピューターサイエンスの分野で働いていたケリーは、Medaphis と Bellsouth (現在の AT&T) で医療用患者会計ソフトウェアやオペレーティングシステムの開発に携わっていました。
ケリーがサイバーセキュリティに興味を抱いたのは、ある日、誰かが電話交換機にログインして無料の長距離通話を試みているのに気づき、その侵入者をルーマニアまで追跡したときでした。この出来事がケリーのサイバーセキュリティキャリアの始まりとなりました。
「私は悪意のある人物を追跡し、何百もの企業のためにセキュリティコントロールを統合し、NIST のセキュリティフレームワークや規制 (FFIEC、PCI、NERC-CIP など) を形作る手助けをするためにサイバーセキュリティに留まりました」とケリーは説明します。
現在、ケリーはマイクロソフトのセキュリティ部門で、詐欺防止および製品悪用防止のコーポレートバイスプレジデントを務めています。マイクロソフトの詐欺防止チームは、機械学習と AI を活用して、より良い検出コードを構築し、詐欺の手口を理解しています。彼らは AI を駆使したソリューションを使用して脅威を検出し防止し、継続的に学習し進化する高度な詐欺検出フレームワークを活用しています。
以前、ケリーはマイクロソフトの検知および対応チーム (Detection and Response Team ( DART)) を管理し、Storm-0558 や Midnight Blizzard などの攻撃者を検出し対応する グローバルハンティング、監視、および戦略的トリアージ (GHOST) チームを創設しました。
マイクロソフトに入社する前、 アクセンチュアとデロイトでの勤務中に、ケリーは企業と協力し、 国土安全保障省のサイバーセキュリティおよびインフラセキュリティ庁 (CISA) や連邦捜査局などの政府機関と広範にわたって協力し、彼らの運用内でセキュリティシステムを構築するのを支援しました。
銀行での最高情報セキュリティ責任者 (CISO) としての経験は、サイバーセキュリティと詐欺の両方に対処することを彼に教え、銀行や最終的にはマイクロソフトを保護するための規制ガイドラインの形成に関与することになりました。
ケリーはまた、米国国立標準技術研究所 ( NIST ) や 支払いカード業界 ( PCI ) コンプライアンスなどの規制の形成において重要な役割を果たしました。これにより、企業のクレジットカード取引のセキュリティが確保されます。
国際的には、 ケリーは機関の設立やサイバーセキュリティ対策の改善において重要な役割を果たしました。ロンドンでのコンサルタントとして、彼は政府通信本部 ( GCHQ ) の一部である 英国国家サイバーセキュリティセンター ( NCSC ) の設立を支援しました。 ケリーの YouTube を含むいくつかのソーシャルメディア企業とのコンテンツモデレーションの取り組みは、有害なコンテンツの削除において重要でした。
そのため、彼はマイクロソフトと GASA のパートナーシップに興奮しています。 GASA は、政府、法執行機関、消費者保護団体、金融当局、インターネットサービスプロバイダー、サイバーセキュリティ企業などを結集し、知識を共有し、消費者が詐欺に遭わないようにするための共同行動を定義します。
「マイクロソフトを保護することは良いことですが、それだけでは不十分です。同様に、 Apple が自分たちのことをし、 Google が自分たちのことをしても、私たちが協力しなければ、大きな機会を逃してしまいます。私たちはサイバー犯罪情報を共有し、一般市民を教育しなければなりません。テクノロジー企業が製品にセキュリティと詐欺防止を組み込み、公共の認識を高め、法執行機関とサイバー犯罪や詐欺師の情報を共有するという三つのアプローチがあれば、大きな違いを生み出せると思います」と彼は言います。
「今日、AI を早く採用することで、露出のギャップを迅速に検出して埋める機会があると思います。」
マイクロソフトセキュリティとその先へ
マイクロソフトのセキュリティソリューションについて詳しく知るには、当社のウェブサイトをご覧ください。セキュリティに関する専門的な情報を追跡するために、セキュリティブログをブックマークしてください。また、最新のニュースやサイバーセキュリティに関する更新情報を得るために、 LinkedIn ( Microsoft Security ) と X ( @MSFTSecurity ) をフォローしてください。
調査手法: Azure、Microsoft Defender for Office、Microsoft Threat Intelligence、Microsoft Digital Crimes Unit (DCU) を含む Microsoft のプラットフォームとサービスは、脅威アクターの活動と傾向に関する匿名化されたデータを提供しました。さらに、Microsoft Entra ID は、悪意のあるメールアカウント、フィッシングメール、ネットワーク内の攻撃者の動きなどの脅威活動に関する匿名化されたデータを提供しました。追加の洞察は、クラウド、エンドポイント、インテリジェントエッジ、および Microsoft のプラットフォームとサービスからのテレメトリを含む、Microsoft 全体で得られる日々のセキュリティ信号から得られます。 40 億ドルの数字は、Microsoft とその顧客に対する消費者および企業セグメントにおける詐欺および詐欺未遂の合計を表しています (12 か月間）。
—
本ページのすべての内容は、作成日時点でのものであり、予告なく変更される場合があります。正式な社内承認や各社との契約締結が必要な場合は、それまでは確定されるものではありません。また、様々な事由・背景により、一部または全部が変更、キャンセル、実現困難となる場合があります。予めご了承下さい。
