デロイト金融サービスセンターによると、米国における生成AIを悪用した詐欺の被害額は、2023年の123億ドルから2027年には400億ドルまで増加する見込みです。増加の要因は、ディープフェイク、AIで生成した声、偽造書類です。これらにより、なりすましは低コストかつ短時間で実行でき、本物と見分けることも困難になりました。かつては熟練した偽造者が必要だった作業も、現在は顔や声を収めた短い動画や音声があれば数分で完了します。
AIによるなりすましとは、詐欺を目的として、AIを利用して他人になりすましたり、本人と見分けにくい偽の人物像を作成したりする行為です。たとえば、AIで生成した声で家族に送金を依頼する、ビデオ通話でディープフェイクの顔を使う、実在する情報と捏造した情報の一部から架空の人物を作り上げる、といった手口があります。この脅威は現実のものですが、防ぐ手段は存在します。長期的に最も有効な防御策は、すべての偽物を見破ることではなく、実在する人間であることを証明することです。シビル攻撃に強い人間証明の仕組みは、この目的のために設計されています。本記事では、AIによるなりすましの仕組み、現在の主な発生場面、身を守るための具体的な対策を解説します。
AIによるなりすましとは、詐欺を目的に、AIで実在する人間を装ったり、架空の人物を作り上げたりすることです。なりすましは以前から存在する犯罪ですが、AIの悪用によりその脅威は格段に高まりました。AIを利用すれば、手作業で時間をかけていた詐欺を大規模に実行でき、これまで有効だった確認手段もすり抜けられます。
ここで、関連する3つの概念を整理しておきます。従来のなりすましは、カード番号やパスワードなど本人の実際の情報を盗み、本人になりすまして利用する手口です。一方、合成ID詐欺は、実在する公的な識別番号に架空の氏名や生年月日を組み合わせるなど、本物と偽物の情報を混ぜ合わせて「人物」を作り上げる手口です。この「人物」は公的な記録上は存在しませんが、口座の開設には利用できます。AIはこの両方に悪用されます。顔や声、書類を生成できるため、いずれの手口も格段に本物らしく見せることができます。
被害の規模は、すでに具体的な数字に表れています。北米で確認されたディープフェイク関連の詐欺被害額は、2025年第1四半期のみで2億ドルを超えました。この問題の危険性を高めている要因の一つが、流出データの悪用です。情報漏えいによって盗まれ、流出したデータは、AIで本人の偽物を作る材料になります。漏えいしたパスワードは数秒で変更できますが、顔や声が漏えいした場合、元に戻すことははるかに困難です。
AIによるなりすましの手口は一つではありません。犯罪者は標的に応じて複数の手口を組み合わせ、これまで有効だった対策を一つずつ無力化します。
ディープフェイクとは、AIで生成した映像や画像のことです。ビデオ通話や認証手続きで、実在する人間になりすます目的で悪用されます。その精巧さは、人間のみならずソフトウェアをも欺くほどです。2024年には、香港の企業の従業員がビデオ通話に参加した後に2,500万ドルを送金する事件が発生しました。通話の相手は信頼できる同僚に見えましたが、実際には全員がディープフェイクでした。
AIによる声の生成は、ボイスクローニングとも呼ばれる技術です。短い音声データから、本人と聞き分けられないほど精巧な声を生成できます。詐欺師はこの技術を悪用し、助けを求める家族や、急な支払いを指示する経営幹部になりすまします。動画や留守番電話に残された数秒の音声のみで足りる場合も少なくありません。
現在のAIは、多くの自動審査を通過できるほど精巧な運転免許証、パスポート、銀行の取引明細書を生成できます。実在する公的な識別番号に捏造した情報を組み合わせれば、架空の人物を作り上げることも可能です。こうした人物は実在しませんが、短時間で審査を行うシステムでは本物と見なされます。これらの偽の身元は、口座の開設や与信枠の取得に悪用されます。
AIを利用すれば、誤字のない自然なフィッシングメッセージを大量に作成できます。そのため、かつて詐欺を見抜く手がかりとなっていた誤字は見られなくなりました。また、AIは不正エージェントの稼働にも利用されます。不正エージェントとは、人間がほとんど関与せずに多数の攻撃を同時に実行する自動化プログラムです。これはシビル攻撃と同じ考え方に基づいています。シビル攻撃とは、単一の攻撃者が多数の偽アカウントを作成し、本来の規模を超える影響力を得る攻撃です。
AIによるなりすましは、インターネット上の一部の領域に限った問題ではありません。特に被害が大きいのは、信頼と金銭が関わる場面です。すでに複数の大手プラットフォームが、対策として人間であることの証明を導入しています。
マッチングアプリやSNSでは、AIの悪用によってロマンス詐欺がより巧妙になっています。米連邦取引委員会によると、米国における被害額は昨年10億ドルを超えました。Match Group傘下のTinderは、日本での試験導入を経て、プロフィールにWorld IDを追加できる機能の提供を開始しました。これにより、既存の確認方法に加えて、プロフィールの持ち主が実在する人間であることを確認できます。この機能は、マッチした相手が偽物ではなく実在する人間であると実感できるようにすることを目的としています。
ビデオ会議や企業向けツールでも、なりすましは同様に深刻な問題です。ZoomはWorld IDを統合したWorld ID for Zoomを提供しています。これにより、会議の主催者は認証済みの実在する人間が参加していることを確認でき、通話中のディープフェイクによるなりすましを直接防止できます。また、Docusignは署名者の確認にWorld IDを利用しており、文書に署名する人物が本来署名すべき本人であることを確認できます。
金融や暗号資産の分野も、主要な標的の一つです。架空の人物は口座の開設や与信枠の取得に悪用されており、暗号資産業界は、ディープフェイクを用いた詐欺が試みられる割合が最も高い分野です。特に影響が大きいのは、スマートフォンが金融取引の主な手段となっている市場です。こうした市場では、多くの人がモバイルマネーを利用して、日常的に資金の保管や送金を行っています。いずれの分野においても、World IDは人間であることの証明として実際に運用されている代表的な手段ですが、ほかにも手段は存在します。
AIによるなりすましの防止が困難である理由は、最も一般的な対策である偽物の検出が、短期間で陳腐化する点にあります。AIで生成された映像や音声の品質は急速に向上しています。これに対し、検出ツールが識別できるのは既知の偽物に限られるため、未知の偽物に対しては、出現した直後から検出精度が大幅に低下します。
従来の確認手段も機能しなくなりつつあります。CAPTCHA、メール認証、電話認証、書類審査は、いずれも生成AIの登場以前に設計された仕組みであり、実在する人間と精巧な偽物を確実に見分けることはできなくなっています。防御側の対応も遅れています。Signicatによると、AIを活用した不正防止ツールを導入している金融機関は約22%にとどまります。この遅れは、すでにAIを取り入れている攻撃者にとって大きな隙となっています。
被害の報告にも課題があります。多くの人は金銭を失ってから初めて被害に気付き、最後まで気付かない場合もあります。これらを踏まえると、次々に現れる偽物を一つずつ検出する対策は、常に後手に回ります。偽物の検出に際限なく取り組むよりも、発想を転換して、実在する人間であることを証明するほうが確実です。この考え方が、検出のみに頼らず長期的に有効な対策の基盤となります。
いくつかの実践的な習慣を身につけることで、被害に遭うリスクを大幅に下げられます。いずれも専門知識は不要で、多くは数分で設定できます。
デジタル資産を保有している場合は、アカウントや秘密鍵にも同様の対策が必要です。暗号資産を安全に保管する方法を把握しておけば、AIを悪用する詐欺師が狙う侵入経路をさらに一つ塞ぐことができます。
人の目でもツールでもすべての偽物を確実に見破ることはできない以上、発想を転換し、実在する人間であることを証明するほうが合理的です。人間であることの証明は、アカウントの持ち主がAIではなく実在する一人の人間であることを確認する仕組みです。確認の際に、その人物が誰であるかは明かされません。
World IDは、この考え方を実用化した代表的な仕組みです。Orbでの認証は一回のみで完了します。その際、Orbが顔と目の画像を撮影し、AIではなく一人の人間であることを確認します。認証後は、繰り返し利用可能な認証情報を保持します。これにより、氏名をはじめとする個人情報を一切開示することなく、実在する一人の人間であることを証明できます。World IDはスマートフォンのWorld App内に保存され、撮影された画像も本人の管理下で保管されます。さらに、認証情報は暗号技術に基づいているため、顔や声、書類とは異なり、複製や偽造は不可能です。
これは理論上の話ではありません。Tinder、Zoom、Docusignはすでに、プラットフォーム上のユーザーが実在する人間であることを確認するためにWorld IDを導入しています。AIによるなりすましが起こりやすい場面で実際に利用されていることが、この証明の信頼性を裏付けています。
AIによるなりすましとは、AIで特定の人物を装ったり、本人と見分けにくい偽物を作成したりして、詐欺を行う手口です。具体的には、ディープフェイクで作られた顔、AIで生成した声、実在する情報と捏造した情報を組み合わせた架空の人物などが用いられます。従来のなりすましは本人の実際の情報を盗んで悪用する手口ですが、AIを利用すれば、より短時間かつ低コストで実行でき、見破ることも困難になります。
犯罪者はさまざまな方法でAIを悪用します。たとえば、ディープフェイクを利用して映像で実在する人間になりすます、AIで生成した声で家族や経営幹部を装う、AIで作成した書類で自動審査を通過する架空の人物を作り上げる、といった手口があります。また、誤字のないフィッシングメッセージを大量に作成したり、多数の詐欺を自動で同時に実行したりすることもあります。これらの手口は組み合わせて用いられることが多いため、AIによるなりすましを見抜くことは困難です。
被害の規模は大きく、急速に拡大しています。デロイト金融サービスセンターの予測によると、米国における生成AIを悪用した詐欺の被害額は、2023年の123億ドルから2027年には400億ドルに達する可能性があります。また、北米のみでも、2025年第1四半期に確認されたディープフェイク関連の詐欺被害額は2億ドルを超えました。
まず、簡単な習慣を身につけることから始めてください。具体的には、親しい家族との間で合言葉を決めておく、可能な場合は信用情報を凍結する、多要素認証を有効にしてパスワード管理ツールを利用する、といった対策が有効です。また、自分の顔や声が含まれる投稿の公開は必要最小限にとどめ、急ぎの送金依頼を受けた場合は、すぐに応じずに信頼できる番号にかけ直してください。さらに、対応しているサービスでは人間であることの証明を設定し、アカウントの持ち主が実在する人間であることをプラットフォームが確認できるようにしてください。
合成ID詐欺とは、本物の情報と偽の情報を組み合わせて、実在しない「人物」を作り上げる詐欺です。代表的な手口として、実在する公的な識別番号に架空の氏名や生年月日を組み合わせ、作り上げた人物情報を利用して口座を開設したり、与信枠を取得したりする方法があります。さらにAIを利用すれば、こうした架空の人物を裏付ける精巧な書類や画像を生成できるため、本物との見分けがより困難になります。
検出のみで防ぐことは非常に困難です。AIで生成された映像や音声の品質は向上し続けており、検出ツールが識別できるのは既知の偽物に限られるためです。したがって、すべての偽物を見破ろうとするよりも、実在する人間であることを証明するほうが確実です。人間であることの証明は、アカウントの持ち主がAIではなく実在する一人の人間であることを確認する仕組みです。World IDはその実例です。Tinder、Zoom、Docusignはすでに、プラットフォーム上のユーザーが実在する人間であることを確認するためにWorld IDを導入しています。
AIによって、なりすましは低コストかつ短時間で実行可能になり、見破ることも困難になりました。しかし、防ぐ手段は存在します。家族との合言葉の設定から多要素認証の有効化まで、いくつかの簡単な習慣を実践することでリスクを下げられます。特に、急ぎの依頼にすぐに応じないことのみでも、多くの詐欺を防止できます。さらに重要なのは、問題の捉え方を変えることです。検出できるのは既知の偽物に限られるため、次々に現れる偽物を追いかける対策は常に後手に回ります。長期的に有効なのは、やり取りの相手が実在する人間であることを証明することです。人間であることの証明とWorld IDは、そのために設計されています。AIの進化が続くなか、実在する一人の人間であることを確認できる仕組みは、オンライン上の信頼を支える基盤となります。
