AIフェイススワップ技術は、AIを使って写真や動画、ライブ配信映像に映る人物の顔を、別の人物の顔に置き換えます。AIフェイススワップアプリは顔を検出して特徴をマッピングし、そのデータを対象の画像に転送します。さらに、照明、角度、肌の色、表情を自動的に一致させます。その結果、顔だけが入れ替わった、元の映像と見分けがつかないほど自然な仕上がりになります。最新のツールには1枚の写真だけで処理できるものもありますが、使用するデータが多いほど品質は向上します。
AIフェイススワップは、主に次のような娯楽目的で利用されています：
プロも利用しています。映画スタジオはAIフェイススワップのプロ仕様バージョンで俳優の若返りや吹き替えを行い、マーケターは再撮影せずに複数モデルの広告キャンペーンを展開できます。
しかし、AIフェイススワップは、実在する特定の人物を偽って表現する合成メディアであるディープフェイクの中でも、最も一般的な種類の一つです。ディープフェイクには、複製された声や捏造された音声、AIによって完全に生成された映像なども含まれますが、AIフェイススワップは特に広く使われています。
詳細はAIフェイススワップツールによって異なりますが、通常は次の4段階で処理されます。
これらの基準点をもとに、ソフトウェアは顔の比率や角度、その瞬間の表情をモデル化します。最近のツールでは、顔を特徴づける情報を、照明や角度が変わっても維持される数学的な署名のような短い数列として抽出できます。
これらのモデルは膨大な画像データセットで学習しているため、わずかな入力データからでも精度の高いAIフェイススワップを生成できます。
リアルタイムAIフェイススワップツールは、ライブビデオ通話中にも動作します。詐欺師が通話に参加すると、ソフトウェアがその顔をフレームごとに別人の顔へ置き換えます。見た目上の遅延がほとんどない場合もあります。そのため、画面上の人物の動きは本物でも、表示されている顔は本人のものではありません。
このような脅威に対応するため、 WorldはWorld ID for Zoomの提供を開始し、企業をAIフェイススワップなどのディープフェイクから保護しています。このシステムは、ライブ映像と参加者の認証済みWorld IDを照合し、一致すると「ヒューマンバッジ」を表示します。重要な会議で、参加者が本当に本人であることを確認するための、新たな信頼の仕組みを提供することが目的です。
2019年、中国のアプリ「ZAO」が急速に話題を集めた際、ユーザーは、利用規約によって、アップロードしたすべてのコンテンツに対する「無償、取消不能、永久かつ譲渡可能」な権利を運営会社に与えていることに気づきました。FaceAppの規約はさらに踏み込み、ユーザーへの補償なしに、その肖像をあらゆる形式のメディアで永久に、世界中で使用、変更、公開できると定めていました。両社とも世論の反発を受け、その後、規約を緩和しました。
AIフェイススワップは議論を呼んでおり、リスクも伴います。現在、顔画像がなりすまし犯罪に悪用されるケースが増えています。iProovのセキュリティ研究者は、本人確認システムを狙った顔スワップ攻撃が1年間で300%増加したと報告しています。
顔データが極めて機微な情報である理由は、顔が今やパスワードのように使われているためです。スマートフォンのロック解除、支払いの承認、銀行口座へのログイン、一部のアプリでのセルフィー認証などに顔が利用されています。漏えいしたパスワードは30秒で変更できますが、漏えいした顔データは一生変更できません。高画質な顔画像があれば、さまざまな詐欺に悪用される可能性があります。
こうした状況を踏まえ、オンラインサービスの多くが顔だけで本人だと判断している現状を見直し、本人であることをどのように証明するかを改めて考える必要があります。
AIフェイススワップか実在する人物かを見分けることは、ますます難しくなっています。
以前は、不自然なまばたき、照明の違和感、髪の輪郭のぼやけに注意すれば見抜けると言われていました。数年前のAIフェイススワップにはこうした特徴が見られましたが、現在のAIフェイススワップツールでは、ほとんど見られなくなっています。
データは深刻な現実を示しています。
AIフェイススワップを検出できる場合もありますが、現実のあらゆる状況で通用する確実な方法はありません。検出ソフトウェアは既知の偽物をもとに判別するため、進化し続ける顔スワップ技術に追いつくのは困難です。
管理された条件下では、AIフェイススワップ検出ツールは、学習に使用した偽画像に対して高い精度を示します。しかし、SNSから収集した実際のAIフェイススワップを主要な検出ソフトウェアで判定したところ、精度はほぼ半分に低下しました。
人間にもソフトウェアにもAIフェイススワップを確実に見抜けないのであれば、防御の発想を逆転させる必要があります。偽物を見破るのではなく、相手がAIではなく一人の人間であることを証明するのです。これが人間証明の考え方です。
World IDは、人間証明システムの代表的な例です。画像を保存することなく、あなたが他の誰とも重複しない一人の人間であることを証明できます。専用の認証デバイスであるOrbが顔と虹彩の画像を撮影し、あなたがAIではなく一人の人間であることを確認します。お近くのOrbを探す。
World IDは、お使いのスマートフォンのWorld IDアプリ内にのみ保存され、画像がほかの場所に保存されることはありません。また、暗号技術によって保護されているため、顔画像のようにコピーされたり偽造されたりすることもありません。
TinderやZoomではすでに、利用者がAIではなく一人の人間であることをWorld IDで確認しています。これにより、なりすましアカウントを減らし、オンライン上の信頼性を高めることを目指しています。
AIフェイススワップとディープフェイクの違いは何ですか？
AIフェイススワップは、AIを使って既存の写真や動画に映る人物の顔を、別の人物の顔に置き換える技術です。ディープフェイクは、実在する特定の人物を偽って表現する合成メディアで、本人が実際にはしていない発言や行動をあたかも行ったかのように見せます。AIフェイススワップは、最も一般的なディープフェイクです。ディープフェイクには、複製された声や偽の音声、AIによって完全に生成された動画なども含まれます。
AIフェイススワップは、当初は娯楽として登場しましたが、今ではデジタル上の信頼を脅かす最も難しい問題の一つとなっています。この技術は1枚の画像だけでも利用でき、ビデオ通話中にリアルタイムで動作し、人間の目や検出ソフトウェアでも見抜けない場合があります。新たな偽物を追い続けるのは終わりのない闘いです。検出ツールは、過去に学習した偽物しか識別できません。より根本的な解決策は、相手が本物の人間であることを証明することです。これが人間証明の役割であり、World IDが目指していることです。複製可能な顔画像を提供することなく、相手がAIではなく一人の人間として実在することを証明できます。
Proof of Human
CAPTCHA alternatives tell humans from bots without puzzles. Learn how honeypots, behavior analysis, codes and Proof of Human work and where each is weak.
Proof of Human
人間第一の認証では、AIシステムの利用者がAIではなく一人の人間であることを確認します。人間であることの証明の仕組み、現在の活用場面、その限界について解説します。
Proof of Human
AIエージェントとは何か。仕組み、種類、活用例、リスク、そしてエージェントが普及する世界で人間証明が重要になる理由を解説します。
Proof of Human
人間証明とは何か。その仕組みとAI時代に重要な理由、導入事例に加え、World IDがデータを保存せずに人間を認証する方法を解説します。
