紐芬蘭的一位祖母聽到孫子驚慌的聲音，說自己出了車禍，拜託她提供保釋金。她匯了 5 萬美元，才得知孫子其實平安無事，正在工作。電話中的聲音是運用他社群媒體上影片生成的 AI 複製聲音。
同一個星期，她社區中的其他人因為相同的詐騙損失了 20 萬美元。2023 年，超過 10 萬名 60 歲以上的美國人回報被詐騙了 34 億美元，比前一年增加 14%。詐騙案的增加，顯示網路安全威脅正從竊取身分資料轉向竊取真人身分本身。
現今防詐保護措施的不足之處
機器人濫用公共資源
2023 年，加州偵測到 50,000 多個由詐騙機器人送出的學生經濟補助申請。路透社的訴訟和解入口網站被自動送出的申請淹沒，阻擋了真正需要申請的受害者。機器人大軍正系統性地消耗從災難救助到政府福利等原應提供給真人民眾的資源。
合成身分冒充
語音複製技術讓所有曾在網路上發布影片的人都可能受害。詐騙集團使用 AI 冒充一名住在費城的律師的「兒子」、「公設辯護人」和「法院職員」，讓他差點匯出數千美元的保釋金。香港一家公司的員工與深偽技術假冒的財務長和同事進行視訊通話之後，讓公司損失了 2,500 萬美元。深偽詐騙案件在 2023 年增加 3,000% 之後，每通電話和每支影片都令人起疑：對方真的是我認為的那個人嗎？
透過虛假個人檔案破壞信任
交友應用程式指出，平台上有 10-15% 的個人檔案都是假造的。求職平台正在與 AI 生成的履歷作戰。評論平台正努力對抗可能在一夜之間摧毀企業的機器人網軍。在這個時代，甚至連公眾意見都不能相信。當 Cracker Barrel 在 2025 年 8 月更改商標時，一開始社群媒體上的憤怒反應 44.5% 是機器人生成的。機器人帳號放大批評製造爭議，導致公司股價暴跌。如果公眾輿論可以造假，企業或社群該如何做出對的決策？
民主程序操控
機器人大軍湧入公眾評論系統、操縱投票、製造看似草根民眾發起的運動。民意監督和請願系統被人工操弄的假共識淹沒。當一個擁有機器人農場的人可以假造數千個聲音時，建立在一人一票基礎上的民主制度就會崩潰。
身分合成與劫持
犯罪分子創造合成身分，混合真實和虛假資料建立可以使用許多年而不被發現的假信用記錄。哄騙他人提供個人資料的社交工程手法與合成媒體結合，濫用帳號恢復系統，將「忘記密碼」變成了「身分被盜」。
為什麼現有的防禦措施不足
傳統的安全性措施會問「你有正確的密碼嗎？」或「你能收這則簡訊嗎？」但這些系統已經假設使用者一定是真人，只能保護入口，但無法檢查通過入口的是真人還是機器人。安全解決方案需要根本性的轉變，在基礎層就設置唯一真人性的證明，而不是事後才檢查。這表示：
- 隱私優先的身分驗證：無需透露個人資料，就能證明你是唯一真人。密碼學證明技術可在無監控的情況下確立真人性。
- 普遍的互操作性：通過一次驗證，即適用所有服務，不需要重複檢查，同時防止跨服務追蹤。
- 防詐騙設計：與可能被盜取的密碼不同，真人驗證能創造無法偽造、轉移或合成的身分證明。
- 全球可用性：必須適用於所有人、所有地方，無論裝置或技術知識程度為何都不例外。
建立真人網路，增加線上信任
World ID 透過真人驗證技術落實了這些原則。通過一次唯一真人驗證之後，使用者可以跨服務使用，知道線上互動的對方是真人。
隨著 AI 技術加速發展，建立強大真人驗證機制的時間窗口正在縮小。現在採用真人驗證的組織能確立自己為真人客戶服務的定位、保護真人使用者，並維持信任。在機器人能夠完美模仿人類的時代，真人證明成為線上有意義互動的基礎。
十月是網路安全意識月。到 world.org 了解更多關於建立更具真人性網路的知識。