의심에서 신뢰로: 인간 인증이 딥페이크 대응에 어떻게 도움을 주는가

전 세계 어디에선가 5분마다 딥페이크 공격이 발생합니다.

피해자는 어디에나 있습니다. 홍콩에서 한 금융 직원이 회사 CFO로 보이는 사람과 영상 통화를 한 뒤 송금으로 2,500만 달러를 이체했지만, 통화에 있던 모든 인물은 가짜였습니다. 프랑스에서는 한 여성이 Brad Pitt와 데이트하고 있다고 믿도록 속임을 당했습니다.

성인의 약 80%는 이제 영상이 진짜인지 가짜인지 구분할 수 없습니다. 이것이 디지털 기만의 새로운 현실입니다. 한때는 단순한 신기함으로 시작했던 것이 이제는 우리가 서로 연결되는 방식의 근간을 위협하는 위기로 발전했습니다. 누구의 얼굴이든 다른 사람의 얼굴로 바뀔 수 있고, 몇 초 분량의 음성만으로도 목소리를 복제할 수 있으며, 심지어 실시간 영상 통화조차 믿기 어려운 상황에서 우리는 불편한 질문에 마주하게 됩니다. 이제 무엇이든, 혹은 누구든 어떻게 믿을 수 있을까요?

이 근본적인 질문에 대한 답은 디지털 시대에 인간이 서로 상호작용하는 미래를 좌우하게 될 것입니다.

딥페이크의 급증

수치는 매우 심각한 현실을 보여줍니다. The Wall Street Journal에 따르면, 미국에서는 지난해 105,000건이 넘는 딥페이크 공격이 발생했습니다. 이러한 공격의 기반이 되는 기술은 누구나 쉽게 접근할 수 있을 정도로 확산되었습니다. 과거에는 할리우드 수준의 예산과 전문 인력 팀이 필요했던 기술이 이제는 기기와 인터넷 연결만 있으면 누구나 사용할 수 있게 되었습니다.

이러한 공격은 대상을 가리지 않습니다. 사기범들은 소셜 미디어에서 투자 사기를 통해 수백만 달러를 가로채기 위해 딥페이크로 만든 유명인 추천 영상을 사용합니다. 자연재해 이후에는 사기범들이 구호 활동가의 얼굴을 사용한 AI 생성 영상으로 호소 메시지를 배포합니다. 정치 딥페이크는 실제로 하지 않은 말을 한 것처럼 후보자를 보여주며 급속히 확산됩니다.

금융 기관은 특히 심각한 위기에 직면해 있습니다. 딥페이크 관련 사기는 2023년에 3,000% 급증했으며, 사건당 평균 기업 손실은 50만 달러에 달했습니다. 디지털 금융 산업 역시 큰 타격을 받고 있으며, AI 딥페이크가 2024년 고액 암호화폐 사기의 40%를 유발했고, 전 세계적으로 46억 달러의 손실에 기여했습니다.

인간 인증이 딥페이크를 약화시키는 방법

딥페이크의 효과를 줄일 수 있다면 어떨까요? 인간 인증 기술은 유망한 도구를 제공합니다. 실제이며 고유한 사람과 상호작용하고 있다는 암호학적 증명을 제공함으로써, 이 기술은 문제의 근본 원인을 해결합니다. 이 기술은 콘텐츠가 가짜인지 판별하려는 것이 아니라, 처음부터 출처가 실제 사람임을 보장합니다.

인간 인증의 활용 가능성은 매우 혁신적입니다:

• 안전한 커뮤니케이션: 영상 통화의 상대가 실제 사람인지 확인할 수 있습니다.
• 신뢰할 수 있는 거래: 중요한 대화가 AI 딥페이크가 아닌 실제 사람과 이루어지도록 보장합니다.
• 진짜 콘텐츠: 창작자가 자신의 작업에 암호학적 서명을 할 수 있도록 하여 무엇이 진짜인지 즉시 확인할 수 있게 합니다.

위조될 수 있는 시스템이나 침해될 수 있는 데이터베이스와 달리, 인간 인증은 프라이버시를 보호하는 암호 기술을 통해 이루어집니다. 중앙 데이터베이스나 온라인 추적 없이, 어떤 행동 뒤에 실제로 고유한 사람이 있다는 것을 수학적으로 증명하는 방식입니다.

우리의 디지털 미래를 되찾기

World는 인간과 합성된 상호작용을 더 명확히 인식할 수 있는 방법을 제공합니다. 프로토콜의 Deep Face 기술은 World ID를 기반으로 영상 통화 중 실시간 인간 인증을 제공하여 화면에 보이는 사람이 실제 사람임을 보장합니다.

딥페이크는 사회가 마주한 중요한 갈림길을 보여줍니다. 한쪽 길에는 끝없는 의심의 세계가 있습니다. 보는 것이 더 이상 믿을 수 있는 증거가 아니게 되고, 신뢰가 사라집니다. 다른 한쪽 길에는 우리의 디지털 연결이 현실의 관계만큼이나 실제임을 확신하며 서로 소통할 수 있는 미래가 있습니다.

선택은 분명해 보이지만, 그 전환이 자동으로 이루어지지는 않습니다. 이를 위해서는 기존의 방식인 탐지, 중재, 사후 대응이 필요하지만 그것만으로는 충분하지 않다는 점을 인식해야 합니다. 우리는 디지털 인프라의 근본적인 업그레이드가 필요합니다. 인간 인증은 딥페이크가 더 큰 피해를 일으키기 전에 이를 억제할 수 있는 하나의 길을 제시할 수 있습니다.

더 알아보기

World의 최신 소식과 다양한 뉴스 및 공지 사항을 확인하려면 World 웹사이트를 방문하거나 아래에서 블로그를 구독하세요.

World 소셜 미디어 채널에서 매일 이어지는 대화에 참여하거나, World 프로토콜 백서를 통해 프로젝트에 대한 추가 중요한 정보를 확인할 수 있습니다.