의심에서 신뢰로: 인간 인증이 딥페이크에 대응하는 방법

대화를 나누고 있는 인물의 모습으로, 딥페이크에 대응하기 위해 신뢰가 중요하다는 점을 강조합니다.

전 세계 어디에선가 5분마다 딥페이크 공격이 발생합니다.

피해자는 어디에나 있습니다. 홍콩에서는 한 금융 직원이 회사 CFO로 보이는 인물과 화상 통화를 한 뒤 2,500만 달러를 송금했습니다. 그러나 통화에 참여한 모든 인물은 가짜였습니다. 프랑스에서는 한 여성이 Brad Pitt와 교제하고 있다고 믿도록 속임을 당했습니다.

성인의 약 80%는 이제 영상이 진짜인지 가짜인지 구별하지 못합니다. 이것이 디지털 기만의 새로운 현실입니다. 처음에는 단순한 신기함으로 시작했지만, 이제는 우리가 서로 연결되는 방식의 근간을 위협하는 위기로 발전했습니다. 누구의 얼굴이든 다른 사람의 얼굴로 바뀔 수 있고, 몇 초의 음성만으로도 목소리를 복제할 수 있으며, 심지어 실시간 화상 통화조차 신뢰할 수 없게 된 지금 우리는 불편한 질문과 마주하게 됩니다. 이제 우리는 무엇을, 혹은 누구를 믿을 수 있을까요?

View this post on Instagram

A post shared by Jesse Richards (@iamjesserichards)

이 근본적인 질문에 대한 답은 디지털 시대에서 인간 상호작용의 미래를 결정하게 될 것입니다.

딥페이크의 급증

수치는 상황이 얼마나 심각한지 보여줍니다. The Wall Street Journal에 따르면, 지난해 미국에서 발생한 딥페이크 공격은 105,000건을 넘었습니다. 이러한 공격을 가능하게 하는 기술은 이제 누구나 쉽게 사용할 수 있을 정도로 확산되었습니다. 한때는 할리우드 수준의 예산과 전문가 팀이 필요했던 기술이 이제는 기기와 인터넷만 있으면 누구나 사용할 수 있게 되었습니다.

이 공격은 대상을 가리지 않습니다. 사기범들은 소셜 미디어에서 투자 사기를 벌이며 딥페이크로 만든 유명인 추천 영상을 사용해 수백만 달러를 가로챕니다. 자연재해가 발생한 뒤에는 사기범들이 구호 활동가의 얼굴을 사용한 AI 생성 호소 영상을 활용합니다. 정치적 딥페이크가 빠르게 퍼지면서, 후보자가 실제로 하지 않은 말과 행동이 영상에 담깁니다.딥페이크

금융 기관은 특히 심각한 위기에 직면해 있습니다. 2023년 딥페이크 관련 사기는 3,000% 급증했으며, 사건당 평균 기업 피해액은 50만 달러에 달했습니다. 디지털 금융 산업 역시 큰 타격을 받고 있으며, AI 딥페이크가 2024년 고액 암호화폐 사기의 40%를 유발했고, 전 세계적으로 46억 달러의 손실에 기여했습니다.

인간 인증이 딥페이크를 약화시키는 방법

딥페이크의 효과를 줄일 수 있다면 어떨까요? 인간 인증 기술은 이를 위한 유망한 해결책을 제공합니다. 실제이면서 고유한 사람과 상호작용하고 있다는 암호학적 증명을 제공함으로써, 이 기술은 문제의 근본 원인을 해결합니다. 이 기술은 콘텐츠가 가짜인지 판단하려는 것이 아니라, 처음부터 그 출처가 실제 사람임을 보장합니다.

인간 인증 기술의 활용 분야는 혁신적입니다:

Secure communications: Verify that the person on the video call is indeed a real human.
신뢰할 수 있는 거래: 중요한 거래나 대화가 AI 딥페이크가 아닌 실제 사람과 이루어지도록 합니다.
진짜 콘텐츠: 창작자가 자신의 작업에 암호학적 서명을 할 수 있게 해 무엇이 진짜인지 즉시 확인할 수 있도록 합니다.

스푸핑될 수 있는 시스템이나 침해될 수 있는 데이터베이스와 달리, 인간 인증은 개인정보 보호를 고려한 암호학을 통해 이루어집니다. 중앙 데이터베이스나 온라인 추적 없이, 어떤 행동 뒤에 실제이면서 고유한 사람이 있음을 수학적으로 증명합니다.

디지털 미래를 되찾기

World는 인간과 합성 존재 간의 상호작용을 더 잘 인식할 수 있는 방법을 제공합니다. World ID로 구동되는 프로토콜의 Deep Face 기술은 화상 통화 중 실시간으로 인간 여부를 확인해 화면에 보이는 사람이 실제 사람임을 보장합니다.

딥페이크는 사회가 마주한 갈림길을 보여줍니다 한쪽 길에는 끝없는 의심의 세계가 있습니다. 눈으로 본 것조차 더 이상 믿을 수 없고 신뢰가 사라지는 세상입니다. 다른 한쪽 길에는 우리의 디지털 연결이 현실의 관계만큼 실제임을 믿고 안심하며 상호작용할 수 있는 미래가 있습니다.

선택은 분명해 보이지만, 그 전환이 저절로 이루어지지는 않을 것입니다. 기존의 방식인 탐지, 관리, 사후 대응이 필요하긴 하지만 그것만으로는 충분하지 않다는 점을 인식해야 합니다. 우리는 디지털 인프라의 근본적인 업그레이드가 필요합니다. 인간 인증은 딥페이크가 더 큰 피해를 일으키기 전에 이를 억제할 수 있는 하나의 길을 제시할 수 있습니다.