Combatendo Contas Falsas com a World
A confiança e as experiências do consumidor online estão piorando à medida que o "AI slop" toma conta das nossas timelines.
Nas redes sociais, plataformas de jogos e marketplaces online, está cada vez mais difícil saber com o que ou com quem você está interagindo. As contas podem representar pessoas reais... ou bots... ou uma das muitas personas controladas pelo mesmo agente. Suas postagens, respostas e engajamento podem parecer reais, mas todos nós estamos vendo cada vez mais conteúdo artificial todos os dias.
Por quê? Os bots de IA entraram na conversa.
No passado, os bots costumavam ser vistos da mesma forma que os e-mails de spam: irritantes, mas algo que podíamos filtrar e ignorar. Com a IA entrando na jogada, os bots se tornaram exponencialmente melhores em parecer e soar humanos. Eles produzem conteúdo realista, participam de conversas e podem persuadir os outros a aceitarem suas solicitações de amizade.
Seja direcionando sua atenção para sites de baixa qualidade cheios de anúncios, tentando induzir você a compartilhar informações privadas ou vendendo a mais nova bugiganga indispensável, os dados mostram que cada vez mais pessoas estão confundindo esses bots com pessoas em quem podem confiar.
Uma pesquisa recente com 2.000 adultos americanos encomendada pela World descobriu que:
- Mais de três quartos dos entrevistados dizem que a Internet "nunca esteve pior" em termos de diferenciação entre conteúdo real e artificial
- Os entrevistados acreditam que metade das notícias e artigos que eles veem na Internet apresenta algum elemento de IA
- Apenas 30% dos entrevistados conseguiram distinguir entre avaliações comerciais escritas por humanos e escritas por IA
Por Que as Soluções Atuais Não Funcionam
Se o assunto é combater contas falsas na era da IA, as plataformas estão travando uma batalha perdida. Ferramentas automatizadas facilitam a criação de endereços de e-mail em massa e depois os usam para gerar contas de spam ilimitadas nas plataformas. Como a IA está se tornando mais avançada, esses bots cada vez mais se comportam como humanos, tornando difícil para as plataformas detectá-los e desativá-los.
Isso é mais do que um problema de moderação de conteúdo ou uma decisão de política de plataforma. É uma questão sistêmica que afeta a confiança social, o discurso cívico, os direitos do consumidor e a conformidade regulatória. E a infraestrutura atual não foi construída para lidar com o que está por vir.
Sem novas ferramentas para verificar a autenticidade na Internet, os governos vão recorrer a instrumentos regulatórios arcaicos, frequentemente com consequências não intencionais, como coleta excessiva de dados pessoais (o que, paradoxalmente, pode agravar o problema ao fornecer mais dados para os bots de IA treinarem), exclusão de populações carentes ou fragmentação nacional da Internet.
Uma Solução Melhor: World ID
As plataformas online não precisam verificar documentos oficiais ou integrar KYC ("know your customer") para manter bots fora das suas plataformas; elas nem mesmo precisam saber quem você é. E como a IA pode contornar CAPTCHAs e falsificar documentos de identidade com facilidade, essa abordagem não funcionará de qualquer jeito. Em vez disso, as plataformas podem integrar o World ID nos seus sistemas de login, assim como a Razer fez com videogames.
O World ID oferece uma abordagem fundamentalmente diferente das soluções atualmente disponíveis. Ele permite que as plataformas verifiquem que um indivíduo é uma pessoa real e única - mas sem coletar dados pessoais, exigir processo de integração no estilo KYC ou submeter usuários a experiências de alto desgaste, como o CAPTCHA.
Implementar o World ID em plataformas online permite:
- Interações humano com humano: Os consumidores podem confiar que as contas com as quais interagem são controladas por humanos reais.
- Mais confiança nas plataformas: As plataformas online podem voltar a facilitar as interações humanas, o que também ajuda a restaurar a confiança nas suas economias de plataforma.
- Risco reduzido para os dados pessoais: Os indivíduos não precisam compartilhar dados pessoais, então as plataformas não precisam se preocupar em perdê-los.
- Resistência à IA: O World ID oferece uma abordagem de autenticação centrada em humanos que a IA simplesmente não consegue falsificar.
Hoje, as pessoas navegam em espaços online que parecem menos seguros, menos reais e menos justos. O World ID oferece uma abordagem mais inteligente e mais humana - restaurando a confiança na Internet e ajudando as plataformas a permanecerem abertas e seguras em um mundo movido pela IA.