Melawan Akun Palsu dengan World
Kepercayaan dan pengalaman konsumen online makin memburuk saat “AI slop” menguasai timeline kita.
Di media sosial, platform game, dan pasar online, makin sulit untuk mengetahui apa atau siapa yang berinteraksi dengan kita. Di balik akun-akun itu bisa jadi memang manusia nyata…atau bot…atau satu dari banyak persona yang dikendalikan oleh pihak yang sama. Postingan, balasan, dan engagement mereka mungkin terlihat nyata, tetapi kita semua melihat makin banyak konten artifisial dari hari ke hari.
Kenapa? Karena bot AI ikut-ikutan.
Dulu, bot sering dianggap sama seperti email spam: mengganggu, tetapi bisa kita filter dan abaikan. Dengan adanya AI, bot menjadi jauh lebih baik dalam meniru rupa dan suara manusia. AI menghasilkan konten yang realistis, bisa mengobrol, dan dapat mengelabui orang supaya menerima permintaan pertemanan mereka.
Apa pun tujuan mereka, misalnya mengarahkan perhatianmu ke situs web berkualitas rendah yang penuh iklan, mencoba menipumu untuk membagikan informasi pribadi, atau menjual gadget terbaru yang katanya harus kamu miliki, data menunjukkan bahwa makin banyak orang yang salah mengira bot sebagai orang yang dapat mereka percaya.
Survei yang dilakukan World baru-baru ini terhadap 2.000 orang dewasa Amerika menemukan bahwa:
- Lebih dari tiga perempat responden mengatakan bahwa internet “tidak pernah lebih buruk” dari sekarang dalam membedakan antara konten real dan artifisial
- Responden percaya bahwa setengah dari berita dan artikel yang mereka lihat online mengandung beberapa elemen AI
- Hanya 30% dari responden yang dapat membedakan antara ulasan bisnis yang ditulis oleh manusia dan yang ditulis oleh AI
Mengapa Solusi Saat Ini Tidak Berfungsi
Ketika berhadapan dengan akun palsu di era AI, platform-platform sedang menghadapi pertempuran yang sulit dimenangkan. Tool otomatis memudahkan pembuatan alamat email dalam jumlah besar, yang kemudian digunakan untuk membuat akun spam tanpa batas di platform. Karena AI makin canggih, perilaku bot ini makin mirip manusia sehingga sulit dideteksi dan ditutup oleh platform.
Ini bukan hanya masalah moderasi konten atau keputusan kebijakan platform, tetapi masalah sistemik yang memengaruhi kepercayaan sosial, diskursus sipil, hak-hak konsumen, dan kepatuhan terhadap regulasi. Dan infrastruktur saat ini tidak dibangun untuk menangani teknologi canggih yang akan terus bermunculan.
Tanpa tool baru untuk memverifikasi autentisitas secara online, pemerintah akan menggunakan instrumen regulasi yang kasar, sering kali dengan konsekuensi yang tidak diinginkan, seperti pengumpulan data pribadi yang berlebihan (yang secara paradoks dapat memperburuk masalah dengan memberikan lebih banyak data untuk dilatih oleh bot AI), pengecualian populasi yang kurang terlayani, atau fragmentasi nasional internet.
Solusi yang Lebih Baik: World ID
Platform online tidak perlu memeriksa ID pemerintah atau mengintegrasikan KYC untuk menghalangi bot masuk; mereka bahkan tidak perlu tahu siapa kamu. Dan karena AI dapat melewati CAPTCHA dan ID palsu dengan mudah, pendekatan konvensional seperti itu tidak akan berhasil. Sebaliknya, platform dapat mengintegrasikan World ID ke dalam sistem sign-in mereka, seperti yang dilakukan Razer dengan video game.
World ID menawarkan pendekatan yang secara mendasar berbeda dengan solusi yang saat ini tersedia. World ID memungkinkan platform memverifikasi bahwa seseorang adalah manusia nyata dan unik, tanpa mengumpulkan data pribadi, proses semacam KYC, atau membuat pengguna melalui proses rumit seperti CAPTCHA.
Implementasi World ID di platform online memungkinkan:
- Interaksi antar-manusia: Konsumen bisa percaya bahwa akun yang berinteraksi dengan mereka dikendalikan oleh manusia nyata.
- Kepercayaan lebih besar pada platform: Platform online bisa kembali pada perannya memfasilitasi interaksi manusia, yang juga membantu memulihkan kepercayaan dalam ekonomi platform mereka.
- Risiko data pribadi lebih rendah: Individu tidak perlu membagikan data pribadi, sehingga platform tidak perlu khawatir kehilangan data tersebut.
- Ketahanan terhadap AI: World ID menawarkan pendekatan autentikasi yang berpusat pada manusia, yang tidak dapat dipalsukan oleh AI.
Saat ini, orang-orang menjelajahi ruang online yang terasa kurang aman, kurang nyata, dan kurang adil. World ID menawarkan pendekatan yang lebih cerdas dan manusiawi untuk memulihkan kepercayaan online dan membantu platform agar tetap terbuka dan aman di dunia yang dipenuhi AI.