Os usuários reclamam que o Discord CAPTCHA fornecido pelo hCaptcha os obriga a procurar objetos inexistentes criados pela IA nas fotos fornecidas. Por exemplo, um objeto chamado “Yoko”, que parece um híbrido de caracol e ioiô, que é inventado e criado pela IA e não existe na realidade.
Deixe-me lembrá-lo de que também escrevemos isso GPT-4 Enganou uma pessoa para resolver um CAPTCHA para eles, fingindo ser deficiente visual, e também isso Novo hCaptcha método de bypass pode não afetar Cloudflare segurança.
Discord CAPTCHA criado por AI confunde usuários
De acordo com Vice-placa-mãe jornalistas, várias pessoas reclamaram imediatamente nas redes sociais sobre o estranho objeto Yoko, que era necessário encontrar entre outras fotos para entrar no Discord.
Ao mesmo tempo, outros usuários descobriram que foram solicitados a encontrar imagens de um cubo de quebra-cabeça, que também foi criado por inteligência artificial e não se parecia muito com um objeto da vida real. Além disso, todos os objetos na tarefa parecem ter vindo direto do Vale Estranho.
CAPTCHAs para Discord são fornecidos por hCaptcha, e representantes do Discord disseram aos repórteres que a tecnologia que gera esses prompts “é propriedade de um parceiro terceirizado e o Discord não determina diretamente o que será apresentado aos usuários”. Por sua vez, representantes do hCaptcha explicaram que o que aconteceu foi “um pequeno teste que um pequeno número de pessoas viu”. Como centenas de milhões de usuários usam a tecnologia no total, até isso “breve teste” resultou nos tweets mostrados acima.
A publicação observa que o hCaptcha se posiciona como uma alternativa ao reCAPTCHA com foco na privacidade. De acordo com para um 2018 postagem no blog, Os prompts hCaptcha são gerados automaticamente por clientes que precisam de “alta qualidade, anotações geradas por humanos para suas necessidades de aprendizado de máquina.”
Aquilo é, hCaptcha ganha dinheiro com clientes como Discord, que compram assinaturas profissionais e empresariais para executar serviços CAPTCHA, e de clientes que criam prompts. Na verdade, hCaptcha usa seu próprio CAPTCHA para sistemas de aprendizado de máquina e redes adversárias generativas.
E não é a primeira vez que as pessoas notam o aparecimento de imagens estranhas nos serviços hCaptcha e notam que a empresa aparentemente treina IA com a ajuda dos usuários. Então, dois meses atrás, a Reddit usuário percebeu que Discord pediu que ele encontrasse entre as imagens de pessoas jogando hóquei e golfe, jogadores de futebol, que foi claramente criado pela inteligência artificial. Em março, outro usuário do Reddit reclamou que o CAPTCHA do Discord havia se tornado quase insolúvel.
Os jornalistas resumem que o trabalho do hCaptcha é um excelente exemplo dos problemas que surgem com os sistemas de aprendizado de máquina. A primeira é que os sistemas de IA requerem uma contribuição humana significativa. Por exemplo, como uma regra, a indexação e categorização de imagens são transferidas para terceirizados de países em desenvolvimento, cujo trabalho é extremamente mal remunerado. Outro problema é desvio de dados: quanto mais tempo os sistemas de aprendizado de máquina funcionam, mais dados eles precisam. Em última análise, eles começam a usar dados que eles próprios geraram para autoaprendizagem. E os sistemas que treinam sozinhos por um tempo suficiente acabam chegando ao ponto de emitir solicitações para a definição de objetos incompreensíveis., como Yoko.
