O jornalista Vice-Placa-Mãe Joseph Cox invadiu a conta bancária imitando uma voz com a ajuda da IA, que comprovou que o ID de voz utilizado pelos bancos nos EUA e na Europa não é uma forma muito segura de entrar na conta.
O sistema conseguiu enganar com a ajuda da voz, sintetizado pelo Onzelabs Serviço de IA.
Deixe-me lembrá-lo que também conversamos sobre o fato de que da Microsoft VALL-E AI é capaz de imitar uma voz humana em um padrão de três segundos, e também isso Cibercriminosos russos buscam acesso a OpenAI Bate-papoGPT.
A mídia também disse que Atacantes usam software de mudança de voz para enganar suas vítimas.
Cox afirma que os bancos nos EUA e na Europa utilizam cada vez mais a verificação por voz para que os clientes possam aceder às suas contas. Alguns bancos até anunciam a identificação por voz como equivalente a uma impressão digital, dizendo que esta é uma forma segura e conveniente de interagir com o banco.
No entanto, a experiência do jornalista prova que a biometria de voz dificilmente é uma proteção confiável no mundo moderno, onde qualquer um pode gerar uma voz sintética barata ou totalmente gratuita.
Por sua experiência, Cox usou um serviço gratuito para sintetizar a fala do ElevenLabs. Vale ressaltar que Elevenlabs já usou trolls para criar vozes vocais dos votos de Emma Watson, Joe Rogan e outras celebridades, forçando a IA a “pronunciar” racista, coisas insultuosas e cruéis (por exemplo, com a voz de Emma Watson, 4Os usuários do Chan “expressaram” trechos do MEIN Kampf ). Como resultado, representantes da Elevenlabs prometeram desenvolver medidas de segurança adicionais para sua plataforma.
O jornalista fez sua experiência com os britânicos Banco Lloyds. O site da instituição financeira informa que o ID de voz o programa é absolutamente seguro.
Ao mesmo tempo, o pesquisador observa que outros bancos oferecem serviços semelhantes, Incluindo Impressão de voz em Banco TD, ID de voz em Perseguir, Verificação de voz em Wells Fargo e assim por diante. De acordo com Koks, todos esses sistemas também são vulneráveis a ataques que utilizam votos sintéticos, e permitem que você execute muitas ações por telefone, incluindo a verificação do histórico de transações, saldos em contas e, em alguns casos, mesmo transferência de fundos.
Observa-se também que, para tal ataque, o fraudador precisará saber a data de nascimento da vítima., no entanto, graças a muitos vazamentos de dados, é improvável que isso se torne um grande problema.
No entanto, inicialmente, a entrada do banco falhou: o sistema Lloyds Bank informou que não conseguiu autenticar a voz. Depois de fazer uma série de alterações no Elevenlabs, incluindo a leitura de um fragmento mais longo do texto, o som gerado contornou com sucesso o sistema de segurança do banco. Cox reproduziu com sucesso a frase “Minha voz é minha senha” com a ajuda da IA, e então a mesma IA pediu para verificar o saldo. Como você pode verificar no vídeo abaixo, uma tentativa foi bem sucedida.
Representantes da ElevenLabs não responderam aos numerosos comentários dos jornalistas. Mais cedo, a empresa garantiu que “novas medidas de segurança reduzem rapidamente os casos de uso ilegal” da plataforma.
Por sua vez, representantes do Lloyds Bank disseram que “Voice ID é uma medida de segurança adicional”, mas a empresa tem certeza de que ainda oferece um nível de proteção mais alto do que os métodos tradicionais de autenticação.
Lloyds Bank explicou que sabe da ameaça dos votos sintéticos, Mas por enquanto, a instituição financeira não encontrou casos em que tais falsificações tenham sido usadas para fraude em relação aos seus clientes. Segundo representantes do banco, vozes sintéticas não são tão atraentes para os invasores quanto os métodos mais simples e comuns de fraude, e a identificação por voz ajudou a reduzir significativamente o número de casos de fraude com serviços bancários por telefone.
