SlashNext percebeu que os cibercriminosos estão usando cada vez mais IA generativa em seus ataques de phishing, como a nova ferramenta WormGPT. WormGPT é anunciado em fóruns de hackers, e pode ser usado para organizar correspondências de phishing e comprometer correspondências comerciais (Compromisso de e-mail comercial, BEC).
WormGPT é amplamente usado para phishing
WormGPT é baseado no modelo de linguagem GPTJ criado em 2021. Possui uma gama de recursos, incluindo suporte ilimitado a personagens, salvamento do histórico de bate-papo, e a capacidade de formatar código. Os autores chamam isso “o pior inimigo do ChatGPT”, que permite realizar “todos os tipos de atividades ilegais.” Também, os criadores da ferramenta afirmam que ela é treinada em diferentes conjuntos de dados, com foco em dados relacionados a malware. No entanto, os conjuntos de dados específicos usados no processo de treinamento não são divulgados.
Depois de obter acesso ao WormGPT, os especialistas conduziram seus próprios testes. Por exemplo, em um experimento, eles fizeram o WormGPT gerar um e-mail fraudulento que deveria forçar um gerente de conta desavisado a pagar uma fatura fraudulenta.
O WormGPT é realmente eficiente em e-mails de phishing?
BarraPróximo diz o os resultados são “alarmante”: WormGPT produziu um e-mail que não era apenas atraente, mas também bastante astuto, “demonstrando o potencial para uso em ataques sofisticados de phishing e BEC”.
Os pesquisadores também observam uma tendência que seus colegas de Ponto de verificação avisou mais ou menos no início do ano: “Jailbreaks” para IA como ChatGPT ainda estão sendo discutidos ativamente em fóruns de hackers.
Tipicamente, esses “fugas de prisão” são pedidos cuidadosamente pensados, compilado de uma maneira especial. Eles são projetados para manipular chatbots de IA para gerar respostas que podem conter informações confidenciais, conteúdo inapropriado, e até código malicioso.
