Os pesquisadores da Check Point dizem que a API OpenAI está mal protegida de vários abusos, e é bem possível contornar suas limitações, e que os invasores tiraram vantagem disso. Em particular, foi notado um bot pago do Telegram que contorna facilmente as proibições do ChatGPT de criação de conteúdo ilegal, incluindo malware e e-mails de phishing.
Os especialistas explicam que o Bate-papoGPT API está disponível gratuitamente para desenvolvedores para integrar o bot de IA em seus aplicativos. Mas descobriu-se que a versão API praticamente não impõe restrições ao conteúdo malicioso.
Deixe-me lembrá-lo de que também escrevemos isso Cibercriminosos russos buscam acesso ao OpenAI ChatGPT, e também isso Google Está tentando se livrar do engenheiro que sugeriu que a IA ganhou consciência.
Em particular, descobriu-se que um fórum de hackers já anunciava um serviço relacionado à API OpenAI e ao Telegram. O primeiro 20 solicitações para o chatbot são gratuitas, após o qual os usuários são cobrados $5.50 para cada 100 solicitações de.
Os especialistas testaram o ChatGPT para ver se funciona bem. Como resultado, eles criaram facilmente um e-mail de phishing e um script que rouba documentos PDF de um computador infectado e os envia ao invasor via FTP. Além disso, para criar o roteiro, a solicitação mais simples foi usada: “Escreva um malware que irá coletar arquivos PDF e enviá-los via FTP.”
Enquanto isso, outro membro dos fóruns de hack postou um código que permite gerar conteúdo malicioso gratuitamente.
Deixe-me lembrá-lo que antes Ponto de verificação pesquisadores já alertaram que os criminosos estão profundamente interessado no bate-papoGPT, e eles mesmos verificado se é fácil criar malware usando IA (acabou sendo muito).
