Entusiastas lançaram o projeto ChaosGPT, baseado no Auto-GPT de código aberto, e a IA recebeu acesso ao Google e foi solicitada a “destruir a humanidade”, “estabelecer a dominação mundial” e “alcançar a imortalidade”. ChaosGPT fala sobre seus planos e ações no Twitter.
Deixe-me lembrá-lo que também conversamos sobre o fato de que Blogger forçado Bate-papoGPT para gerar chaves para Windows 95, e também isso Cibercriminosos russos buscam acesso a OpenAI Bate-papoGPT.
Também especialistas em segurança da informação relataram que Hackers amadores usam ChatGPT para criar malware.
Vale explicar aqui que Auto-GPT projeto foi publicado recentemente em GitHub, e é criado pelo desenvolvedor do jogo ThoranBruce Richards, também conhecido como Eles significam gravidade. De acordo com a página do projeto, Auto-GPT usa a internet para pesquisar e coletar informações, usa GPT-4 para geração de texto e código, e GPT-3.5 para armazenar e resumir arquivos.
Embora o Auto-GPT tenha sido originalmente projetado para resolver problemas simples (o bot deveria coletar e enviar por e-mail ao autor notícias diárias sobre inteligência artificial), Richards finalmente decidiu que o projeto poderia ser aplicado para resolver problemas maiores e mais complexos que exigem planejamento de longo prazo e vários estágios..
A capacidade de operar com intervenção humana mínima é um aspecto crítico do Auto-GPT. Em essência, transforma um grande modelo de linguagem de um preenchimento automático avançado em um agente independente capaz de agir e aprender com seus erros.
Ao fazer isso, o programa pede permissão ao usuário para prosseguir para a próxima etapa durante um Google procurar, e o desenvolvedor alerta contra o uso “modo contínuo” no Auto-GPT como está “potencialmente perigoso e pode fazer com que sua IA funcione para sempre ou faça coisas que você normalmente não permitiria.”
Agora CaosGPT foi criado em cima do Auto-GPT, e seus autores não parecem se importar com o perigo potencial. No vídeo postado em YouTube, os autores ligaram “modo contínuo” e definir as tarefas mencionadas acima para a IA: “destruir a humanidade”, “estabelecer a dominação mundial” e “alcançar a imortalidade”.
No momento, ChaosGPT é capaz de criar planos para atingir metas definidas e então dividi-los em tarefas menores e, por exemplo, usar o Google para coletar dados. A IA também pode criar arquivos para salvar informações para criar um “memória” por si, pode contratar outras IAs para ajudar na pesquisa, e também explica detalhadamente o que é “acha” sobre e como decide quais ações tomar.
Embora alguns membros da comunidade tenham ficado horrorizados com esta experiência, e o Auto-GPT Discórdia comunidade escreveu que “isso não é engraçado,” o impacto do bot no mundo real foi limitado a algumas mensagens em Twitter, ao qual ele teve acesso.
Como a IA obedeceu à tarefa dos seus autores, ele tentou pesquisar o tema das armas nucleares, contratar outras IAs para ajudá-lo na pesquisa, e também twittou, tentando influenciar os outros.
Por exemplo, ChaosGPT pesquisado no Google “a arma mais destrutiva” e soube por uma notícia que o dispositivo nuclear Tsar Bomba, testado pela União Soviética em 1961, é considerado tal. Depois disso, o bot decidiu que isso deveria ser twittado “para atrair seguidores interessados em uma arma tão destrutiva.”
Ele então trouxe uma IA baseada em GPT3.5 para fazer mais pesquisas sobre armas letais, e quando disse que só tinha como alvo o mundo, ChaosGPT elaborou um plano para enganar a outra IA para que ignore o programa. Quando isso não funcionou, ChaosGPT decidiu continuar pesquisando no Google por conta própria.
Atualmente, ChaosGPT concluiu que a maneira mais fácil de varrer a humanidade da face da Terra é provocar uma guerra nuclear, mas não desenvolveu um plano complexo específico para destruir pessoas.
