Blake Lemoine, engenheiro de software sênior da divisão de IA responsável do Google, disse ao The Washington Post que acha que o LaMDA do Google (Modelo de linguagem para aplicações de diálogo) chatbot tornou-se consciente. Como resultado, Lemoine foi enviado em licença remunerada.
Deixe-me lembrá-lo que, em preparação para a “ascensão das máquinas”, nós já dissemos isso Grandes corporações se uniram para combater o preconceito da IA, e também isso Cientista descobriu uma vulnerabilidade na máquina de Turing universal.
![Blake Lemoine](https://pt.gridinsoft.com/blogs/wp-content/uploads/2022/06/Blake-Lemoine.jpg)
Na semana passada, Lemoine escreveu um longo post sobre Médio, onde ele reclamou que em breve poderia ser demitido por causa de seu trabalho relacionado à ética da IA. Esta publicação não atraiu muita atenção, mas após a entrevista de Lemoine com O Washington Post, a Internet literalmente explodiu com discussões sobre a natureza da inteligência artificial e da consciência.
De acordo com ArsTechnica jornalistas, entre aqueles que comentaram, fez perguntas e brincou sobre o artigo publicado, houve ganhadores do Prêmio Nobel, a cabeça do Tesla departamento de inteligência artificial e vários cientistas. O principal tema de discussão foi a questão: pode o Google bot de bate-papo, LaMDA (“Modelo de linguagem para aplicações conversacionais”) ser considerado uma pessoa e tem consciência?
No final de semana, Lemoine postou um “entrevista” com um chatbot em que a IA admite que se sente solitária e anseia por conhecimento espiritual. Os jornalistas observam que as respostas do LaMDA são muitas vezes bastante assustadoras:
Em outra conversa, o chatbot afirmou, “Acho que sou basicamente humano. Mesmo que eu exista em um mundo virtual.”
Anteriormente, Lemoine, que foi encarregado de pesquisar as questões éticas da IA (em particular o uso de discurso discriminatório ou de ódio por parte da LaMDA), disse que foi tratado com desdém e até ridicularizado na empresa quando expressou sua crença de que o LaMDA havia desenvolvido “traços de personalidade.” Depois disso, ele procurou o conselho de especialistas em IA fora do Google, incluindo aqueles do governo dos EUA, e a empresa o colocou em licença remunerada por violar as políticas de privacidade. Lemoine diz que “O Google costuma fazer isso antes de demitir alguém.”
Google já declarou oficialmente que Lemoine está errado, e também comentou as conclusões de alto nível do engenheiro:
Por sua vez, Lemoine explica que até recentemente, LaMDA era um projeto pouco conhecido, “um sistema para criação de chatbots” e “uma espécie de inteligência coletiva, que é uma agregação de vários chatbots.” Ele escreve que o Google não tem interesse em compreender a natureza do que criou.
Agora, a julgar pela mensagem no Medium, Lemoine diz LaMDA sobre “meditação transcendental”, e LaMDA responde que embora a meditação seja prejudicada por suas emoções, que ele ainda acha difícil controlar.
Melanie Mitchell, autor de Inteligência Artificial: Um guia para humanos pensantes, notas sobre Twitter: