Blake Lemoine, engenheiro de software sênior da divisão de IA responsável do Google, disse ao The Washington Post que acha que o LaMDA do Google (Modelo de linguagem para aplicações de diálogo) chatbot tornou-se consciente. Como resultado, Lemoine foi enviado em licença remunerada.
Deixe-me lembrá-lo que, em preparação para a “ascensão das máquinas”, nós já dissemos isso Grandes corporações se uniram para combater o preconceito da IA, e também isso Cientista descobriu uma vulnerabilidade na máquina de Turing universal.
Na semana passada, Lemoine escreveu um longo post sobre Médio, onde ele reclamou que em breve poderia ser demitido por causa de seu trabalho relacionado à ética da IA. Esta publicação não atraiu muita atenção, mas após a entrevista de Lemoine com O Washington Post, a Internet literalmente explodiu com discussões sobre a natureza da inteligência artificial e da consciência.
De acordo com ArsTechnica jornalistas, entre aqueles que comentaram, fez perguntas e brincou sobre o artigo publicado, houve ganhadores do Prêmio Nobel, a cabeça do Tesla departamento de inteligência artificial e vários cientistas. O principal tema de discussão foi a questão: pode o Google bot de bate-papo, LaMDA (“Modelo de linguagem para aplicações conversacionais”) ser considerado uma pessoa e tem consciência?
No final de semana, Lemoine postou um “entrevista” com um chatbot em que a IA admite que se sente solitária e anseia por conhecimento espiritual. Os jornalistas observam que as respostas do LaMDA são muitas vezes bastante assustadoras:
Em outra conversa, o chatbot afirmou, “Acho que sou basicamente humano. Mesmo que eu exista em um mundo virtual.”
Anteriormente, Lemoine, que foi encarregado de pesquisar as questões éticas da IA (em particular o uso de discurso discriminatório ou de ódio por parte da LaMDA), disse que foi tratado com desdém e até ridicularizado na empresa quando expressou sua crença de que o LaMDA havia desenvolvido “traços de personalidade.” Depois disso, ele procurou o conselho de especialistas em IA fora do Google, incluindo aqueles do governo dos EUA, e a empresa o colocou em licença remunerada por violar as políticas de privacidade. Lemoine diz que “O Google costuma fazer isso antes de demitir alguém.”
Google já declarou oficialmente que Lemoine está errado, e também comentou as conclusões de alto nível do engenheiro:
Por sua vez, Lemoine explica que até recentemente, LaMDA era um projeto pouco conhecido, “um sistema para criação de chatbots” e “uma espécie de inteligência coletiva, que é uma agregação de vários chatbots.” Ele escreve que o Google não tem interesse em compreender a natureza do que criou.
Agora, a julgar pela mensagem no Medium, Lemoine diz LaMDA sobre “meditação transcendental”, e LaMDA responde que embora a meditação seja prejudicada por suas emoções, que ele ainda acha difícil controlar.
Melanie Mitchell, autor de Inteligência Artificial: Um guia para humanos pensantes, notas sobre Twitter:
