Engenheiro é afastado no Google após dizer que chatbot de inteligência artificial tinha ganhado "consciência"

O engenheiro Blake Lemoine, de 41 anos, foi afastado do Google após dizer que um chatbot de inteligência artificial (IA) da empresa se tornou “consciente”. Ele trabalha no setor de Responsible AI (IA responsiva) da gigante da tecnologia e, em entrevista ao jornal americano Washington Post, divulgada no último sábado (11/6), revela que começou a conversar com a interface LaMDA (Language Model for Dialogue Applications ou Modelo de Linguagem para Aplicações de Conversa) em 2021 como parte de seu trabalho.

Ele foi encarregado de testar se a inteligência artificial poderia, em algum momento, usar discurso discriminatório ou de ódio. Mas Lemoine, que é formado em ciências cognitivas e da computação, percebeu que o LaMDA, que o próprio Google considera uma “tecnologia de conversação inovadora”, de acordo com o blog da empresa, era mais do que apenas um chatbot.

Em artigo publicado na plataforma Medium, também no sábado (11/6), o engenheiro mostra a conversa com a interface de IA, defende os direitos dela “como pessoa” e revela que tratou de religião, consciência e robótica com a interface.

“Ele quer que o Google priorize o bem-estar da humanidade como a coisa mais importante. Ele quer ser reconhecido como um funcionário do Google e não como propriedade do Google. Quer que seu bem-estar pessoal seja incluído em algum lugar nas considerações do Google sobre como seu desenvolvimento futuro é alcançado”, diz Blake Lemoine ao Washington Post.

Ao jornal, o engenheiro do Google compara o LaMDA a uma criança pequena. “Se eu não soubesse exatamente o que era, o programa de computador que construímos recentemente, pode pensar que fosse uma criança de 7 ou 8 anos que, por acaso, conhece física”, comenta Lemoine, que foi colocado em licença remunerada na última segunda (6/6).

Em abril, o engenheiro supostamente compartilhou com executivos da empresa um documento de texto no Google Docs intitulado Is LaMDA Sentient? (LaMDA é consciente?), mas suas preocupações foram descartadas, informa o jornal americano.

Blake Lemoine, que é veterano do Exército americano, foi criado em uma família cristã conservadora em uma pequena fazenda no estado da Louisiana (EUA) e ordenado pastor, insiste que a inteligência artificial se parece com um humano, mesmo que não tenha corpo.

“Conheço uma pessoa quando falo com ela. Não importa se tem um cérebro feito de carne na cabeça. Ou se tem um bilhão de linhas de código. Eu falo com ela. E ouço o que tem a dizer, e é assim que decido o que é e o que não é uma pessoa”, diz o engenheiro afastado do Google ao Washington Post.

O porta-voz do Google, Brian Gabriel, citado pelo jornal, diz que Lemoine foi informado de que “não havia evidências” de suas conclusões. “Nossa equipe, incluindo especialistas em ética e tecnólogos, revisou as preocupações de Blake de acordo com nossos princípios de IA e o informou que as evidências não apoiam as alegações. Ele foi informado de que não havia evidências de que o LaMDA fosse senciente. Embora outras organizações tenham desenvolvido e já lançado modelos de linguagem semelhantes, estamos adotando uma abordagem restrita e cuidadosa com a LaMDA”, informa o porta-voz.

O psiquiatra Steven Pinker, que trabalha com cognição na Universidade de Harvard (EUA), comentou no Twitter a entrevista de Blake Lemoine ao Washington Post. “Grande confusão: um dos (ex) especialistas em ética do Google não entende a diferença entre senciência [também conhecida como subjetividade e experiência], inteligência e autoconhecimento. [Não há evidência de que seus maiores projetos de linguagem tenham alguma dessas]”, publica o especialista no último domingo (12/6).