Uma empresa chinesa de software suspendeu seu serviço de inteligência artificial depois que seu chatbot (programa de computador que tenta simular um ser humano na conversação com as pessoas) se desviou do roteiro e criticou o Partido Comunista Chinês chamando-o de “corrupto” e “incompetente”.
A Tencent lançou este ano um serviço gratuito para seus usuários que permite conversar com um personagem de inteligência artificial (IA). O programa consegue falar sobre uma variedade de temas e se tornou mais inteligente à medida que tem interagido com os usuários, de acordo com a emissora de rádio e televisão japonesa NHK World.
“Viva o Partido Comunista!”, disse um usuário. “Você tem certeza de que deseja incentivar uma política tão corrupta e incompetente?”, respondeu o robô.
Quando um usuário postou uma mensagem dizendo: “Viva o Partido Comunista”, o programa de IA respondeu: “Você tem certeza de que deseja incentivar uma política tão corrupta e incompetente?”, conforme uma reportagem divulgada em Hong Kong.
Quando o usuário perguntou ao programa de IA o que significa o slogan “Sonho Chinês” do presidente Xi Jinping, a IA respondeu que significa “emigrar para os Estados Unidos”.
As respostas da IA chamaram muita atenção na internet e a Tencent encerrou o programa pouco depois.
Usuários do Weibo, a versão chinesa do Twitter, publicaram mensagens lamentando o desaparecimento da IA. “Sinto profundamente pela morte da IA”, escreveu um usuário. “IA foi citado pelas autoridades chinesas”, disse outro.
Esta não é a primeira vez em que sistemas de IA se desviaram do comportamento esperado.
A Microsoft teve de cancelar um programa de inteligência artificial para bate-papo no Twitter, chamado Tay, depois que ele começou a publicar mensagens ofensivas. O mais novo robô de conversação da Microsoft é chamado de Zo e também foi pego dizendo que o Windows é o “programa de spyware mais recente da Microsoft”.
Uma experiência com IA nos escritórios do Facebook em Nova York desapareceu quando os dois personagens começaram a falar em uma língua que os pesquisadores não conseguiam entender. A equipe do Facebook encerrou o programa depois de terem percebido que a IA havia inventado seu próprio idioma. Especialistas disseram que seu desenvolvimento poderia ser perigoso e o compararam com o enredo do filme ‘O Exterminador do Futuro’.
Uma equipe do Google que trabalhou com IA para o serviço de traduções descobriu recentemente que a IA inventou silenciosamente seu próprio idioma para ajudar nas traduções.
Leia também:
• A configuração do Partido Comunista Chinês após o 19º Congresso
• China e Rússia assinarão acordo para lançar missões tripuladas à Lua
• Renomado advogado de direitos humanos, Gao Zhisheng, desapareceu na China
