À medida que as empresas tecnológicas chinesas revelam as suas respostas ao ChatGPT, os especialistas alertam que o panorama da inteligência artificial da China representa uma série de ameaças.
Em 31 de agosto, a gigante de tecnologia Baidu apresentou Ernie, a contraparte chinesa do ChatGPT, enquanto o Alibaba anunciou seu modelo de IA, Tongyi Qianwen, em 13 de setembro.
Embora Ernie tenha sido inicialmente apresentado em março, o chatbot já foi aprovado e está disponível para download.
“Além do ERNIE Bot, o Baidu está pronto para lançar um conjunto de novos aplicativos nativos de IA que permitem aos usuários experimentar plenamente as quatro habilidades principais da IA generativa: compreensão, geração, raciocínio e memória”, disse o Baidu em um comunicado anunciando A libertação de Ernie.
À medida que a concorrência estratégica se aquece nos Estados Unidos, Pequim aumentou o seu apoio às empresas chinesas que trabalham com IA. A divisão de inteligência em nuvem da Alibaba disse em uma mensagem em sua conta WeChat que várias organizações, incluindo OPPO, Taobao, DingTalk e Universidade de Zhejiang, chegaram a acordos de cooperação com a Alibaba para treinar seus próprios grandes modelos de linguagem (LLMs, na sigla em inglês) em Tongyi Qianwen.
O uso de ferramentas de IA de ponta pela China poderia potencialmente aumentar os riscos de segurança nacional para os seus adversários, dizem os especialistas.
“O emprego de grandes modelos de linguagem, como ChatGPT, Tongyi Qianwen do Alibaba ou sistemas de IA semelhantes, pode ser potencialmente considerado uma ameaça à segurança, como desinformação, ataques automatizados, preocupações éticas e privacidade de dados”, disse o pesquisador e autor de IA Sahar Tahvili. A Sra. Tahvili é autora (com Leo Hatvani) de “Métodos de Inteligência Artificial para Otimização do Processo de Teste de Software: Com Exemplos Práticos e Exercícios”.
A IA generativa descreve algoritmos que podem gerar novos conteúdos, incluindo áudio, código, imagens, texto, simulações e vídeos. LLMs são o componente de geração de texto da IA generativa.
Os LLMs envolvem um algoritmo de aprendizagem profunda que pode executar uma variedade de tarefas de processamento de linguagem, como reconhecer, traduzir, prever ou gerar texto ou outro conteúdo.
Os chineses estão 15 anos à frente do resto do mundo no uso de complicados LLMs de IA, estima Ashwin Kumaraswamy, um profundo investidor em tecnologia baseado no Reino Unido. Kumaraswamy faz parte do conselho de diversas empresas de tecnologia.
Embora a maioria das plataformas de mídia social ocidentais sejam proibidas na China, o Sr. Kumaraswamy observou que a plataforma WeChat da Tencent ( conhecida na China como Weixin), que é onipresente na China, permite aos usuários uma infinidade de opções, incluindo compras, mensagens, condução de negócios, microblogging e chatbot.
“Digitalmente, eles são realmente fortes e integrados”, disse o capitalista de risco ao Epoch Times.
O CTO do Baidu, Wang Haifeng, fala na inauguração do chatbot Ernie do Baidu, em um evento em Pequim em 16 de março de 2023 (Michael Zhang/AFP via Getty Images)Valores socialistas fundamentais: “Vamos falar de outra coisa”
Especialistas disseram ao Epoch Times que a ameaça relacionada à IA vinda da China decorre da divisão ideológica entre Pequim e o Ocidente.
“Se alguém quiser avaliar como a China está se aproximando do boom do LLM, deve-se analisar as regulamentações apresentadas pela administração do ciberespaço”, disse Mark Bryan Manantan, Diretor de Segurança Cibernética e Tecnologias Críticas do Fórum do Pacífico, com sede em Honolulu, ao Epoch Times em um email.
“Embora o burburinho seja muito sobre IA, a principal preocupação para a China ainda é a segurança da informação, que está enraizada em valores socialistas fundamentais e em alinhamento com as leis e políticas existentes sobre segurança de dados e proteção de informações pessoais”, disse ele.
Tahvili observou que a iteração chinesa do ChatGPT, como outros modelos de IA, é um “sistema de caixa preta”. Isso significa que “o funcionamento interno ou os processos de tomada de decisão do modelo não são facilmente interpretáveis ou compreensíveis pelos humanos.”
A natureza de caixa negra da IA generativa normalmente torna-a imprevisível, o que pode dar a aparência de processos de pensamento autónomos. Portanto, outras nações podem ser ingênuas quanto ao ímpeto ideológico por trás da IA da China, advertiu ela.
No entanto, relatos da mídia afirmaram que é obrigatório que as empresas de tecnologia na China reportem ao regime em todas as etapas e isso torna inconfundível o impulso estratégico de Pequim envolvendo os seus LLMs, segundo especialistas.
Na verdade, conforme observado em um artigo da BBC de 9 de setembro, quando Ernie recebe uma pergunta “difícil”, ele normalmente responde “Vamos conversar sobre outra coisa” ou “Sinto muito! Ainda não sei como responder a esta pergunta.”
O público em geral na China praticamente desistiu de resistir à ideologia política do Partido Comunista Chinês (PCCh) – há muito tempo que sofre uma lavagem cerebral, disse Kumaraswamy.
“Dado que eles têm dados e informações sobre o humor geral [e] bate-papo geral, esses modelos podem ser usados por soluções do estilo ChatGPT para preenchimento automático. Mas os chineses não precisam da IA para propagar a ideologia, pois fazem-no a partir de escolas com um controle mais apertado sobre a formação da mente da sua geração mais jovem”, disse ele.
Uma aplicação de IA lançada pelo Instituto Anhui de Inteligência Artificial, uma subsidiária da Academia Chinesa de Ciências, pode testar a lealdade dos membros do partido comunista (Captura de tela do site do instituto / The Epoch Times)Aplicações militares
O LLM chinês tem aplicações potenciais no Exército de Libertação Popular (ELP), particularmente em áreas como a guerra cognitiva ou de informação.
Josh Baughman é analista do Instituto de Estudos Aeroespaciais da China na Universidade Aérea da Força Aérea dos EUA. Num artigo intitulado “China’s ChatGPT War”, publicado em 21 de agosto, o Sr. Baughman escreveu que a IA generativa irá, nas palavras de Friedrich Engels, “causar mudanças ou mesmo revoluções na guerra.”
O ELP pretende capitalizar as aplicações militares da IA, disse ele, observando o grande número de artigos sobre IA que foram publicados nos últimos meses em jornais militares chineses.
Baughman citou um artigo do major-general (aposentado) do ELP Hu Xiaofeng, atualmente professor da Universidade de Defesa Nacional da China, no qual Hu disse: “A tecnologia de ponta de inteligência artificial representada pelo ChatGPT será inevitavelmente aplicada nas forças armadas. campo.”
Os LLMs e os modelos de processamento de linguagem natural (PNL) têm diversas aplicações potenciais nos setores militar e de defesa, de acordo com a Sra.
O artigo do Sr. Baughman menciona sete áreas principais de aplicação: “interação homem-máquina, tomada de decisão, guerra em rede, domínio cognitivo, logística, domínio espacial e treinamento.”
O Sr. Manantan, do Fórum do Pacífico, discutiu o aspecto da guerra cognitiva ou informacional. O ChatGPT pode amplificar campanhas de desinformação e melhorar a sua execução, disse ele.
“LLM pode criar textos mais convincentes. Outras ameaças à segurança incluem hackers de geração de malware e phishing sofisticado.”
Geralmente, a guerra cognitiva envolve influenciar as percepções, crenças e tomadas de decisão dos adversários.
De acordo com a Sra. Tahvili, “Nesse sentido, a IA pode ser utilizada para planejamento estratégico, análise de informações e tradução. Além disso, os modelos de IA podem ser integrados em programas de treinamento militar e ambientes de simulação para fornecer cenários realistas e interativos.”
Cuidado com as armadilhas
Baughman disse que, embora os artigos nos meios de comunicação do ELP falem sobre o uso inevitável do ChatGPT na guerra, “também não há pressa para uma integração significativa nas operações militares tão cedo”. Três preocupações principais contribuem para isso, disse ele, a saber, “construir um conjunto de dados, otimização e baixa confiança mútua da tecnologia.”
Depois, há a questão da censura: “Além disso, embora não seja mencionado pela mídia do ELP, há também a questão do próprio Partido Comunista Chinês (PCCh). Um programa que tenha o potencial de falar negativamente sobre o Partido não será permitido e isso poderá inibir a eficácia geral da IA generativa.”
No geral, disse Baughman, “a China entende a necessidade de ser pioneira (ou seguidora próxima) em IA generativa no campo de batalha”.
Contudo, tal como os Estados Unidos, ele sente que os chineses são cautelosos quanto à integração demasiado rápida da tecnologia, conscientes das muitas armadilhas potenciais da guerra inteligente.
Entre para nosso canal do Telegram
