Por Frank Dong
Cientistas na China afirmam terem desenvolvido uma máquina que depende de inteligência artificial (IA) para acusar criminosos.
A Procuradoria de Xangai Pudong, o maior Ministério Público do país, construiu e testou a máquina. Até agora, a máquina é capaz de identificar e registrar acusações pelos oito crimes mais comuns em Xangai – fraude de cartão de crédito, operação de apostas, direção imprudente, lesão intencional, obstrução de deveres oficiais, roubo, fraude e briga.
Os pesquisadores declararam que, com base na descrição escrita de um caso, o chamado “promotor” da IA pode abrir uma acusação com 97 por cento de precisão.
O professor Shi Yong, o principal cientista do projeto, afirmou que a tecnologia de inteligência artificial poderia reduzir a carga de trabalho diária dos promotores, permitindo que eles se concentrassem em trabalhos mais desafiadores. Shi também é diretor do laboratório de big data e gerenciamento de conhecimento da Academia Chinesa de Ciências, o principal instituto de pesquisa estatal do regime.
“O sistema pode substituir os promotores no processo de tomada de decisão até certo ponto”, afirmou Shi e sua equipe em um artigo publicado na revista chinesa Management Review. O South China Morning Post relatou pela primeira vez sobre a máquina de IA recém-desenvolvida.
Shi e seus colegas explicaram que os promotores chineses começaram a empregar IA em 2016. Muitos deles agora usam uma ferramenta de IA conhecida como “Sistema 206”. O sistema é capaz de avaliar a força das evidências, as condições para uma prisão e o quão perigoso um suspeito é considerado para o público.
Mas todas as ferramentas de IA existentes desempenharam apenas um papel limitado, uma vez que “não participam do processo de tomada de decisão de apresentação de acusações e [sugestão] de sentenças”, afirmou o jornal.
Para tomar tais decisões, é necessário que uma máquina identifique e remova qualquer conteúdo de um arquivo de caso que seja irrelevante para um crime e mantenha as informações úteis, acrescentou.
A máquina também precisa transformar a linguagem humana complexa e em constante mudança em um formato matemático ou geométrico padrão que um computador possa entender, de acordo com o artigo.
As empresas chinesas de Internet desenvolveram ferramentas poderosas para o processamento de linguagem natural, mas sua operação geralmente requer grandes computadores aos quais os promotores não têm acesso.
O “promotor” de IA desenvolvido pela equipe de Shi poderia operar em um computador de mesa. Para cada suspeito, seria feita uma cobrança com base em 1.000 “características” obtidas a partir do texto de descrição do caso gerado por humanos, a maioria das quais é muito curta ou abstrata para fazer sentido para os humanos. O sistema 206 avaliaria então as evidências.
Shi afirma que usou mais de 17.000 casos de 2015 a 2020 para treinar a máquina.
O jornal esperava que o promotor de IA logo se tornasse mais competente com atualizações. Seria capaz de reconhecer crimes menos comuns e apresentar várias acusações contra um suspeito.
Mas a nova máquina levantou dúvidas entre os promotores chineses. Um promotor em Guangzhou declarou no relatório que possuía algumas preocupações sobre o uso de um promotor de IA para registrar as acusações.
A precisão de 97% pode ser alta do ponto de vista da tecnologia, mas sempre haverá uma chance de erro, declarou o promotor.
“Quem vai assumir a responsabilidade quando isso acontecer? O promotor, a máquina ou o designer do algoritmo?”
A aplicação direta de inteligência artificial nas tomadas de decisões também pode afetar a autonomia de um promotor humano. A maioria dos promotores não quer que os cientistas da computação interfiram em um julgamento legal, acrescentou o promotor.
Outra questão é que o promotor da IA poderia abrir uma acusação com base apenas em sua experiência anterior, afirmou o promotor. Não sendo possível prever a reação a um caso em um ambiente social em mutação.
“A IA pode ajudar a detectar um erro, mas não pode substituir os humanos na tomada de decisões”, afirmou o promotor.
A mídia chinesa celebrou o promotor de IA como a primeira conquista do mundo neste campo.
Ao contrário das democracias ocidentais, a China não tem um sistema jurídico independente, uma vez que os tribunais são controlados pelo Partido Comunista Chinês.
Aqueles que falam ou agem de uma forma considerada inaceitável para o Partido, assim como dissidentes, crentes religiosos, advogados de direitos humanos e jornalistas cidadãos, são frequentemente acusados de crimes vagamente definidos, como “brigar e provocar problemas” ou “subversão do estado poder” e acabam invariavelmente submetidos a um sistema de justiça com uma taxa de condenação de 99,9 por cento.
Por exemplo, o jornalista cidadão Zhang Zhan está atualmente a meio caminho de uma sentença de prisão de quatro anos por reportar sobre os estágios iniciais do surto da COVID-19 em Wuhan, em fevereiro de 2020. Sua condenação atraiu a desaprovação generalizada de governos ocidentais e grupos de direitos humanos. A saúde de Zhang piorou drasticamente na prisão após realizar uma longa greve de fome e não ter recebido assistência médica adequada, afirma sua família.
Entre para nosso canal do Telegram
Assista também:
