À medida que se aproximam as eleições presidenciais dos EUA de 2024, as preocupações sobre a influência da inteligência artificial (IA) e da tecnologia deepfake no processo eleitoral estão atingindo novos patamares.
Deepfakes são mídias digitais altamente convincentes e enganosas – normalmente vídeos, gravações de áudio ou imagens – geradas cada vez mais usando inteligência artificial e, muitas vezes, para fins enganosos ou fraudulentos.
Especialistas na área de IA e detecção de deepfake forneceram ao Epoch Times informações valiosas sobre os desafios colocados pela desinformação e desinformação geradas pela IA e as medidas que estão sendo tomadas para combatê-las.
Rijul Gupta, cofundador e CEO da DeepMedia.AI, destacou o aumento alarmante da tecnologia deepfake e suas implicações para as eleições de 2024.
“2024 será uma eleição profundamente falsa de uma forma que as eleições anteriores não foram”, disse ele. “Ela só se tornará predominante em 2024, e isso se deve ao acesso a essa tecnologia. Versões básicas desta tecnologia existiam em 2020, mas a qualidade não era boa o suficiente para enganar as pessoas. As pessoas ainda podiam dizer que era falso.”
Gupta disse que a qualidade melhorou em 2022 e continua avançando mensalmente. O conteúdo está se tornando bom o suficiente para que uma pessoa comum possa vê-lo ou ouvi-lo no TikTok ou no YouTube e se convencer de que é real.
“Eles não estão procurando uma farsa”, disse ele. “Eles não estão tentando determinar se é falso. Parece real para eles, então eles simplesmente assumem que é real. Mas a última coisa necessária para que isso realmente se tornasse um grande problema era o acesso. Portanto, o primeiro obstáculo foi a qualidade, e isso foi conseguido no ano passado. O segundo obstáculo foi o acesso”.
Uma mulher assiste a um vídeo manipulado dos presidentes Donald Trump e Barack Obama que ilustra como a tecnologia deepfake pode enganar os espectadores, em Washington, em 24 de janeiro de 2019 (ROB LEVER/AFP via Imagens Getty)
Agora, disse Gupta, as ferramentas estão disponíveis on-line para as massas, e geralmente de graça.
“Na maioria das vezes, você nem precisa de um cartão de crédito e pode criar falsificações profundas de qualquer pessoa em apenas cinco segundos”, disse ele. “Isso é o que há de novo. Foi isso que aconteceu nos últimos meses – e é por isso que 2024 será uma eleição profundamente falsa.”
É uma questão que “me mantém acordado à noite”, disse Gupta.
“Esta é uma das principais razões pelas quais fundei a DeepMedia, para ser o líder na luta contra a desinformação e a desinformação”, disse ele. “Há cerca de seis anos, vi isto escrito na parede. Eu vi um futuro onde as pessoas não seriam capazes de dizer o que é real e o que é falso.”
Detectando deepfakes
Para enfrentar a crescente ameaça dos deepfakes, Emma Brown, sócia do Sr. Gupta, cofundadora e diretora de operações da DeepMedia, enfatizou a importância de métodos de detecção precisos e escalonáveis.
A DeepMedia desenvolveu recursos avançados e inteligentes de detecção de deepfake que, segundo eles, foram validados pelo governo dos EUA e por empresas em todo o mundo.
Brown disse que o DeepMedia possui os recursos de detecção de deepfake de rosto e voz mais precisos do mundo, garantindo a identificação confiável do conteúdo gerado por IA.
A escalabilidade é outro fator importante para a empresa, disse ela, acrescentando que a DeepMedia tem a capacidade de processar um grande número de vídeos diariamente, permitindo a rápida identificação de deepfakes em grandes conjuntos de dados.
Em terceiro lugar, ela disse que a robustez da plataforma DeepMedia oferece recursos avançados, como categorização precisa de conteúdo, permitindo aos usuários extrair informações específicas de conteúdo gerado por IA.
“Estamos ativamente envolvidos na segurança das nossas eleições antes das ameaças da IA”, disse a Sra. Brown.
Capacitando o público
Reconhecendo a necessidade de conscientização e envolvimento do público no combate à desinformação gerada pela IA, a DeepMedia disponibilizou recentemente gratuitamente seus recursos de detecção de deepfake no X, anteriormente conhecido como Twitter.
Os usuários podem marcar @DeepMedia e adicionar a hashtag #DeepID a qualquer conteúdo de mídia, e o bot do Twitter da DeepMedia executará prontamente o conteúdo por meio de seu sistema de detecção de deepfake e fornecerá resultados no tópico, disse Gupta.
“Esperamos que isto capacite o utilizador médio e os jornalistas cidadãos com as ferramentas de que necessitam para se protegerem contra a desinformação da IA”, disse ele.
A medida representa um passo significativo para a democratização da luta contra a desinformação e a desinformação impulsionadas pela IA.
As eleições presidenciais dos EUA de 2024 servirão como um teste crítico à capacidade de combater a influência dos deepfakes na percepção pública e nos resultados eleitorais. Gupta sublinhou que o desafio vai além das soluções técnicas e insta as pessoas a permanecerem vigilantes e informadas.
“A fusão da IA e das eleições exige a nossa atenção e ação coletiva para salvaguardar a integridade dos nossos processos democráticos”, disse Gupta.
Os eleitores votaram em um local de votação dentro do Museu de Arte Contemporânea em Arlington, Virgínia, em 8 de novembro de 2022 (Nathan Howard/Getty Images)Quando questionada se IA ou deepfakes já foram notados no ciclo eleitoral de 2024, a Sra. Brown disse que foi apenas em alguns casos que não ganharam muita força.
Um vídeo falso supostamente mostrava Hillary Clinton endossando o candidato presidencial, o governador Ron DeSantis.
“Era completamente falso e nossos detectores foram capazes de detectá-lo com alto grau de precisão”, disse Brown. “Mas casos como esse podem ser prejudiciais para a campanha de DeSantis.
“Portanto, veremos cada vez mais isso, especialmente à medida que a cobertura da temporada eleitoral realmente aumentar.”
Confiando em suas fontes
A empresa de IA Conversica opera no espaço de IA desde 2007. O CEO Jim Kaskade ofereceu uma perspectiva única sobre o papel da IA nas eleições de 2024.
“Somos movidos pelo propósito positivo e pelo aspecto de fazer o bem da IA aplicada”, disse ele.
Este compromisso sugere que as tecnologias de IA, quando utilizadas de forma ponderada, podem contribuir para a melhoria do processo eleitoral.
A IA poderia ser uma força positiva nas eleições, disse Kaskade. As ferramentas baseadas em IA podem melhorar a comunicação, fornecer informações valiosas sobre as preferências dos eleitores e agilizar os esforços de campanha. É essencial encontrar um equilíbrio entre aproveitar a IA para fins positivos e proteger-se contra a sua utilização indevida, disse ele.
Ele enfatizou a necessidade de um uso ético dos conteúdos gerados pela IA no discurso político e de vigilância para garantir a autenticidade da informação em contextos eleitorais, o que destaca a importância de fontes confiáveis na era dos conteúdos gerados pela IA.
“Acho que é simplesmente fundamental”, disse Kaskade. “Você tem que pesquisar sua fonte.”
Ele reconheceu que, embora a tecnologia ainda não tenha conseguido diferenciar totalmente entre conteúdo real e falso, ainda se pode ter cautela ao avaliar a credibilidade das fontes que fornecem informações.
O problema em 2024
O desafio colocado pelos deepfakes nas eleições de 2024 é multifacetado. Com o rápido avanço da tecnologia de IA, os agentes mal-intencionados podem facilmente criar conteúdo falso altamente convincente – incluindo vídeos, gravações de áudio e imagens – para manipular a opinião pública e semear a discórdia.
Isto representa uma ameaça significativa à erosão da confiança nos candidatos e instituições políticas.
É necessário um esforço coletivo dos governos, das empresas tecnológicas e da sociedade como um todo para aumentar a consciencialização, promover a literacia digital e promulgar regulamentos para combater a utilização maliciosa da IA, afirmaram os especialistas.
Kaskade instou os candidatos que concorrem a cargos públicos a proporem políticas e regulamentos sobre IA que garantam que a sua utilização seja benéfica para a sociedade, em vez de prejudicial e divisiva.
Caberá também aos eleitores e aos cidadãos manterem-se atualizados sobre os deepfakes e o avanço da IA, e saberem como se protegerem, utilizando as suas capacidades de pensamento analítico e avaliando criticamente as informações que encontram online.
Entre para nosso canal do Telegram
