A OpenAI assinou um compromisso que promete desenvolver a inteligência artificial (IA) de uma forma que “contribuirá para um futuro melhor para a humanidade” depois de a empresa ter sido processada pelo ex-cofundador Elon Musk, que alegou violação dos estatutos do acordo de fundação da empresa por desenvolver a IA visando lucro e poder.
O compromisso surge na forma de uma carta aberta lançada pelo capitalista de risco Ron Conway e pela sua empresa SV Angel, que, à data do relatório, tinha sido assinada por mais de 200 empresas e indivíduos, incluindo a Google e a Microsoft.
A Microsoft teve destaque no processo de Musk contra a OpenAI e seus cofundadores – o CEO da OpenAI, Sam Altman, e o presidente Greg Brockman – que Musk acusou de quebrar sua promessa de desenvolver IA “para o benefício da humanidade” e, em vez disso, perseguir lucros depois de se alinhar com a Microsoft, que investiu cerca de US$13 bilhões na startup.
Em seu processo, Musk argumentou que o GPT-4 da OpenAI constitui inteligência artificial geral (AGI, na sigla em inglês), uma IA cuja inteligência é tão avançada que está no mesmo nível ou supera a dos humanos.
“A OpenAI, Inc. foi transformada em uma subsidiária de fato de código fechado da maior empresa de tecnologia do mundo: a Microsoft”, escreveu Musk na denúncia. “Sob o seu novo conselho, não está apenas desenvolvendo, mas também refinando uma AGI para maximizar os lucros para a Microsoft, e não para o benefício da humanidade.”
A OpenAI não respondeu a um pedido de comentário sobre as alegações levantadas por Musk, que era membro original do conselho da OpenAI, mas saiu em 2018.
Altman acessou o X, anteriormente conhecido como Twitter, para postar uma mensagem sobre o novo compromisso, dizendo que está “entusiasmado com o espírito desta carta” e expressando a opinião de que a IA “será um dos maiores fatores na melhoria da qualidade de vida das pessoas”.
Musk alertou repetidamente sobre os perigos da IA para a humanidade e pediu que a tecnologia fosse rigorosamente regulamentada.
“Para um futuro melhor”?
Ao lançar a carta aberta, Conway disse numa publicação no X que o desenvolvimento da IA de uma forma que “melhore vidas” e “desbloqueie um futuro melhor para a humanidade” é uma responsabilidade que todos os que trabalham no espaço da IA partilham.
Muitas pessoas reagiram à postagem, incluindo algumas que trabalham com IA ou tecnologias relacionadas, com opiniões divergentes. Embora tenha havido alguns elogios, vários comentários foram críticos, com alguns apontando que a questão fundamental da segurança da IA não é levantada de forma substantiva.
“A segurança da IA não aparece de forma alguma, ou pelo menos não explicitamente”, escreveu Maxim Kesin, engenheiro de software que trabalha com aprendizado de máquina para a Meta, controladora do Facebook, em um post no X, acrescentando que o texto da carta é muito vago para servir como um “compromisso”.
“Parece falatório de relações públicas, honestamente”, acrescentou.
A Meta é uma das signatárias da carta, assim como a Microsoft e o Google, embora a X, de propriedade de Musk, não seja.
Outra opinião crítica questionava se um compromisso assinado por alguns dos gigantes tecnológicos mais lucrativos do mundo acalmaria as preocupações de segurança da IA. Em vez disso, se essas empresas quiserem realmente melhorar a humanidade, deverão construir a IA como um projeto de código aberto, de uma forma transparente e cooperativa.
A carta aberta intitulada “Construir IA para um Futuro Melhor” apela a “todos que construam, implementem amplamente e utilizem a IA para melhorar a vida das pessoas e desbloquear um futuro melhor”.
Diz que “o propósito da IA é que os humanos prosperem muito mais do que podíamos antes”.
A carta afirma então que a IA está “a caminho de melhorar a vida quotidiana de todos”, tal como tutores de IA que ajudam a aprender e investigação impulsionada pela IA que acelera a descoberta científica.
A carta alega que o impacto da IA seria semelhante ao da imprensa, da eletricidade ou da Internet.
“O equilíbrio entre seus impactos bons e ruins sobre os humanos será moldado por meio das ações e da consideração que nós, como humanos, exercemos. É nossa responsabilidade coletiva fazer escolhas que maximizem os benefícios da IA e mitiguem os riscos, para hoje e para as gerações futuras”, diz a carta.
“Nós, abaixo-assinados, já estamos experimentando os benefícios da IA e estamos comprometidos em construir uma IA que contribuirá para um futuro melhor para a humanidade – junte-se a nós!”, conclui.
A carta chega dias depois de Musk processar a OpenAI e seus cofundadores, alegando que eles quebraram sua promessa de desenvolver IA para o benefício da humanidade.
Processo de Musk
Musk alegou em sua denúncia que Altman e Brockman violaram o acordo de fundação da empresa ao desenvolver IA com fins lucrativos, em vez de promovê-la para o bem da humanidade.
A denúncia alega que o acordo de fundação exigia que a OpenAI disponibilizasse sua tecnologia, como o chatbot AI GPT-4 que a empresa desenvolveu, “disponível gratuitamente” ao público.
No entanto, de acordo com Musk, a OpenAI mudou sua abordagem para focar no lucro depois de se alinhar com a Microsoft, um grande investidor em OpenAI.
“A OpenAI, Inc. abandonou a sua missão sem fins lucrativos de desenvolver AGI para o benefício geral da humanidade, mantendo-a assim nas mãos de uma grande corporação com fins lucrativos na qual um vasto poder estaria indevidamente concentrado”, argumentou.
Musk pediu ao tribunal que obrigasse a OpenAI a disponibilizar sua pesquisa e tecnologia ao público e a impedir que a startup usasse GPT-4 e outros ativos para obter ganhos financeiros da Microsoft ou de qualquer outra entidade.
Ele também está buscando uma decisão que considere o GPT-4 e uma nova tecnologia chamada Q* como formas de AGI e, portanto, fora da licença da Microsoft para OpenAI.
No passado, o empresário tecnológico chamou a IA de “faca de dois gumes” e alertou sobre os seus perigos para a humanidade.
No ano passado, Musk juntou-se a mais de 1.100 indivíduos, incluindo especialistas e executivos do setor, como o cofundador da Apple, Steve Wozniak, na assinatura de uma carta aberta pedindo a todos os laboratórios de inteligência artificial que interrompessem o treinamento de sistemas mais poderosos que o Chat GPT-4 para pelo menos seis meses.
A carta não pede a interrupção do desenvolvimento da IA em geral, apenas os sistemas mais avançados no que Musk e outros especialistas descreveram como um ato de “apenas um passo atrás na corrida perigosa para modelos de caixa preta cada vez maiores e imprevisíveis, com capacidades emergentes”.
Musk, juntamente com outros signatários da carta, citou preocupações sobre os possíveis “riscos [da IA] para a sociedade e a humanidade”.
