Na semana passada, a Anthropic surpreendeu o mundo com um manifesto conclamando os agentes de inteligência artificial a darem uma pausa no desenvolvimento da tecnologia, sob a advertência de que estamos perdendo o controle do seu avanço[1].
O fundamento principal da declaração é que os rápidos progressos na tecnologia estão permitindo que os sistemas de IA evoluam e se desenvolvam mais rápido do que o gerenciamento dos riscos respectivos por parte da sociedade.
Por mais que a empresa possa ter outros objetivos que não apenas a defesa da sociedade e da democracia, fato é que o manifesto coloca luzes sobre um problema fundamental dos nossos tempos: o que fazer com os avanços da inteligência artificial e em que medida devemos ou não regulá-la ou esperar soluções coordenadas por parte do mercado, como a proposta pela Anthropic.
Tal discussão é premente no Brasil diante das notícias de que o Marco da Inteligência Artificial será votado até o fim de junho[2] e em face do lobby e das inúmeras iniciativas que as big techs vêm adotando para disseminar narrativas intransigentes contrárias à regulação da inteligência artificial[3].
Por essa razão, gostaria de analisar a iniciativa da Anthropic com base nas obras Digital Empires, de Anu Bradford[4], e Power and Progress, de Acemoglu e Johhson[5].
Na primeira obra, a autora sustenta que a ordem global é disputada no plano tecnológico, normativo, geopolítico, jurídico e civilizacional por três “impérios digitais”: Estados Unidos, China e União Europeia, cada qual com uma visão muito distinta. Afinal, o modelo norte-americano é orientado pelo mercado; o chinês, pelo Estado; o europeu, pelos direitos.
Portanto, a grande questão é saber se a economia e a sociedade digitais devem ser organizadas pelo mercado, pelo controle de um estado forte ou por um controle orientado pela proteção de direitos fundamentais.
Para Bradford, o fato de empresas americanas como Google, Meta, Amazon, Apple e Microsoft terem se tornado atores centrais da vida econômica, política e social não decorre apenas da sua inovação e mérito, mas também de escolhas regulatórias, como as relacionadas a um antitruste fraco, isenções de responsabilidade, ausência de regulação efetiva sobre privacidade e proteção de dados.
No caso norte-americano, as mesmas explicações podem ser aplicadas aos novos agentes de inteligência artificial generativa, como a OpenAI e a Anthropic. A grande questão é que o modelo de mercado gera não apenas inovação, mas também dominação privada. Com efeito, uma das ideias-chave do livro é que as empresas de tecnologia são agentes de poder, inclusive no sentido de que negociam, resistem e moldam a aplicação das normas.
Ponto importante da análise de Bradford é afastar o argumento de que a regulação inibe necessariamente a inovação. Nesse sentido, ela dedica uma parte do estudo para a análise do caso europeu, a fim de mostrar que a Europa não produziu gigantes tecnológicos por outras razões que não a existência de regulação, dentre as quais menor disponibilidade de capital de risco, políticas industriais fracas e ecossistemas de inovação menos integrados.
Todos esses argumentos são trazidos para mostrar que a batalha digital contemporânea esta relacionada aos pontos mais sensíveis da nossa vida e à própria sobrevivência da democracia liberal. Daí a necessidade de se pensar em alternativas a tais modelos.
A própria autora rejeita leituras binárias, evitando a ideia de que temos que escolher entre esses modelos com rigidez. Mas é assertiva ao concluir que o modelo norte-americano perdeu força e demonstrou sua vulnerabilidade porque a promessa do controle pelo mercado foi corroída pela concentração privada e pelos danos sociais das plataformas.
Nesse sentido, fica a advertência de que algo precisa ser feito em relação à regulação da inteligência artificial, cujo desenvolvimento e utilização não podem ficar apenas sujeitos ao ritmo e às decisões do mercado.
Trata-se de conclusão muito próxima às de Acemoglu e Johnson no livro Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity, que, a partir do exame da evolução da tecnologia ao longo dos últimos mil anos, procura demonstrar que a tecnologia e a inovação não são necessariamente boas. Pelo contrário, vários exemplos históricos mostram que, em muitos casos, as novas tecnologias reforçaram desigualdades e concentraram ainda mais poder nas mãos dos mais favorecidos.
Assim, rompendo com perspectivas excessivamente otimistas ou que refletem um verdadeiro determinismo tecnológico, os autores colocam em xeque a ideia de que a mudança tecnológica é necessariamente um fator de progresso e prosperidade, encontrando-se sempre a favor do interesse público. Pelo contrário, realçam o fato de que a tecnologia é muitas vezes escolhida, moldada e utilizada pelos interesses e crenças dos poderosos.
Para os autores, muito do progresso e da prosperidade decorrentes dos avanços tecnológicos resultou mais das lutas sociais e da regulação jurídica em prol de uma distribuição mais igualitária dos seus benefícios do que propriamente da tecnologia em si. Daí a importância da regulação da tecnologia, incluindo a inteligência artificial, que, segundo os autores, precisa ser utilizada de forma compatível com o interesse público.
Diante dessas contribuições, a declaração da Anthropic torna-se ainda mais eloquente. Afinal, quando é o próprio mercado que identifica que algo precisa ser feito para conter o avanço incontrolável da tecnologia, temos um alerta que nos provoca a pensar no tema com a seriedade e a urgência que ele requer.
É indispensável, portanto, que tais reflexões pautem o Congresso na tramitação do Marco da Inteligência Artificial. Sob vários aspectos, o Manifesto da Anthropic converge com a preocupação da nova Encíclica Papal, objeto da coluna anterior[6], ao nos mostrar que as decisões que tomaremos sobre a tecnologia dizem respeito à escolha entre um progresso que serve às pessoas e aos povos ou um progresso que nos submete às lógicas de poder.
[1] https://www.reuters.com/business/anthropic-says-ai-labs-need-coordinated-plan-halt-development-if-risks-rise-2026-06-04/
[2] Https://www.camara.leg.br/noticias/1277316-motta-quer-votar-regulamentacao-da-inteligencia-artificial-ate-o-final-de-junho/
[3] Para maiores informações, acesse o episódio #48 do Podcast Direito Digital “Narrativas Intransigentes na Regulação de IA”, apresentado por Ana Frazão e Caitlin Mulholland. https://open.spotify.com/episode/42yvLChIJ22qQQ3VgNLogO
[4] BRADFORD, Anu. Digital Empires. The Global Battle to Regulate Technology. New York: Oxford University Press, 2023.
[5] ACEMOGLU, Daron; JOHNSON, Simon. Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity. Public Affairs, 2023.
[6] https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/licoes-de-economia-e-humanidade-com-o-papa