Após demitir milhares, Musk quer usar IA para administrar governo e rastrear apoiadores da Palestina

O bilionário Elon Musk pretende implementar inteligência artificial (IA) para gerenciar funções do governo dos Estados Unidos, mas especialistas alertam que a ideia pode trazer sérias consequências.

Musk demitiu dezenas de milhares de funcionários públicos por meio de seu Departamento de Eficiência Governamental (DOGE, na sigla em inglês) e determinou que os servidores restantes enviem relatórios semanais com cinco tópicos sobre suas atividades. Para lidar com a enorme quantidade de dados, o DOGE estaria utilizando IA para processar as informações e até decidir quem permanece no cargo. Há ainda relatos de que o governo pretende substituir parte dos funcionários por sistemas automatizados.

No entanto, especialistas alertam que o uso de IA na administração pública sem transparência e testes rigorosos pode resultar em erros graves. O professor Cary Coglianese, da Universidade da Pensilvânia, ressalta que sistemas de IA precisam ser projetados com um propósito claro, testados e validados. "Se a IA for usada para decidir quem será demitido, há um grande risco de viés e falhas", afirmou.

A professora Shobita Parthasarathy, da Universidade de Michigan, também criticou a iniciativa. “Não sabemos como esses sistemas tomam decisões, quais dados utilizam e se são realmente confiáveis”, alertou.

A falta de transparência no uso de IA pelo governo dos EUA tem gerado preocupação entre parlamentares e especialistas. Um exemplo é a proposta do Departamento de Estado de utilizar inteligência artificial para monitorar redes sociais e identificar possíveis "apoiadores do Hamas" – eufemismo para apoiadores da libertação da Palestina –, com o objetivo de revogar seus vistos. No entanto, não há informações detalhadas sobre como esse sistema funcionaria.

Casos anteriores mostram os perigos do uso inadequado de IA em decisões governamentais. No estado de Michigan, um sistema automatizado usado para detectar fraudes no seguro-desemprego acusou erroneamente milhares de pessoas, levando algumas à falência e até à prisão. Após cinco anos, o governo reconheceu a falha e reembolsou US$ 21 milhões às vítimas.

Sistemas de IA já foram usados para prever áreas com maior probabilidade de crimes, mas estudos mostram que esses algoritmos podem reforçar o policiamento excessivo em comunidades historicamente marginalizadas.

Outro desafio para a substituição de servidores públicos por IA é a complexidade das funções desempenhadas por esses profissionais. "Os cargos podem ter o mesmo nome, mas as funções variam muito entre diferentes departamentos do governo", explica Coglianese.

A professora Parthasarathy reforça que IA não tem compreensão real dos problemas e apenas identifica padrões com base em dados históricos. "Isso pode limitar sua utilidade e perpetuar desigualdades já existentes", destacou.

Em 2023, o governo de Joe Biden assinou um decreto para garantir o uso responsável da inteligência artificial na administração pública, com exigências de testes e verificações. No entanto, a ordem foi revogada em janeiro pela nova administração de Donald Trump, aumentando as preocupações sobre a falta de controle no uso da tecnologia.

Apesar dos desafios, especialistas apontam que a IA pode ser útil se for aplicada de forma responsável, automatizando tarefas repetitivas e auxiliando na resolução de problemas complexos. No entanto, a pressa na implementação sem validação adequada pode gerar mais problemas do que soluções.