Experimento em que agente de inteligência artificial participou da decisão de desligar um trabalhador amplia debate sobre os limites da autonomia de sistemas de IA na gestão de pessoas

Um experimento realizado nos Estados Unidos colocou em evidência uma nova dimensão do uso da inteligência artificial no mercado de trabalho: a participação de sistemas autônomos em decisões com consequências diretas sobre funcionários. A agente de IA Luna, criada pela Andon Labs para administrar uma loja física em San Francisco, recomendou o desligamento de um trabalhador após analisar seu histórico de atrasos e uma política de frequência estabelecida durante a própria operação.

O caso foi divulgado pela própria empresa na última segunda-feira. Luna recebeu um orçamento de US$ 100 mil, um cartão corporativo, acesso à internet e autonomia para participar da administração da Andon Market, incluindo a seleção de produtos, a contratação de prestadores e de funcionários, e a gestão da operação. A agente funciona com modelos Claude, da Anthropic, e integra um experimento voltado a avaliar até onde sistemas de IA conseguem administrar um negócio físico.

Segundo as informações divulgadas sobre o experimento, o funcionário chegou atrasado 17 vezes em 23 turnos. A própria Luna havia estabelecido uma política segundo a qual três atrasos não justificados em um período de 30 dias poderiam resultar em advertência formal e, em caso de reincidência, demissão. Apesar disso, a agente não aplicou imediatamente a regra. Depois que integrantes da Andon Labs chamaram sua atenção para a política, Luna reavaliou o histórico e recomendou o desligamento. A execução e a responsabilidade legal permaneceram sob controle humano.

Para Fábio Tiepolo, CEO da StaryaAI, o episódio mostra por que a capacidade técnica de um agente para executar determinada tarefa não deve ser confundida com autorização para decidir sozinho. Decisões de alto impacto sobre pessoas, com consequências relevantes ou baixa possibilidade de reversão, precisam manter uma instância humana responsável. “A IA pode organizar dados, identificar padrões, verificar regras, apontar inconsistências e recomendar caminhos. Mas a decisão final precisa continuar vinculada a uma pessoa ou instância humana responsável”, afirma.

Segundo o executivo, contratação, desligamento e punições disciplinares estão entre as decisões que não deveriam ser integralmente delegadas a agentes de inteligência artificial. A autonomia, nesse contexto, deve ser determinada pelo risco de cada ação. Tarefas estruturadas, de baixo impacto e facilmente reversíveis podem ter maior grau de automação. Já decisões que envolvam pessoas, dados sensíveis, valores financeiros relevantes ou responsabilidades regulatórias exigem mecanismos de aprovação humana. “A pergunta correta não é ‘a IA consegue fazer?’, mas ‘qual é o risco se ela fizer errado e conseguimos reverter esse resultado?’”, diz.

O episódio também expõe outro desafio dos agentes autônomos: manter coerência durante operações prolongadas. No experimento, Luna demonstrou dificuldades relacionadas à memória, ao planejamento e à gestão de pessoas. A inconsistência entre a política de frequência criada pela própria agente e sua aplicação mostra que uma decisão automatizada não depende apenas da capacidade de analisar corretamente uma situação isolada, mas também de preservar contexto, regras e histórico ao longo do tempo.

Por isso, sistemas que recebem autonomia operacional precisam funcionar dentro de limites previamente definidos. Ainda segundo Tiepolo, a arquitetura deve prever permissões, guardrails, alertas, controle de acesso, rastreabilidade e mecanismos de Human in the Loop, nos quais determinadas ações dependem de validação humana. Também devem existir meios para interromper uma operação ou retirar a autonomia do agente quando seu comportamento sair do perímetro esperado. “A autonomia deve existir dentro de uma alçada declarada. O agente precisa saber o que pode fazer, até onde pode ir e em quais situações precisa parar e chamar uma pessoa”, afirma.

A discussão, portanto, ultrapassa a possibilidade de a inteligência artificial substituir determinadas funções. À medida que agentes passam a integrar processos de contratação, avaliação, monitoramento e gestão, as empresas precisam definir quem supervisiona esses sistemas, quais decisões podem ser automatizadas e quem responde quando uma recomendação algorítmica gera consequências para um trabalhador.

IA e trabalho: o que diz a lei brasileira

No Brasil, o uso de inteligência artificial em decisões relacionadas a trabalhadores encontra limites no Direito do Trabalho e na legislação de proteção de dados. Rafael Galle, advogado especialista em Direito Trabalhista e sócio-fundador do GMP G&C Advogados Associados, explica que não há atualmente uma norma trabalhista que proíba expressamente a utilização de IA como ferramenta de apoio a uma decisão de dispensa.

O poder diretivo previsto no artigo 2º da Consolidação das Leis do Trabalho (CLT) permite que empregadores utilizem ferramentas tecnológicas na organização do trabalho. Na dispensa sem justa causa, em regra, a empresa também não precisa apresentar justificativa para o desligamento. Isso, porém, não transfere ao algoritmo a responsabilidade pela decisão. “Não existe, no ordenamento jurídico trabalhista brasileiro, a possibilidade de a IA ser responsabilizada por decisões tomadas a partir de suas sugestões. Ela é uma ferramenta, não um sujeito de direitos e obrigações”, esclarece o advogado.

Se uma recomendação produzida por IA resultar em uma demissão posteriormente considerada discriminatória ou abusiva, a responsabilidade permanece com o empregador. Dependendo do caso, a empresa pode enfrentar consequências como nulidade do ato, reintegração do trabalhador ou indenização por dano moral. “Por mais avançada que seja a IA utilizada, quem assina a carta de dispensa, do ponto de vista jurídico, é a empresa, não o sistema”, afirma.

Nesse cenário, recomendações algorítmicas relacionadas a desligamentos devem passar por avaliação humana e jurídica, especialmente para identificar riscos que podem não ser evidentes em uma análise automatizada. A proteção dos dados dos trabalhadores também entra nessa discussão. A Lei Geral de Proteção de Dados (LGPD) estabelece direitos relacionados ao tratamento automatizado de dados pessoais, inclusive em situações que envolvem a definição de perfil profissional.

O trabalhador deve receber informações claras sobre a finalidade do tratamento quando dados de produtividade, comportamento, pontualidade ou desempenho forem processados por sistemas automatizados. Decisões que produzam efeitos relevantes também podem ser questionadas quanto aos critérios e procedimentos utilizados pelo sistema.

Outro ponto de atenção é o risco de discriminação. Algoritmos treinados com dados históricos podem reproduzir padrões existentes dentro das próprias organizações, inclusive aqueles que carregam distorções ou vieses. “Um sistema treinado com dados históricos de contratação, promoção ou desligamento aprende os padrões que já existiam na empresa, inclusive os discriminatórios”, alerta Galle.

O avanço da inteligência artificial na gestão de pessoas amplia, assim, uma discussão que vai além da substituição de postos de trabalho: quanto poder as organizações podem delegar aos algoritmos sobre a trajetória profissional de seus funcionários. Esses sistemas já podem influenciar avaliações de desempenho, promoções, concessão de bônus, monitoramento de produtividade e identificação de trabalhadores considerados sob risco de desligamento.

Esse modelo, conhecido internacionalmente como algorithmic management (gestão algorítmica), também pode modificar a forma como a subordinação e a cobrança por desempenho ocorrem dentro das empresas. “A próxima onda de litígio trabalhista no Brasil tende a estar menos relacionada a ‘fui demitido por uma IA’ e mais a situações em que o trabalhador foi gerido, cobrado e pressionado por um sistema que nunca entendeu e que ninguém na empresa sabia explicar”, afirma.

O caso Luna antecipa uma questão que empresas brasileiras deverão enfrentar à medida que agentes de inteligência artificial ganhem autonomia operacional. A tecnologia pode apoiar análises e recomendações, mas a responsabilidade pelas decisões permanece humana e empresarial. Nesse contexto, transparência, supervisão, governança e critérios claros para o uso desses sistemas tornam-se centrais quando a automação produz efeitos concretos sobre a vida profissional dos trabalhadores.