O avanço da Inteligência Artificial (IA) nas organizações está desmontando uma crença confortável: a de que sempre será possível identificar claramente quem é o responsável por uma decisão tomada dentro da empresa ou do setor público. Segundo análise da MIT Technology Review Brasil, o maior risco da IA não está em possíveis erros técnicos, mas no fato de que, em muitos casos, ninguém consegue apontar quem, de fato, decidiu.

Esse fenômeno, chamado de déficit de autoria, representa um desafio inédito para a governança corporativa e pública. O problema não é novo, mas a IA o potencializa em escala e complexidade, tornando cada vez mais difícil para empresas e órgãos públicos responderem à pergunta: quem é o autor legítimo de uma decisão tomada por sistemas híbridos de pessoas, algoritmos, regras e processos?

A fragmentação da autoria: do caso holandês ao cotidiano corporativo

O caso da Belastingdienst, autoridade tributária da Holanda, ilustra de forma contundente o impacto dessa fragmentação. Em 2013, a instituição adotou um sistema algorítmico para identificar possíveis fraudes em pedidos de auxílio-creche. O modelo, segundo investigações da Autoridade Holandesa de Proteção de Dados e da Anistia Internacional, utilizava nacionalidade como critério de risco, o que resultou em discriminação e consequências sociais devastadoras para milhares de famílias.

O ponto central, como destaca a MIT Technology Review Brasil, não foi o erro do algoritmo, mas a dificuldade de atribuir autoria: foi o modelo, o servidor, o desenvolvedor, o gestor ou a organização como um todo que decidiu? Cada ator participou apenas parcialmente, e nenhum deles pode ser apontado como autor completo da decisão. O resultado foi a responsabilização coletiva da organização, culminando na renúncia do gabinete do primeiro-ministro holandês em 2021.

Esse problema, descrito pela filósofa Helen Nissenbaum em 1996 como o “problem of many hands”, ganha nova dimensão com a IA. A tecnologia não cria o déficit de autoria, mas o amplia ao introduzir agentes que interpretam contextos, fazem inferências e tomam decisões que não podem ser explicadas apenas pela lógica de programação tradicional.

O déficit de autoria na prática: como as empresas estão expostas

Na prática, o déficit de autoria se manifesta quando as decisões passam por múltiplos níveis e sistemas, tornando impossível apontar um único responsável. O estudo do MIT Center for Information Systems Research, citado pela MIT Technology Review Brasil, propõe uma matriz para classificar decisões segundo risco e ambiguidade. Decisões repetitivas e reversíveis podem ser automatizadas, mas decisões ambíguas e de alto impacto exigem julgamento humano explícito.

A operadora neozelandesa One NZ, mencionada no estudo, já operava em 2026 com mais de 50 agentes de IA. Em tarefas de baixo risco, a IA automatiza quase tudo; em decisões estratégicas, a IA apenas recomenda, e a decisão final é humana. Isso mostra que, quanto maior a incerteza e o impacto, maior a necessidade de autoria humana clara.

No entanto, a realidade nas empresas é que a adoção da IA frequentemente precede a definição de políticas de governança. O MIT Project NANDA, segundo a MIT Technology Review Brasil, identificou que mais de 90% das empresas pesquisadas tinham funcionários usando IA pessoal no trabalho, mas apenas 40% possuíam assinaturas corporativas oficiais. Isso significa que a tecnologia entra antes das regras, ampliando o espaço para o déficit de autoria.

Riscos para a governança: responsabilidade dissolvida, cobrança concentrada

O déficit de autoria tem consequências diretas para a governança. Internamente, a responsabilidade se fragmenta: cada área ou indivíduo responde por uma parte do processo, mas ninguém assume a decisão como um todo. Externamente, porém, a cobrança recai integralmente sobre a organização. Clientes, reguladores e sociedade não diferenciam quem apertou o botão ou escreveu o código; responsabilizam a empresa ou o órgão público como um todo.

Esse descompasso cria vulnerabilidades profundas. Quando algo dá errado, a busca por um responsável interno pode recair sobre o elo mais fraco da cadeia, enquanto a reputação e os passivos legais atingem toda a organização. O caso holandês é exemplo: a fragmentação interna não impediu a responsabilização coletiva do governo.

Além disso, a rastreabilidade técnica, como logs, registros e trilhas de auditoria, não resolve o problema de autoria. É possível saber o que aconteceu, mas não quem pode reconhecer legitimamente aquela decisão como sua. Isso desafia não só a governança de TI, mas também o direito, a administração e a própria teoria das organizações.

O contra-argumento: rastreabilidade basta?

Há quem defenda que a existência de trilhas de auditoria e registros detalhados seria suficiente para garantir accountability em sistemas de IA. No entanto, a análise da MIT Technology Review Brasil aponta que rastrear o processo não equivale a atribuir autoria. A cadeia de decisões pode ser reconstruída tecnicamente, mas isso não resolve o déficit de autoria, pois todos os envolvidos participaram apenas parcialmente.

Esse contra-argumento pode ser atraente do ponto de vista operacional, mas ignora o fato de que, na ausência de um autor claro, a responsabilidade pode recair injustamente sobre indivíduos que apenas executaram etapas finais, ou, no limite, sobre a organização de forma indiscriminada. A rastreabilidade, portanto, é condição necessária, mas não suficiente para enfrentar o déficit de autoria.

O que ainda não se sabe: lacunas e desafios para o futuro

Apesar dos avanços em modelos de governança e da crescente atenção ao tema, ainda há importantes incertezas. Não existe consenso sobre como atribuir autoria em decisões complexas mediadas por IA. O estudo do MIT Center for Information Systems Research sugere caminhos, mas não oferece uma solução definitiva. Também não está claro como órgãos reguladores e o Judiciário vão tratar casos em que a decisão é resultado de cadeias híbridas de humanos e máquinas.

Outro ponto em aberto é como as organizações podem ajustar suas estruturas de responsabilidade para lidar com o déficit de autoria sem criar zonas de impunidade ou sobrecarregar colaboradores com riscos que não controlam. A literatura aponta que a discussão precisa envolver não só tecnologia, mas também governança, ética e direito.

Implicações para empresas e setor público: o que muda na decisão e no risco

Para empresas e órgãos públicos, especialmente em mercados regulados ou de alto impacto social, como o Polo Industrial de Manaus, o déficit de autoria eleva o risco operacional, jurídico e reputacional. A fragmentação da autoria pode dificultar a defesa em casos de litígio, minar a confiança de clientes e parceiros e expor a organização a sanções regulatórias.

Na prática, isso exige que a adoção de IA venha acompanhada de políticas claras de governança, definição de limites para autonomia dos sistemas e mecanismos de supervisão humana em decisões de alto impacto. É fundamental que empresas revisem seus processos para garantir que, mesmo em cadeias complexas, haja clareza sobre quem responde por cada decisão, não apenas tecnicamente, mas também do ponto de vista ético e legal.

Em ambientes como Manaus, onde cadeias produtivas são longas e a integração entre sistemas é intensa, o risco de déficit de autoria é ainda maior. Organizações que dependem de conectividade robusta e integração de dados precisam estar especialmente atentas à governança de IA, sob pena de verem sua responsabilidade diluída internamente, mas concentrada externamente.

O déficit de autoria nas decisões mediadas por IA não é um problema abstrato: ele já está presente no cotidiano de empresas e governos, e seus custos podem ser altos. Para enfrentar esse desafio, é preciso investir não só em tecnologia, mas em estruturas de governança capazes de garantir que, mesmo em processos fragmentados, a responsabilidade não se perca. Em mercados como Manaus, onde a integração de sistemas e a automação avançam rapidamente, a clareza sobre autoria e responsabilidade será cada vez mais decisiva para a sustentabilidade dos negócios e a confiança do mercado.