Coluna, Inteligência Artificial e Direito Digital

Explicar não é opcional: a opacidade da IA não pode anular o direito à explicação

Marcelo Fonseca Santos

outubro 22, 2026
11:00 am

Confundir explicabilidade com direito à explicação dá a quem usa sistemas opacos uma desculpa pronta para não explicar nada. O direito brasileiro não deveria aceitá-la.

Uma consumidora austríaca teve negado um contrato de telefonia de 10 euros por mês. O motivo foi uma nota de crédito calculada por um sistema automatizado. Ela quis saber por quê. A empresa de análise de crédito não deu explicação útil e invocou o segredo comercial.

O caso chegou ao Tribunal de Justiça da União Europeia, que decidiu em 27 de fevereiro de 2025 (processo C-203/22, Dun & Bradstreet Austria). Para o Tribunal, a empresa deve descrever o procedimento e os princípios efetivamente aplicados, de modo que a pessoa entenda quais dados foram usados e como. Entregar o algoritmo não basta. E, se houver segredo comercial em jogo, a informação vai para a autoridade ou para o juiz, que decidem até onde vai o acesso. O que não se admite é o silêncio.

O caso revela uma confusão que atravessa o debate sobre inteligência artificial, inclusive no Brasil. Fala-se em “explicabilidade” e em “direito à explicação” como se fossem a mesma coisa. Não são. E tratar os dois conceitos como sinônimos tem um efeito prático grave: transforma a opacidade técnica em salvo-conduto para não explicar.

Duas ideias, dois planos

Explicabilidade é uma característica do sistema. Vem da ciência da computação e mede o quanto se consegue entender como um modelo chega aos seus resultados. Admite graus: uma árvore de decisão é mais explicável que uma rede neural profunda. Depende de quem pergunta: o que esclarece um engenheiro pode não dizer nada a um cidadão. E é avaliada por critérios técnicos, como a fidelidade da explicação ao modelo, como mostra a literatura de inteligência artificial explicável e os princípios do NIST.

Direito à explicação é outra coisa. É uma posição jurídica da pessoa afetada por uma decisão, que pode exigi-la de quem decidiu. Não se volta ao modelo em abstrato, mas à decisão concreta: que dados foram usados, quais fatores pesaram, que papel o sistema teve e o que poderia ter mudado o resultado. Sua medida não é técnica, mas jurídica: a explicação é suficiente quando permite à pessoa entender, contestar e pedir revisão.

No Brasil, esse direito está no art. 20 da LGPD, que obriga o controlador a fornecer “informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada”. Na Europa, o Regulamento de IA separou bem as coisas. O art. 13 impõe ao fornecedor o dever de projetar sistemas transparentes, o que é explicabilidade. O art. 86 dá à pessoa afetada o direito de obter explicações claras e significativas sobre a decisão, o que é direito à explicação.

Os dois conceitos se relacionam, mas um não depende do outro. A explicabilidade não basta: uma tabela com o peso de duzentas variáveis pode ser fiel ao modelo e incompreensível para o cidadão. E não é indispensável: é possível dizer à pessoa quais dados foram usados e o que precisaria mudar para obter outro resultado sem abrir a caixa-preta. A explicabilidade melhora a qualidade da explicação, mas não cria nem limita o direito.

O risco de uma cláusula aparentemente inofensiva

A confusão entre os dois conceitos já aparece em normas brasileiras. A Resolução CNJ nº 615/2025, que disciplina o uso de IA no Judiciário, define explicabilidade como a compreensão clara de como as decisões são tomadas pela IA, “sempre que tecnicamente possível”. A mesma ressalva volta quando a resolução trata dos sistemas de alto risco.

Como descrição técnica, a ressalva é honesta: há modelos que ninguém consegue explicar por completo. O problema surge quando ela é lida como limite ao direito do jurisdicionado ou do consumidor. Se a explicação só é devida quando tecnicamente possível, basta escolher um sistema opaco para que ela deixe de ser devida. Quem mais tem a esconder ganha um incentivo para tornar o sistema mais obscuro.

Isso inverte a lógica do risco. A escolha de um modelo opaco não é um fenômeno natural; é uma decisão de projeto. A pesquisadora Cynthia Rudin sustenta que, em decisões de alto impacto, modelos interpretáveis muitas vezes têm desempenho comparável ao das caixas-pretas e deveriam ser preferidos. Se há alternativa, quem opta pela opacidade deve arcar com as consequências da opção, e não as transferir a quem foi afetado.

No Judiciário, o ponto é ainda mais sensível. O art. 93, IX, da Constituição exige que toda decisão judicial seja fundamentada. Uma decisão apoiada em sistema que ninguém consegue explicar não está fundamentada, qualquer que seja o estado da técnica. A cláusula do CNJ só é compatível com a Constituição se for lida como limite da explicabilidade dos modelos, e nunca como limite do dever de motivar.

A saída é regular em duas camadas. Na primeira, deveres de explicabilidade dirigidos a quem desenvolve o sistema: justificar a escolha de modelos opacos em usos de alto risco, documentar dados e limitações, testar os métodos de explicação e manter registros que permitam reconstruir cada decisão. Essa camada é fiscalizada por reguladores e auditores, e é nela que se resolve o segredo comercial, como já prevê a auditoria da ANPD no § 2º do art. 20 da LGPD.

Na segunda camada está o direito da pessoa afetada, com um conteúdo mínimo que não dependa da arquitetura do sistema. Ela deve saber que houve uso de IA e qual foi o seu papel, quais dados foram usados, quais fatores mais pesaram, o que poderia ter levado a outro resultado e a quem recorrer. Se a empresa ou o órgão público não conseguir oferecer isso, o problema está no sistema que escolheu. As consequências devem recair sobre ele: inversão do ônus da prova, invalidade da decisão e, nos casos de alto risco, proibição de uso.

Três frentes estão abertas para isso. A primeira é o PL nº 2.338/2023, o marco legal da IA, aprovado pelo Senado em dezembro de 2024 e ainda em análise na Câmara. O texto final deve manter separados os deveres de explicabilidade dos agentes e o direito à explicação das pessoas, sem estender a este último ressalvas de viabilidade técnica.

A segunda frente é a ANPD, que pode regulamentar o art. 20 da LGPD. Isso inclui definir o conteúdo mínimo da explicação e deixar claro que a intervenção humana de fachada, que apenas carimba o resultado da máquina, não afasta a proteção. A terceira é o próprio CNJ, que pode esclarecer que a ressalva “sempre que tecnicamente possível” não alcança o dever de fundamentar as decisões judiciais.

O direito à explicação não é um luxo técnico. É a versão algorítmica de uma garantia antiga: quem tem sua vida afetada por uma decisão tem o direito de saber por quê. A tecnologia pode mudar a forma da explicação. Não pode tornar a explicação opcional.