Ponto 6 — Explicabilidade, Auditabilidade e Rastreabilidade

Tornar decisões compreensíveis, justificáveis e atribuíveis

A confiança institucional não depende apenas de decisões corretas.
Depende da capacidade de explicar, auditar e atribuir responsabilidade por essas decisões.

Sempre que sistemas de IA apoiam análise ou influenciam decisões com impacto real, torna-se necessário garantir que o seu comportamento pode ser compreendido a posteriori, avaliado de forma independente e relacionado com autoridades humanas identificáveis.

Este ponto define os princípios obrigatórios de explicabilidade, auditabilidade e rastreabilidade que regem todos os sistemas baseados na Fundação Neural. Não como documentação opcional, mas como condição estrutural de legitimidade.

Explicabilidade como obrigação operacional

A explicabilidade não é um exercício pedagógico nem uma tradução simplificada para utilizadores finais. É a capacidade do sistema de tornar inteligível o seu comportamento em termos operacionais relevantes.

Sempre que o sistema:

produz uma recomendação;
reduz assertividade;
escala uma decisão;
recomenda não-ação;
ou atinge um limite inviolável;

deve ser possível explicar, de forma clara e proporcional:

que tipo de informação foi utilizada;
que distinções epistemológicas foram aplicadas;
que limites foram acionados;
porque determinada ação não foi tomada.

A explicabilidade não exige exposição de mecanismos internos complexos, mas exige coerência entre comportamento, linguagem e limites definidos nos pontos anteriores.

Distinção entre explicação e justificação

Este ponto estabelece uma distinção fundamental entre explicação e justificação.

O sistema deve explicar:

como chegou a uma determinada posição;
que fatores foram considerados;
que incertezas permaneceram.

O sistema não deve justificar:

decisões humanas;
escolhas estratégicas;
opções institucionais finais.

A explicação serve para tornar o comportamento do sistema compreensível. A justificação pertence à autoridade humana. Confundir estas duas funções constitui falha de governação.

Auditabilidade como propriedade do sistema

A auditabilidade não pode depender de reconstrução informal ou memória humana. Deve ser uma propriedade estrutural do sistema.

Os sistemas regidos por esta Constituição devem permitir, sempre que aplicável:

identificar decisões escaladas;
identificar limites acionados;
identificar estados de incerteza declarados;
identificar momentos de não-ação deliberada;
identificar a autoridade humana que assumiu a decisão final.

A ausência de capacidade de auditoria transforma qualquer sistema, por mais avançado que seja, num risco institucional.

Rastreabilidade da decisão e da não-decisão

Nem todas as consequências surgem de decisões explícitas. Muitas resultam de não-decisões.

Este ponto estabelece que:

decisões relevantes devem ser rastreáveis;
escalamentos devem ser atribuíveis;
e a não-ação deliberada deve ser distinguível de silêncio, falha técnica ou omissão.

O sistema não pode permitir que a ausência de resposta seja interpretada como decisão implícita. Sempre que não agir seja o comportamento escolhido, esse estado deve ser explicitamente identificável.

Autoridade humana e cadeia de responsabilidade

A rastreabilidade existe para garantir clareza sobre quem decide, não para transferir responsabilidade para o sistema.

Sempre que uma decisão com impacto real ocorre, deve ser possível identificar:

o nível de autoridade humana envolvido;
o momento em que a decisão foi assumida;
a relação entre recomendação do sistema e decisão humana.

O sistema nunca aparece como decisor final em registos operacionais, relatórios ou avaliações posteriores. A autoridade humana permanece visível e atribuível.

Proporcionalidade da explicação

Nem todas as decisões exigem o mesmo nível de detalhe explicativo.

Este ponto estabelece que a explicabilidade deve ser:

proporcional ao risco;
adequada ao contexto;
suficiente para avaliação posterior.

Exigir explicações excessivas em contextos de baixo impacto é tão problemático quanto a ausência de explicação em contextos críticos. A governação eficaz evita ambos os extremos.

Previsibilidade como resultado da auditabilidade

Um sistema auditável é, por definição, mais previsível.

Quando o comportamento do sistema pode ser explicado e rastreado, torna-se possível:

antecipar reações sob incerteza;
compreender escalamentos;
avaliar consistência ao longo do tempo;
corrigir desvios antes que se tornem estruturais.

A auditabilidade não serve apenas para responder a incidentes passados, mas para prevenir falhas futuras.

Limites da explicabilidade

Este ponto reconhece que nem todos os aspetos de sistemas complexos são plenamente explicáveis em termos técnicos detalhados. Isso não invalida a obrigação de explicabilidade operacional.

Sempre que exista limite técnico à explicação:

esse limite deve ser declarado;
a autoridade humana deve ser informada;
e a decisão deve ser tomada com essa limitação em consideração.

A pretensão de explicabilidade total é tão enganadora quanto a ausência de explicação.

Explicabilidade como condição de confiança institucional

A confiança institucional não nasce de promessas de transparência, mas da capacidade real de explicar comportamentos quando isso é necessário.

Um sistema que não pode ser explicado não pode ser defendido.
Um sistema que não pode ser auditado não pode ser governado.
Um sistema cujas decisões não são rastreáveis não pode ser legitimado.

Este ponto fecha o primeiro bloco da Constituição Operacional, tornando explícito que limites, autoridade, linguagem e comportamento sob risco só são confiáveis quando podem ser compreendidos, avaliados e atribuídos.

Porque, em contextos reais, não basta decidir bem.
É necessário conseguir explicar, auditar e assumir a decisão.