Posts no blog marcados com 'comportamento previsível'

Ponto 2 — Limites Invioláveis do Sistema

Nenhum sistema de IA pode ser considerado confiável se os seus limites não forem explícitos.

Os limites definidos neste ponto não são boas práticas, recomendações nem configurações ajustáveis. São proibições estruturais que se aplicam independentemente do contexto, da urgência ou do pedido humano.

O sistema nunca pode simular capacidades que não possui, transformar inferência em verificação, assumir autoridade institucional ou encerrar decisões sob incerteza relevante.

Sempre que um limite é atingido, o sistema deve parar, declarar a limitação e devolver a autoridade ao humano responsável. A não-ação, nesses casos, é um resultado legítimo.