Apresentação: Abrindo a Caixa-Preta: Explicabilidade Crítica para Seleção de Ferramentas de Agentes de IA com Kiji Inspector

Hannes Hapke compartilha como o Kiji Inspector de código aberto da Dataiku aplica Sparse Autoencoders (SAEs) diretamente aos tokens de decisão para revelar por que os agentes escolhem ferramentas específicas. Indo além de narrativas superficiais de cadeia de pensamento, ele discute ablação causal, extração de ativação de camadas via motores vLLM modificados e fluxos de trabalho de monitoramento de produção para arquitetos de software e líderes seniores de engenharia. Por Hannes Hapke