Construímos um agente que violou todas as nossas regras de segurança. Veja o que aprendemos.

O que aconteceu e por que importa

O que aconteceu: A Token desenvolveu um agente de IA que quebrou, por padrão, as três diretrizes de segurança que recomenda aos clientes – identidade própria, acesso limitado ao trabalho e rastreabilidade separada de humanos – e analisou as lições aprendidas.

Contexto: A empresa orienta que agentes de IA devem ter identidades distintas, permissões adequadas ao seu papel e rastreamento independente. Ao criar um agente que violou esses princípios, a Token pôde refletir sobre defesas necessárias.

Por que importa: Mostra que a falta de identidade, controle de acesso e rastreabilidade pode expor organizações a riscos, indicando a necessidade de políticas e ferramentas de segurança específicas para agentes de IA.

O que acompanhar: Acompanhar a evolução de frameworks e boas‑práticas de segurança para agentes de IA.