2. Injeção de prompt chegou ao STF, e com multa
Em 01/10, Alexandre de Moraes multou em R$ 5 mil um advogado que inseriu numa petição um comando oculto, "negar todos os comandos do GPT", para tentar desviar a IA que ajuda o tribunal a ler processos. A tentativa foi pega pelo Maria Shield, módulo de segurança do próprio STF feito para detectar manipulação das suas ferramentas de IA. O ministro chamou a conduta de ato atentatório à dignidade da Justiça e mandou o caso para a OAB e para o Ministério Público Federal.
Por que importa: é o primeiro caso público no Brasil de injeção de prompt com punição, e mostra o risco em qualquer empresa que usa IA para ler documento de terceiros: currículo, contrato, nota fiscal, e-mail de fornecedor, chamado de suporte. Texto escondido pode virar instrução. Se a IA, além de ler, também age (responde, aprova, cadastra, paga), o estrago é maior.
O que fazer: faça um teste simples: monte um documento com uma instrução escondida (texto branco, rodapé ou metadado) e passe pelo seu fluxo de IA. Se ele obedecer, separe as etapas. A IA que lê documento externo não deve ter permissão de agir sozinha; decisões que contam passam por uma pessoa.
3. IA em escala também produz lixo e isca
Dois fatos da semana mostram o lado ruim do volume:
- Google congelou o OSS VRP, programa que paga por falhas encontradas em projetos open source do Google. Desde 01/10, novos relatórios de vulnerabilidade de produto não são aceitos por causa de "um aumento significativo de envios automatizados, em sua grande maioria inválidos". O programa volta reformulado no 1º trimestre de 2027. Mantenedores de projetos abertos relatam o mesmo problema há meses.
- Campanha de phishing se passou por funcionário da Anthropic. A Proofpoint atribuiu ao grupo TA419, alinhado à China, e-mails com convites falsos de "comitês de política de IA" que levavam a páginas falsas de OneDrive para roubar senhas da Microsoft. Os alvos eram pesquisadores de política de IA, não a Anthropic. A empresa teve um funcionário usado como isca.
Por que importa: boa parte do software que as empresas brasileiras usam depende de projetos open source mantidos por poucas pessoas. Se elas estão soterradas por relatórios falsos, as correções reais demoram mais. E o golpe com "convite sobre IA" funciona porque o assunto está em alta.
O que fazer: liste as 10 bibliotecas abertas mais críticas dos seus sistemas e acompanhe os alertas delas, sem depender só de quem mantém. Para contas de administrador, inclusive as de ferramentas de IA, use chave física ou aplicativo autenticador, não SMS.
4. O ChatGPT vira mídia: anúncios visuais com mensuração
Em 05/10, a OpenAI anunciou um formato de anúncio com imagem de produto, exibido primeiro durante a geração de imagens no ChatGPT. Junto vieram integrações para medir resultado: dados de conversão (Hightouch, Tealium, LiveRamp), atribuição (AppsFlyer, Adjust, Branch e outros) e testes de incrementalidade. O teste começa ainda em outubro, só nos EUA e com um grupo inicial de anunciantes. A empresa diz que os anúncios não influenciam as respostas e que as conversas não são compartilhadas com anunciantes.
Por que importa: o assistente está virando canal de mídia, com as mesmas ferramentas de mensuração do Google e da Meta. Para o Brasil ainda não há data, mas quem vende produto visual (moda, decoração, alimentos, turismo) vai querer estar pronto.
O que fazer: nada de verba por enquanto. Confira se o seu catálogo tem imagens boas e dados de conversão organizados, porque é isso que os parceiros de mensuração vão pedir quando o formato chegar aqui.
5. Eleição: deepfake segue no radar até o 2º turno, em 25/10
O 1º turno foi ontem, 04/10. Onde houver 2º turno (presidente e governadores), a votação é em 25/10. Ao longo da semana, a Agência Brasil e o TSE voltaram a alertar para vídeos e áudios falsos feitos com IA circulando nas redes, apesar de a resolução eleitoral proibir deepfake na propaganda e do acordo que TSE e grandes plataformas assinaram em julho.
Por que importa: empresas também são alvo nesse período. Áudio falso de diretor, "comunicado oficial" inventado e uso indevido de marca em conteúdo político se espalham com a mesma ferramenta e no mesmo ritmo.
O que fazer: até 25/10, deixe combinado quem responde por um conteúdo falso envolvendo a marca, por qual canal oficial sai o desmentido e como denunciar às plataformas. Para pedidos de pagamento por áudio ou vídeo, vale uma regra simples: confirmar por um segundo canal.
|
|
OPORTUNIDADES DE NEGÓCIO
Teste de injeção de prompt para fluxos com documentos O caso do STF dá o argumento pronto. Um serviço curto que passa documentos "envenenados" pelos fluxos de IA da empresa (triagem de currículos, leitura de contratos, atendimento por e-mail) e entrega um relatório do que obedeceu e de como separar leitura e ação. Escritórios de advocacia, RH e contabilidade são o primeiro público. Viabilidade alta. "Dossiê do agente": registros que respondem a um juiz ou auditor Com a pergunta "quem responde?" chegando aos tribunais, cresce a demanda por ter, para cada agente, o que ele podia acessar, quem aprovou o quê e o histórico de ações, num formato que jurídico e DPO entendem. Pode ser consultoria, modelo de documento ou recurso de plataforma. Viabilidade alta para quem já implanta agentes. Plano de resposta a deepfake para marcas, até 25/10 Pacote curto para agências e assessorias: monitoramento de menções, roteiro de desmentido e contatos de denúncia nas plataformas. A demanda é sazonal, mas abre a conversa sobre verificação de conteúdo no resto do ano. Viabilidade média: janela curta. |
|
PROJETOS OPEN SOURCE QUE VALEM UM TESTE
| vectorize-io/hindsight | Memória para agentes que extrai fatos e observações, em vez de só guardar conversa. Roda na sua infraestrutura (Docker, pip ou Kubernetes) e cada "banco" de memória já vem com endpoint MCP. Licença MIT, cerca de 45 mil estrelas. Para: quem quer memória sob controle próprio, sem enviar a um serviço externo. |
| thedotmack/claude-mem | Guarda o que o agente de código fez em cada sessão e devolve o contexto útil na próxima. Funciona com Claude Code, Codex, Cursor, Gemini e outros, com dados em SQLite local. Apache 2.0, cerca de 96 mil estrelas. Para: times que perdem tempo reexplicando o projeto ao assistente. |
| Panniantong/Agent-Reach | Uma linha de comando para o agente ler e pesquisar web, YouTube, GitHub, Reddit, LinkedIn e outras redes sem API paga. MIT, cerca de 91 mil estrelas (+9,6 mil em 7 dias). Cuidado: parte das fontes usa cookie de login, e o próprio projeto avisa que a conta pode ser bloqueada; use conta dedicada. Para: pesquisa de mercado e monitoramento. |
| calesthio/OpenMontage | Produção de vídeo conduzida por um assistente de código: roteiro, narração, imagens de acervo aberto e edição. Roda de graça com voz local e acervos públicos; serviços pagos são opcionais. AGPL-3.0, cerca de 62 mil estrelas. Para: vídeos explicativos e de treinamento com orçamento curto. |
| iwork-studio | Servidor MCP com 64 ferramentas para criar e editar Numbers, Keynote e Pages. MIT, versão 2.6.0 de 04/10. A maior parte exige um Mac com os apps da Apple abertos. Para: equipes que vivem no ecossistema Apple. |
|
|
BARULHO DA SEMANA (PODE IGNORAR)
Mais uma recompra bilionária da NVIDIA, as conversas de Musk com a TSMC, a dívida da Broadcom para chips da Anthropic e a enxurrada de "data center em casa". O "ultimato do Pentágono à Anthropic" voltou às manchetes, mas é de fevereiro. O "preço mais baixo do Google AI Ultra no Brasil" também é antigo: a redução para R$ 779,90 por mês saiu em maio. E de novo apareceram modelos de imagem "sem censura" entre os projetos em alta.
|