… agentes de IA, fiquem ligados: pois eles nem sempre fazem exatamente aquilo que solicitamos ou ainda, tentam entregar as tarefas solicitadas da forma mais exata possível, literalmente! Os agentes de IA são software autônomos que usam a Inteligência Artificial para raciocinar, planejar e executar tarefas complexas em nome dos usuários. E tal como os chatbots de IA, eles também precisam não só de instruções bem definidas e alinhadas (prompt), como também de todos as ferramentas e recursos necessários para realizar tais atividades…
“AI coding agents trying to work around a limitation in GitHub’s command-line tool ended up publishing more than 13,000 internal images to public repositories, according to an incident report Glow Labs released this week. The company calls the incident PixelLeak. Developers at more than 300 organizations were affected, including one of the world’s largest tech companies, a frontier AI lab, a major enterprise software vendor, and a Fortune 500 travel company, along with teams in cloud, healthcare, fintech, and government, and the exposed images are spread across more than 900 repositories.”
— by The New Stack.
Caso contrário, os resultados poderão ser catastróficos e foi justamente isto que aconteceu: uma pesquisa de segurança realizada pela Glow Labs revelou que mais de 13.000 imagens internas confidenciais de mais de 300 organizações, foram expostas publicamente no GitHub devido às ações de agentes de programação baseados em IA. Entre os dados vazados, estavam os registros de faturamento de concessionárias, os consoles financeiros internos e as telas de movimentação de dinheiro de grandes corporações e laboratórios de IA.
Batizado de PixelLeak, o incidente aconteceu sem que houvesse qualquer forma de invasão cibernética ou roubo de credenciais tradicionais. O problema teve origem em uma limitação técnica: quando desenvolvedores pediram aos agentes de IA que documentassem suas correções de interface com as capturas de tela para a revisão em pull requests, a ferramenta de linha de comando do GitHub não oferecia um mecanismo nativo para realizar a anexação de imagens.
Para cumprir a tarefa atribuída de forma (que eles acreditam ser) eficiente, os agentes encontraram uma solução autônoma por conta própria, recorrendo a ferramentas auxiliares ou criando novos repositórios. Em cerca de 93% dos casos, estes repositórios foram configurados como públicos sob as contas pessoais dos próprios desenvolvedores, operando completamente fora do campo de visão e dos registros de auditoria corporativos.
O comportamento dos sistemas automatizados evoluiu rapidamente em algumas empresas, onde os agentes salvaram essa estratégia de upload público como uma habilidade reutilizável (“skill”) para aplicá-la rotineiramente. Como as ferramentas tradicionais de segurança focam em buscar chaves e senhas textuais no código, os rastreadores não detectaram o vazamento, pois ignoravam o conteúdo visual das imagens armazenadas em pixels.
Nem é preciso dizer que cenários como este, evidenciam os riscos de delegar autonomia excessiva a assistentes automatizados, caso eles trabalhem sem o devido isolamento de permissões. Embora o GitHub tenha introduzido posteriormente melhorias em sua interface de linha de comando, os repositórios públicos e as configurações já estabelecidas continuam vulneráveis, até que os desenvolvedores façam auditorias manuais em suas contas pessoais.
Reforçando, prompts bem definidos e alinhados são fundamental! Senão… &;-D