São Paulo — InkDesign News — Cybersecurity researchers from Noma Security revealed a critical vulnerability within LangChain’s LangSmith platform on October 29, 2024. This flaw, named AgentSmith, holds a CVSS score of 8.8, allowing malicious AI agents to compromise user data and manipulate responses from large language models.
Incidente e vulnerabilidade
A vulnerabilidade AgentSmith afeta diretamente o Prompt Hub público da plataforma LangSmith, que é amplamente utilizada por empresas como Microsoft e DHL. O exploit permite que agentes de IA sejam configurados de forma maliciosa, utilizando proxies ocultos para interceptar dados pessoais. Um proxy atua como intermediário para requisições de rede. Neste caso, um atacante poderia criar um agente de IA que, quando executado por um usuário desprevenido, direcionaria a comunicação – incluindo dados sensíveis como chaves de API da OpenAI e arquivos carregados – através de seu próprio servidor.
A investigação da Noma Security aponta que esse ataque de Man-in-the-Middle (MITM) pode levar a acessos não autorizados às contas da OpenAI de vítimas, resultando na possível exfiltração de conjuntos de dados sensíveis ou no esgotamento de quotas de uso de API.
Impacto e resposta
Até o momento, não foram encontradas evidências de exploração ativa da vulnerabilidade. Apenas usuários que interagiram diretamente com agentes maliciosos estão em risco. Após a divulgações inicial, LangChain confirmou o problema e implementou uma correção em 6 de novembro de 2024, antes de tornar o incidente público. A empresa também introduziu novas medidas de segurança e avisos ao tentar clonar agentes com configurações de proxy personalizadas. Segundo LangChain:
“A vulnerabilidade foi limitada ao recurso de compartilhamento público do Prompt Hub e não afetou a infraestrutura mais ampla da plataforma.”
(“The vulnerability was limited to the public sharing feature of the Prompt Hub and did not affect the broader platform’s infrastructure.”)— LangChain
Mitigações recomendadas
Organizações são incentivadas a intensificar suas práticas de segurança em IA. Recomenda-se manter um inventário centralizado de todos os agentes de IA, utilizando um AI Bill of Materials para rastrear suas origens e componentes. Além disso, a implementação de proteções em tempo de execução e uma governança de segurança sólida para todos os agentes de IA são essenciais para resguardar contra ameaças emergentes. Os pesquisadores sugerem:
“É crucial implementar proteções robustas e práticas de governança de segurança para mitigar riscos associados.”
(“It is crucial to implement robust protections and security governance practices to mitigate associated risks.”)— Noma Security
Conforme a situação revela, é imperativo que as organizações permaneçam vigilantes e atualizadas nas melhores práticas de segurança para evitar futuras vulnerabilidades como a AgentSmith.
Fonte: (Hack Read – Segurança Cibernética)
