Salesforce combate jagged intelligence para IA mais confiável
São Francisco — InkDesign News — A Salesforce anunciou uma série de avanços em inteligência artificial focados na aplicação empresarial, abordando a inconsistência dos sistemas de IA em ambientes corporativos dinâmicos. A iniciativa visa aprimorar agentes autônomos com melhores capacidades e maior confiabilidade, enfrentando o que a empresa denomina “inteligência irregular” (“jagged intelligence”) em modelos de linguagem (LLMs).
Tecnologia e abordagem
A pesquisa da Salesforce apresenta novos benchmarks, modelos e frameworks para IA empresarial, entre eles o conjunto de dados SIMPLE, contendo 225 perguntas para mensurar a irregularidade das capacidades dos sistemas de IA. Destaca-se também o CRMArena, um ambiente de teste que simula cenários reais de gerenciamento de relacionamento com clientes (CRM), permitindo avaliação detalhada de agentes virtuais em papéis como atendente, analista e gerente.
Além disso, a Salesforce lançou o SFR-Embedding, modelo de embeddings de texto que lidera benchmarks em 56 conjuntos de dados, além do SFR-Embedding-Code, voltado para busca e desenvolvimento de código. Também foi apresentado o xLAM V2, família de modelos de ação com tamanhos que variam de 1 a 70 bilhões de parâmetros, otimizados para prever e executar ações, essencial para agentes autônomos.
Por fim, a empresa introduziu o SFR-Guard, camada de segurança para garantir comportamento confiável dos agentes, e o ContextualJudgeBench, ferramenta para avaliar julgamentos baseados em LLMs quanto à precisão e relevância.
Aplicação e desempenho
O CRMArena indicou que modelos líderes atingem menos de 65% de sucesso em chamadas funcionais nos casos de uso simulados, evidenciando o desafio da consistência na IA empresarial. A Salesforce destaca que a irregularidade compromete operações e a confiança do cliente.
Sobre o xLAM V2, Shelby Heinecke, gerente sênior de pesquisa da empresa, explicou:
“Este modelo pequeno tem muito poder para realizar a próxima ação.”
(“This small model packs just so much power in taking the ability to take the next action.”)— Shelby Heinecke, Senior Manager of Research, Salesforce
O SFR-Embedding está prestes a ser implementado na plataforma Data Cloud, ampliando a capacidade de compreensão contextual das aplicações da Salesforce.
Impacto e mercado
Silvio Savarese, cientista-chefe e chefe de IA da Salesforce, argumenta que as empresas necessitam de “inteligência empresarial geral” (EGI), ou seja, IA construída para a complexidade dos negócios e não para idealizações teóricas como a IA geral (AGI):
“Ela é otimizada não só para capacidade, mas para consistência.”
(“We define EGI as purpose-built AI agents for business optimized not just for capability, but for consistency, too.”)— Silvio Savarese, Chief Scientist and Head of AI Research, Salesforce
Essa abordagem visa fechar a lacuna entre potencial bruto de LLMs e entrega confiável em ambientes de negócio, fator crucial para adoção em larga escala e minimização de riscos.
Os avanços tecnológicos e as ferramentas de avaliação refletem uma tendência do mercado de priorizar confiabilidade e integridade em IA, estabelecendo novos padrões para agentes empresariais autônomos.
Os próximos passos envolvem o lançamento gradual dessas tecnologias, que fortalecerão a plataforma Agentforce da Salesforce, prometendo maior controle e previsibilidade para usuários empresariais.
Fonte: (VentureBeat – AI)
