AI aumenta riscos de segurança em computadores e smartphones
São Paulo — InkDesign News — Um recente levantamento sobre sistemas de inteligência artificial (IA) capazes de controlar dispositivos de forma autônoma traz à tona um campo em rápida evolução. Os chamados "OS Agents" combinam arquiteturas de modelos de linguagem de larga escala (LLMs) com técnicas de aprendizado profundo para manipular interfaces por meio de interação direta com computadores e dispositivos móveis.
Tecnologia e abordagem
Os OS Agents utilizam uma combinação de aprendizado observado e execução de ações como cliques e arrastos em múltiplas plataformas. Esses sistemas são projetados para interpretar telas, planejar tarefas complexas e traduzir essas intenções em código executável. As pesquisas revelam um crescimento notável, com mais de 60 modelos fundamentais e 50 frameworks de agentes dedicados ao controle de computadores identificados, destacando uma aceleração nas publicações desde 2023.
Parte significativa da pesquisa foi liderada por acadêmicos da Universidade de Zhejiang e do Centro de IA da OPPO. A análise aponta que “com a evolução de modelos de linguagem multimodal ((M)LLMs), esse sonho [de criar assistentes de IA que rivalizem J.A.R.V.I.S. de Iron Man] está mais perto da realidade” (“With the evolution of (multimodal) large language models ((M)LLMs), this dream is closer to reality.”)
— Pesquisadores, Universidade de Zhejiang e OPPO AI Center
Aplicação e desempenho
As métricas de desempenho dos sistemas OS Agents revelaram variações significativas. Embora algumas soluções comerciais atinjam taxas de sucesso acima de 50% em determinadas tarefas, a eficácia declina em situações mais complexas. As tarefas foram categorizadas em três tipos: “fundamentação da interface gráfica”, “recuperação de informação” e “tarefas agente”, com sistemas falhando em tarefas que exigem raciocínio sustentado ou adaptação a mudanças inesperadas em interfaces.
De acordo com o estudo, as capacidades atuais dos agentes atendem principalmente a demandas simples e bem definidas. As limitações incluem dificuldades em tarefas que demandam um raciocínio mais profundo, que são caracterizadas por fluxos de trabalho complexos que envolvem múltiplas aplicações.
Impacto e mercado
Apesar do potencial significativo, a implementação de OS Agents apresenta novos desafios de segurança. Os pesquisadores alertam para riscos como “injeção de prompt indireta” e ataques de “injeção ambiental”, que podem comprometer a integridade dos dados do usuário. A incapacidade atual desses sistemas de lidar com tarefas mais complexas resulta em um foco em atividades de alta repetição em vez de automação de propósito geral.
Como os sistemas de IA continuam a evoluir, a capacidade de personalização e adaptação em tempo real poderá alterar fundamentalmente a interação humana com a tecnologia. A personalização tem implicações profundas para a privacidade e segurança, uma vez que os agentes precisam equilibrar a adaptação ao usuário sem coletar dados excessivos.
As organizações precisam se preparar para os desafios que esses sistemas representarão, garantindo que as estruturas de segurança e privacidade sejam suficientemente robustas para mitigar os riscos emergentes.
Fonte: (VentureBeat – AI)
