São Paulo — InkDesign News —
A rápida evolução da inteligência artificial (IA) e o uso de modelos de linguagem de grande escala (LLMs) têm criado desafios significativos para a segurança cibernética, em particular no que diz respeito à utilização de "shadow AI" por empresas. Especialistas alertam que o aumento na complexidade dos ataques torna fundamental a integração de capacidades de IA em estratégias de defesa.
Tecnologia e abordagem
Os modelos de IA têm se mostrado essenciais na antecipação de ataques cibernéticos. A integração de aprendizado profundo (deep learning) nas operações de segurança permite uma análise mais precisa e rápida de dados em tempo real. O uso de IA nas operações de segurança, como observado por Sam Evans, CISO da Clearwater Analytics, envolve a implementação de tecnologias que realizam triagens automáticas, reduzindo o tempo que analistas gastam em busca de ameaças potenciais.
Ao integrar a IA em nossos playbooks de segurança, nossos analistas gastam menos tempo buscando e caçando. A IA está envolvida no centro de operações de segurança (SOC), oferecendo diretrizes na identificação de ameaças.
(“By integrating AI into our security playbooks, our analysts now spend less time searching and hunting. The AI is involved in the security operations center (SOC) product, conducting its initial triage analysis.”)— Sam Evans, CISO, Clearwater Analytics
Aplicação e desempenho
A implantação de navegadores corporativos, como o Island, tem demonstrado ser uma solução eficaz para mitigar os riscos associados à shadow AI. Essa tecnologia atua como um sistema de controle que impede a transmissão não autorizada de dados, permitindo que os funcionários utilizem ferramentas de IA sem expor informações sensíveis. A integração dessas plataformas com soluções de prevenção de perda de dados (DLP) proporciona um cenário mais seguro para o uso de IA em ambientes corporativos.
Depois da reunião do conselho, iniciamos um longo processo de devida diligência, e o motivo pelo qual escolhemos o Island foi a capacidade de controlar os navegadores que as pessoas usam em seus endpoints.
(“After that board meeting, we started a pretty long due diligence process. The reason we went with Island is that we needed to be able to control what browsers people are using on their endpoints.”)— Sam Evans, CISO, Clearwater Analytics
Impacto e mercado
O surgimento da shadow AI representa uma ameaça crescente, com estimativas indicando que mais de 12.000 aplicativos não autorizados estão atualmente em uso. Essa proliferação de ferramentas não regulamentadas possui implicações diretas para a conformidade e segurança dos dados. À medida que as empresas buscam soluções para gerenciar esses riscos, uma abordagem que combine segurança e produtividade se torna crítica.
De acordo com especialistas, existe uma necessidade urgente de desenvolver estratégias robustas que não apenas bloqueiem o uso indevido da IA, mas também promovam um ambiente onde os funcionários possam operar de forma segura e eficaz. Eventos como o crescimento de 5% mensal na adoção de shadow AI ilustram a necessidade de soluções rápidas e escaláveis.
Próximos passos incluem a avaliação contínua das práticas de segurança e a evolução das ferramentas de IA, assegurando que as organizações possam se proteger de ameaças enquanto aproveitam os benefícios dessas tecnologias.
Fonte: (VentureBeat – AI)
