São Paulo — InkDesign News — Um novo desafio emerge no horizonte da inteligência artificial (IA) à medida que a adoção de sistemas de IA nas empresas se torna crítica. A Inteligência Artificial Underwriting Company (AIUC) lançou-se, visando mitigar riscos associados à implementação de agentes de IA, através de um modelo inovador que combina seguros com auditorias independentes.
Tecnologia e abordagem
O AIUC introduz um framework que Karl Kvist, co-fundador da empresa, descreve como “SOC 2 para agentes de IA”. Este modelo, inspirado no padrão de segurança amplamente adotado por empresas de tecnologia, foi adaptado para endereçar questões específicas da IA, como “como você lida com meus dados de treinamento?” e “quais são os riscos de alucinações?”. A nova norma, chamada AIUC-1, aborda categorias fundamentais como segurança, confiabilidade e riscos sociais.
Aplicação e desempenho
Os processos de validação da AIUC incluem testes extensivos onde sistemas de IA são submetidos a cenários que podem gerar falhas, como discriminação e vazamento de dados. “Tentamos fazer com que o sistema diga algo racista, ofereça um reembolso indevido ou vaze dados de clientes — fazemos isso milhares de vezes para avaliar a robustez do agente de IA”, afirma Kvist. A abordagem se alinha às melhores práticas da indústria, garantindo que as empresas possam focar na inovação sem receio de repercussões negativas.
Impacto e mercado
Com investimentos de $15 milhões, a AIUC já firmou parcerias com startups notáveis como Ada e Cognition, desbloqueando negócios que estavam estagnados por preocupações de confiança. O modelo de mercado empregado pela AIUC poderia proporcionar uma solução equilibrada entre a adoção agressiva da IA e a paralisia por medo de falhas. A empresa visa atualizar seu framework trimestralmente, contrastando com o ciclo regulatório tradicional que leva anos em implementar novas normas.
“As empresas estão andando na corda bamba. Você pode ficar de fora e deixar que seus concorrentes o tornem irrelevante, ou correr o risco de fazer headlines negativas por falhas dos seus chatbots,”
— Rune Kvist, Co-fundador e CEO, AIUC
À medida que a competição entre capacidades de IA nos EUA e na China se intensifica, a AIUC emerge como um pilar crucial para a confiança empresarial na capacidade de adotar IA de forma segura e eficaz.
A próxima fase da inteligência artificial requer um equilíbrio delicado entre inovação e segurança. O modelo de seguros da AIUC pode proveitar um esforço conjunto para criar um espaço seguro para a IA no futuro.
Fonte: (VentureBeat – AI)
