F5 Labs Lança Ranking Mensal para Mensurar a Resiliência de Modelos de Inteligência Artificial

A F5 anunciou nesta segunda-feira (2) o lançamento de uma nova frente de inteligência contra ameaças voltada especificamente para o ecossistema de Inteligência Artificial. Através do F5 Labs, a companhia passa a disponibilizar mensalmente o Índice Abrangente de Segurança de IA (CASI) e a Pontuação de Resistência a Agentes (ARS), ferramentas gratuitas desenhadas para que diretores de segurança da informação (CISOs) possam comparar o perfil de risco de modelos populares do mercado, incluindo soluções da OpenAI, Microsoft, Anthropic e MiniMax. A iniciativa surge como uma resposta à rápida integração da IA em infraestruturas críticas, oferecendo um padrão de mercado para quantificar a resiliência desses sistemas desde a fase de projeto até a produção.

O novo serviço é impulsionado pelos ativos tecnológicos da CalypsoAI, recentemente adquirida pela F5, e conta com uma das maiores bibliotecas de vulnerabilidades do mundo, sendo alimentada por mais de 10 mil novos prompts de ataque todos os meses. Para a liderança da companhia, a transparência nos dados é o único caminho para uma adoção segura da tecnologia.

“Implantar modelos de IA não verificados em infraestruturas críticas não é inovação; é negligência”, disse Kunal Anand, diretor de produtos da F5. “As organizações precisam de uma maneira de quantificar continuamente a resiliência. Os rankings de IA do F5 Labs oferecem esse padrão. Essas classificações isolam pontos fracos específicos na camada do modelo, fornecendo às equipes de segurança as informações necessárias para controlar a inferência e bloquear ataques antes que eles aconteçam”.

O Índice CASI estabelece métricas sobre os caminhos de menor resistência para invasores e avalia a relação entre o risco e o desempenho operacional dos modelos. Já a Pontuação ARS foca no combate a ataques sustentados, onde agentes de IA maliciosos utilizam raciocínio e métodos psicológicos em interações prolongadas para contornar barreiras de segurança. Essa avaliação abrange a sofisticação necessária do invasor, o tempo de resistência defensiva do sistema e a capacidade de contra-inteligência, identificando se falhas nos ataques acabam expondo sinais que permitam explorações futuras.

Além de fornecer um benchmark para o mercado, a nova abordagem alimenta o portfólio de soluções da F5, como o AI Guardrails e o AI Red Team. Segundo Grace Trinidad, diretora de pesquisa da IDC, a combinação entre a governança em tempo de execução e os relatórios mensais do F5 Labs oferece às empresas um conjunto de ferramentas indispensável:

“Os recursos existentes de inspeção e registro de tráfego da F5 são expandidos com a aquisição da CalypsoAI, adicionando recursos de governança de IA em tempo de execução e visibilidade do comportamento do sistema de IA. Em conjunto com seu braço de pesquisa de segurança, o F5 Labs, que atualiza os rankings CASI e ARS todos os meses, os clientes da F5 recebem um conjunto útil de métricas de segurança a serem consideradas ao selecionar um modelo de IA, bem como as ferramentas necessárias para restringir como os sistemas de IA são usados, quais dados eles podem acessar e como os resultados são gerados”, conclui Anand.