O Cloudflare anunciou que um firewall específico para inteligência artificial será capaz de examinar as requisições dos usuários em relação a modelos de linguagem extensos, a fim de detectar possíveis tentativas de extração de dados ou de explorar o modelo de alguma forma.
chsyys/FreePik
A Cloudflare divulgou o lançamento do Firewall para AI, uma medida de segurança que pode ser instalada em LLMs, visando detectar possíveis abusos antes que atinjam os modelos.
Apresentado em 4 de março, o Firewall para IA é projetado para ser um firewall avançado de aplicativo web (WAF) para aplicações que utilizam LLMs. Ele consiste em um conjunto de recursos que podem ser instalados antes das aplicações para identificar falhas de segurança e oferecer insights sobre possíveis ameaças aos modelos.
Cloudflare anunciou que o Firewall para AI integrará funcionalidades clássicas de WAF, como restrição de taxa e detecção de dados sensíveis, com uma nova camada de segurança que analisa os prompts do modelo enviados aos usuários para detectar possíveis tentativas de explorar o sistema. Este Firewall para AI será implantado na rede da Cloudflare, o que permitirá à empresa identificar precocemente ataques e proteger tanto usuários quanto modelos contra possíveis abusos. O produto está atualmente em fase de desenvolvimento.
Algumas fragilidades que impactam aplicações web e API convencionais, como injeções de dados e vazamento de informações, também são relevantes para o ambiente de LLM. No entanto, devido à maneira como os LLMs operam, novas ameaças estão surgindo. Recentemente, foi identificada uma vulnerabilidade em uma plataforma de colaboração de IA que permitiu que pesquisadores assumissem o controle de modelos e realizassem ações não autorizadas, conforme relatado pela Cloudflare.
O Firewall da Cloudflare para inteligência artificial (AI) será instalado como um Web Application Firewall (WAF) convencional, onde cada solicitação de API com um alerta LLM é verificada em busca de possíveis ataques com base em padrões e assinaturas. Ele pode ser instalado tanto em modelos hospedados na plataforma Cloudflare Workers AI quanto em modelos hospedados em outras infraestruturas. Além disso, pode ser utilizado em conjunto com o Cloudflare AI Gateway.
Um firewall específico para inteligência artificial será utilizado para realizar diversas detecções planejadas, visando identificar tentativas de manipulação rápida e outros tipos de abusos. Além disso, garantirá que o conteúdo do prompt esteja dentro dos parâmetros estabelecidos pelo dono do modelo. Este firewall para inteligência artificial também verificará solicitações incorporadas em solicitações HTTP, ou permitirá aos clientes criar regras com base na localização do prompt no corpo JSON da solicitação.
Após ser ativado, o Firewall para Inteligência Artificial analisará cada solicitação e atribuirá uma pontuação com base na possibilidade de ser maliciosa, conforme informado pela Cloudflare.
