Cloudflare presenta Firewall AI y Defensive AI

 El primero, Firewall AI, está diseñado para proteger  LLMs (modelos grandes de lenguaje). Es una capa de protección que se puede desplegar justo por delante de estos modelos, y que la compañía asegura que es capaz de identificar abusos antes de que lleguen a afectar a los modelos. El segundo, Defensive AI, sirve para proteger a empresas de los riesgos asociados a la IA, dado que hay cada vez más ataques que se apoyan en ella para conseguir su objetivo.

Firewall for AI está diseñado como un firewall de aplicación web avanzado para aplicaciones que utilicen modelos grandes de lenguaje. Para ello está dotado de diversas herramientas que se pueden desplegar de manera que queden por delante de la aplicación, como barrera, con el objetivo de detectar vulnerabilidades y ofrecer visibilidad de las amenazas a los modelos.

Según Cloudflare, Firewall for AI combina herramientas de firewall de aplicación web tradicionales, como la limitación de tráfico y la detección de datos sensibles. Para ello emplea una capa de protección nueva, que es la que se encarga de analizar los prompts que los usuarios envían al modelo para localizar e identificar los intentos de explotarlo.

Funciona ejecutando diversos sistemas de detección, diseñados para identificar intentos de inyección de prompts y otros abusos. Entre ellos, se encargará de asegurarse de que el tema del prompt está dentro de los límites definidos por el propietario del modelo. Firewall for AI también buscará prompts integrados en peticiones HTTP. Además, dará a los clientes la oportunidad de crear reglas basadas en qué punto del cuerpo JSON de la petición puede encontrarse el prompt. Cuando esté instalado y activo, analizará cada prompt y ofrecerá una puntuación basada en la probabilidad de que sea malicioso.

Este nuevo firewall se ejecutará en la red de Cloudflare, permitiendo a la compañía identificar ataques en su fase temprana, y proteger a los usuarios y los modelos de abusos y ataques. Todavía habrá que esperar un poco hasta que esté listo, porque aún se encuentra en fase de desarrollo.

Cuando esté disponible se desplegará como un firewall de aplicación web convencional, por lo que escaneará cada petición de API con un prompt a un modelo grande de lenguaje en busca de patrones y firmas de posibles ataques. Puede situarse por delante de modelos alojados en la plataforma Cloudflare Workers AI o de modelos alojados en infraestructura de terceros. También se puede utilizar conjuntamente con Cloudflare AI Gateway.

Defensive AI es un servicio centrado en la protección frente a los ataques que se apoyan en nuevas tecnologías, como la IA, analizando los patrones de tráfico únicos de la organización en la que se utiliza e identificando comportamientos extraños y ajenos a ellos. Además, permite personalizar la mitigación de ataques, mediante la activación la protección tanto de aplicaciones concretas como de redes completas.

La IA permite que los ciberatacantes tengan más posibilidades para aumentar con rapidez su eficacia, y hace que las opciones de seguridad generalistas tengan menos eficacia. Por eso, Defensive IA se ha desarrollado para permitir la personalización, con una defensa basado en los patrones de tráfico de cada organización. Sus usuarios podrán evitar el ataque a APIS con API Anomaly Detection, todavía en desarrollo, ya que ayuda a prevenir ataques diseñados para dañar aplicaciones, tomar el control de cuentas o exfiltrar datos.

Aprovechará la IA para aprender el comportamiento de una aplicación y desarrollar un modelo del aspecto que tiene una secuencia de peticiones legítimas a lo largo del tiempo. El modelo de tráfico resultante se usa para identificar ataques que se desvíen del comportamiento normal, actuando como una barrera que ayuda a detener actividades potencialmente dañinas. Defensive AI también cuenta con Cloud Email Security, una solución que entrena a los modelos de IA para que identifiquen distintas partes de un mensaje y señalen el contenido sospechoso.

Todo esto sin olvidarse de la mitigación de amenazas que puedan tener su origen en los empleados, tanto accidentales como premeditadas. Lo hace con Cloudflare Gateway, que ofrecerá la oportunidad de generar una línea base del comportamiento de sus usuarios y de los recursos a los que acceden, para marcar o filtrar los que supongan un riesgo o no estén autorizados. Esto dará una puntuación tanto a los usuarios como a los recursos, tanto a los que se manejan a nivel interno como a los externos a los que acceden.