Cloudflare lanza Clef y Clef-flash, dos modelos abiertos que devuelven decisiones estructuradas para agentes con baja latencia, probabilidades y hasta 64 preguntas por solicitud.
Cloudflare ha presentado Clef y Clef-flash, sus primeros modelos propios para Workers AI. A diferencia de un modelo de lenguaje convencional, no están diseñados para redactar texto, sino para tomar decisiones estructuradas que otro sistema o agente pueda utilizar inmediatamente.
El modelo recibe una descripción del estado y una serie de preguntas con respuestas permitidas. En lugar de generar una explicación libre, devuelve una probabilidad para cada opción. Esto permite clasificar una solicitud, decidir a qué equipo enviarla, bloquear una acción o escalar un caso a una persona sin tener que interpretar una respuesta escrita.
Clef tiene 27.000 millones de parámetros y prioriza la precisión, mientras que Clef-flash tiene 9.000 millones y está orientado a tareas que necesitan una respuesta especialmente rápida. Ambos admiten una ventana de contexto de 64.000 tokens y hasta 64 preguntas por solicitud.
Según las pruebas publicadas por Cloudflare, Clef alcanzó una latencia mediana de 209,3 milisegundos y Clef-flash de 38,8 milisegundos. La compañía afirma que fueron 2,5 y 13 veces más rápidos, respectivamente, que Jev en esas mediciones. Un modelo de Clef obtuvo el mejor resultado en siete de diez pruebas de decisión evaluadas.
Las preguntas pueden ser binarias, de elección entre varias opciones o de puntuación según una escala definida. Los modelos también aceptan hasta cuatro imágenes junto al texto, lo que abre la puerta a clasificaciones visuales y decisiones que combinan ambos tipos de información.
Cloudflare plantea usos como clasificar solicitudes de soporte, puntuar contenido según normas internas, revisar una decisión antes de que un agente utilice una herramienta o categorizar páginas web. Al ejecutarse en Workers AI, las peticiones se procesan en la red de Cloudflare cerca de los usuarios.
Clef y Clef-flash ya están disponibles en Workers AI y sus pesos se han publicado en Hugging Face con licencia Apache 2.0. Cloudflare también ha abierto un servicio de ajuste mediante aprendizaje por refuerzo para organizaciones que necesiten adaptar los modelos a sus propios procesos.
