Perplexity anuncia una arquitectura hibrida para Computer que puede repartir tareas entre modelos locales y modelos frontera en la nube.
Perplexity ha presentado una arquitectura de inferencia híbrida para Computer que combina modelos ejecutados en el dispositivo con modelos más potentes alojados en la nube.
El sistema puede decidir qué partes de una tarea se procesan localmente y cuáles requieren recurrir a un modelo frontera remoto.
La propuesta se anunció junto a Intel y busca aprovechar la capacidad de los ordenadores personales sin renunciar al rendimiento disponible en centros de datos.
Cuando una tarea contiene información sensible, la ejecución local puede mantener determinados datos en el equipo del usuario en lugar de enviarlos fuera.
Para operaciones que exigen más razonamiento o capacidad de cálculo, Computer puede derivar esa parte del proceso a modelos en la nube y reunir después el resultado.
El cambio convierte la elección entre procesamiento local y remoto en una decisión del orquestador, adaptada a la complejidad y sensibilidad de cada paso.
