IA en el dispositivo en teléfonos: la realidad de los 4 tok/s
Los teléfonos pueden ejecutar LLM en el navegador: a 4–9 tok/s en modelos de gama alta, con cierres de pestañas, esperas de 76 segundos para el primer token y detección de funciones que miente. Un estudio de benchmarks móviles con un patrón de validación por calentamiento que puedes llevar a producción.
29 min de lectura