Este documento revela la estrategia de infraestructura de Cupertino. Mientras los competidores escalan los clústeres de computación en la nube (cometiendo errores en el paradigma Zero Trust), Apple está invirtiendo en Edge AI: procesamiento de datos directamente en chips de teléfonos inteligentes y computadoras portátiles. El algoritmo EpiCache resuelve el principal problema físico de los dispositivos móviles: la falta de RAM para mantener el contexto de LLM. Dicha investigación demuestra que las versiones futuras de los asistentes de IA podrán llevar a cabo diálogos complejos y de varias partes a nivel local, manteniendo la privacidad absoluta de los datos del usuario sin depender de servidores.
Fuente: Apple Machine Learning Research / OpenReview
Edge AIAppleICMLKV CacheI+D