Llama 3

Vista previa

Llama 3 representa una mejora significativa en la familia de modelos de lenguaje grandes de Meta AI, estableciendo nuevos estándares para los LLM abiertos. Lanzados en abril de 2024, los modelos Llama 3 de 8B y 70B parámetros fueron entrenados con una cantidad de datos sin precedentes: más de 15 billones de tokens, 7 veces más que Llama 2. Esto mejoró significativamente las capacidades de los modelos en comprensión del lenguaje, generación de código, razonamiento y seguimiento de instrucciones complejas. Llama 3 demuestra un rendimiento de vanguardia en benchmarks estándar, superando a menudo a otros modelos abiertos de tamaño comparable y compitiendo con algunos sistemas propietarios. Meta prestó especial atención a la reducción de rechazos falsos y a la mejora de la direccionabilidad del modelo. Todos los modelos Llama 3 lanzados cuentan con una ventana de contexto de 8K tokens, lo que les permite procesar grandes cantidades de información. Un aspecto clave de Llama 3, al igual que Llama 2, es su licencia abierta (Llama 3 Community License), que permite tanto la investigación como el uso comercial, fomentando la innovación dentro de la comunidad de IA. Los modelos están disponibles para descargar a través de Hugging Face y están integrados en muchas plataformas en la nube (AWS, Google Cloud, Azure, Databricks, etc.) y soluciones de hardware (NVIDIA, Intel, AMD). Meta planea lanzar versiones aún más grandes y multimodales de Llama 3 en el futuro (incluido un modelo de más de 400B parámetros), ampliando aún más sus capacidades. Llama 3 proporciona una base poderosa para construir chatbots, sistemas de generación de contenido, herramientas para desarrolladores y otras aplicaciones de IA.