Meta AI ha lanzado una nueva versión de su modelo avanzado de generación de código, Code Llama 70B. La nueva plataforma, uno de los modelos de inteligencia artificial de código abierto más grandes para la generación de código, es una mejora significativa con respecto a su predecesora, lo que la hace significativamente más rápida y precisa.
Code Llama 70B ha sido entrenado en 500 mil millones de tokens de código y datos relacionados con el código, y tiene una gran ventana de contexto de 100,000 tokens, lo que le permite procesar y generar código más largo y complejo en una variedad de lenguajes, incluidos C++, Python, PHP. y Java.
Basado en Llama 2, uno de los modelos de lenguaje grande (LLM) de propósito general más grandes del mundo, Code Llama 70B ha sido ajustado para la generación de código utilizando una técnica llamada autoatención que puede comprender mejor las relaciones y dependencias del código.
Batalla cuesta arriba
Otro de los aspectos más destacados del nuevo modelo es CodeLlama-70B-Instruct, una variante optimizada para comprender instrucciones en lenguaje natural y generar código en consecuencia.
El director ejecutivo de Meta AI, Mark Zuckerberg, afirmó: “La capacidad de codificar también ha demostrado ser importante para que los modelos de IA procesen información en otros dominios de manera más rigurosa y lógica. Estoy orgulloso del progreso aquí y espero incluir estos avances en Llama 3 y también en modelos futuros”.
Code Llama 70B está disponible para descarga gratuita bajo la misma licencia que Llama 2 y los modelos anteriores de Code Llama, lo que permite tanto a investigadores como a usuarios comerciales utilizarlo y modificarlo.
A pesar de las mejoras, Meta tiene el arduo desafío de intentar ganarse a los desarrolladores que actualmente usan GitHub Copilot, el número uno. herramienta de inteligencia artificial para desarrolladores creado por GitHub y Abierto AI. Muchos desarrolladores también sospechan de Meta y sus procesos de recopilación de datos, y muchos no son fanáticos del código generado por IA en primer lugar. Esto a menudo puede requerir una depuración seria y producir código que los no programadores están felices de usar pero no entienden, lo que genera problemas en el futuro.