OpenAI tiene un competidor importante cuyo nombre comienza con la letra «G». Sin embargo, no estamos hablando de Google. Una nueva empresa llamada Groq acaba de irrumpe en escena con su potente modelo de IA. Si bien esta empresa es nueva para el público, definitivamente tiene algunos aspectos notables que la convierten en una fuerza a tener en cuenta.
Esta empresa es nueva para la mayoría de las personas, pero en realidad existe desde hace casi ocho años. La empresa se fundó en 2016, el mismo año en que se fundó OpenAI. Desde su fundación, ha trabajado arduamente para desarrollar su modelo para impulsar AI tecnología hacia adelante. Ahora que la IA generativa ha transcurrido más de un año, ya es hora de que aproveche sus chips.
Groq es el nuevo modelo de IA en escena y es poderoso
Hay un montón de herramientas de IA disponibles hoy en día, pero no hay demasiados modelos de IA. Google tiene sus modelos de IA junto con OpenAI, X Corp de Elon Musk, Anthropic AI, Amazon, Apple y Meta. Muchas herramientas de IA funcionan con estos modelos.
El modelo más nuevo en escena se llama Groq y es de una empresa del mismo nombre. Básicamente, la compañía se convirtió en un éxito de la noche a la mañana cuando publicó una demostración rápida de cuán rápido es su modelo. Un vídeo publicado por Matt Schumer, director ejecutivo de OtherSide AI, mostró el modelo Groq generando varios párrafos de texto en el lapso de un segundo. Esto es algo que a ChatGPT le tomaría entre 10 y 20 segundos generar.
La compañía dice que Groq puede generar hasta 500 tokens por segundo. Para poner esto en perspectiva, GPT 3.5 puede generar alrededor de 40 tokens por segundo, según el informe. Eso es nada menos que 12,5 veces más rápido.
lado a lado Groq vs. GPT-3.5, experiencia de usuario completamente diferente, un punto de inflexión para productos que requieren baja latencia pic.twitter.com/sADBrMKXqm
-Dina Yerlan (@dina_yrl) 19 de febrero de 2024
Groq podría alterar el mercado de GPU
Una de las cosas más notables de Groq son los chips especiales que utiliza para entrenar su modelo de IA. Todas las principales empresas de inteligencia artificial utilizan potentes GPU para entrenar sus modelos. Ésta es una de las razones por las que Nvidia no es una de las empresas más valiosas del mundo. Sin embargo, Groq no utiliza GPU. En cambio, la empresa utiliza sus propios chips personalizados llamados LPU. Esto significa Unidad de Procesamiento del Lenguaje.
La compañía desarrolló estos chips, por lo que parece que están diseñados en gran medida en torno a la IA. No estamos muy seguros de cuántos de estos chips está utilizando la empresa, pero si Groq puede superar a ChatGPT en términos de velocidad, entonces la empresa debe estar utilizando una cantidad justa.
Si está interesado en utilizar Groq, puede ir al sitio web oficial de Groq para probarlo. Al igual que con cualquier chatbot de IA, deberás tener cuidado con la información que produce.