Científicos del Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) han presentado un chip de inteligencia artificial que, según afirman, puede igualar la velocidad de NVIDIALa GPU A100 pero con un tamaño más pequeño y un consumo de energía significativamente menor. El chip fue desarrollado utilizando SamsungEl proceso de fabricación de 28 nanómetros, una tecnología considerada relativamente antigua en el cambiante mundo de los semiconductores.
El equipo, dirigido por el profesor Yoo Hoi-jun en el centro de investigación de procesamiento en memoria de KAIST, ha desarrollado lo que dice es el primer chip de IA de ‘Transformador Complementario’ (Transformador C) del mundo. Este sistema informático neuromórfico imita la estructura y el funcionamiento del cerebro humano, utilizando un modelo de aprendizaje profundo que a menudo se emplea en el procesamiento de datos visuales.
«La computación neuromórfica es una tecnología que incluso empresas como IBM y Intel no hemos podido implementar, y estamos orgullosos de ser los primeros en el mundo en ejecutar el LLM con un acelerador neuromórfico de baja potencia», dijo Yoo.
Quedan preguntas
Esta tecnología aprende contexto y significado mediante el seguimiento de relaciones dentro de los datos, como palabras en una oración, que es una tecnología clave para servicios de IA generativa como ChatGPT.
Durante una demostración en la sede del Ministerio de TIC, el miembro del equipo Kim Sang-yeob mostró las capacidades del chip. En una computadora portátil equipada con el chip, realizó tareas como sesiones de preguntas y respuestas, resumen de oraciones y traducciones usando Abierto AILLM, GPT-2. Las tareas se completaron al menos tres veces más rápido y, en algunos casos, hasta nueve veces más rápido que cuando se ejecuta GPT-2 en una computadora portátil conectada a Internet.
La implementación de LLM en tareas de IA generativa normalmente requiere numerosas GPU y 250 vatios de potencia, pero el equipo afirma que su semiconductor utiliza sólo 1/625 de la potencia de la GPU de Nvidia para las mismas tareas. Además, debido a que también tiene 1/41 del tamaño, y mide solo 4,5 mm por 4,5 mm, en última instancia podría usarse en dispositivos como teléfonos móviles.
Sin embargo, aún está por verse si el chip podrá cumplir sus promesas en aplicaciones del mundo real. Como Hardware de Tom informa: “Aunque se nos dice que el chip KAIST C-Transformer puede realizar las mismas tareas de procesamiento LLM que una de las robustas GPU A100 de Nvidia, ninguno de los materiales de prensa ni de la conferencia que hemos proporcionado proporciona ninguna métrica de rendimiento comparativa directa. Se trata de una estadística significativa, que brilla por su ausencia, y los cínicos probablemente supondrían que una comparación de rendimiento no le hace ningún favor al C-Transformer.“
