La carrera para construir el próximo gran modelo lingüístico ha comenzado y ahora, según se informa, un contendiente de China ha acumulado una importante ronda de financiación para catapultarlo al frente del grupo.
IA disparada a la luna, una startup de inteligencia artificial fundada hace menos de un año que construye LLM que pueden manejar largas entradas de texto y datos, ha recaudado más de mil millones de dólares en una ronda de Serie B, según múltiples informes de medios de China. De ser cierta, esta última inyección de capital valoraría Moonshot AI en 2.500 millones de dólares, la mayor ronda de financiación para desarrolladores de LLM chinos registrada públicamente.
La startup, que se llama YueZhiAnMian en China, se ha centrado, como muchas en IA en este momento, en el desarrollo de modelos de lenguaje grandes. Específicamente, su punto de venta único es que está trabajando para poder procesar el contexto y la respuesta de formato largo, un área que durante mucho tiempo ha superado a otras en el campo.
Ha estado avanzando rápidamente para implementar sus primeros esfuerzos para abordar este problema.
En marzo del año pasado, coincidiendo con el 50 aniversario de The Dark Side of the Moon de Pink Floyd, el álbum favorito del fundador Yang Zhilin y la inspiración para el nombre de la startup, la startup se lanzó con un LLM de 100 mil millones de parámetros.
Luego, en octubre, Moonshot lanzó su primer chatbot en China. A quienque afirma ser capaz de soportar el procesamiento de 200.000 caracteres chinos en una sola conversación, supuestamente ocho veces la longitud de lo que puede lograr el GPT-4-32K de OpenAI.
Hemos contactado Yang Zhilinel investigador y académico de IA que fundó Moonshot con Zhou Xinyu y Wu Yuxin, por sus comentarios y actualizará esta publicación cuando responda.
Mientras tanto, los informes dicen que la financiación proviene de una lista de inversores de renombre que incluye una serie de socios estratégicos potencialmente interesantes. Colideran la ronda el gigante del comercio electrónico Alibaba y HongShan, la firma de capital de riesgo antes conocida como Sequoia China, según Poste matutino del sur de China. Otros en la ronda incluyeron la “súper aplicación” china Meituan y Xiaohongshu (a veces llamada la respuesta de China a Instagram), según el blog de tecnología chino LatePost.
Moonshot recaudó previamente 200 millones de dólares de HongShan y Zhen Fund en una ronda que lo valoró en 300 millones de dólares, según Datos del libro de propuestas.
HongShan, contactado para hacer comentarios, se negó a comentar sobre los informes. Alibaba no ha respondido a una solicitud de comentarios. También contactamos por separado a Moonshot.
De ser exacta, la participación de HongShan aquí sería notable. Sequoia Capital anunciada formalmente el año pasado que dividiría sus operaciones asiáticas en India y China en medio de crecientes tensiones geopolíticas. Ese proceso finalmente deberá completarse el 24 de marzo.
Pero mientras tanto, la operación en China ha estar bajo escrutinio del gobierno de EE.UU. por sus acuerdos de IA en EE.UU.; y la firma estadounidense es siendo igualmente investigados para la actividad en curso en China. Teniendo en cuenta todo esto, no sorprende que el otrora inversionista de alto perfil esté pasando desapercibido aquí.
Significativamente, el resto de la lista de inversores que se ha informado es un verdadero quién es quién de los nombres tecnológicos conocidos. Esto subraya la actual retirada –o al menos una pausa– entre los inversores financieros hacia prometedoras nuevas empresas chinas, especialmente aquellas de Occidente que hacen negocios en dólares estadounidenses.
Pero también señala cómo (tal como hemos visto en los EE. UU., con empresas como Microsoft, Google y Amazon invirtiendo miles de millones de dólares en nuevas empresas de LLM como OpenAI y Anthropic) las grandes empresas tecnológicas en China están luchando por lo que podría ser su gran juego de IA en los meses y años venideros. Tener un punto de apoyo financiero en un puñado de aspirantes prometedores es una forma de acortar o aumentar lo que sea que estén tratando de construir internamente.
OpenAI lleva la batuta en este momento en EE.UU. y posiblemente en todos los demás lugares donde se ha expandido, pero en China no hay un líder ungido, por lo que gran parte de la actividad inversora parece que se trata de apuestas diversificadas.
Alibaba, con ese fin, también es un inversor en Baichuan. fundado por Xiaochuan Wangun pionero en el espacio de los motores de búsqueda, que recaudó 350 millones de dólares a finales del año pasado, superando una valoración de mil millones de dólares en el proceso, además de AI Zhipuotro advenedizo de LLM, y 01.AIla empresa LLM fundada por Kai-Fu Lee.
Mientras tanto, Tencent, el archirrival de Alibaba, ha respaldado a Baichuan, Zhipu, MiniMax y Años luz más allá. No se equivoquen: los gigantes de Internet de China han reemplazado a los capitalistas de riesgo de dinero occidental para respaldar a los contendientes de LLM del país.
De todos modos, si mil millones de dólares parece una enorme cantidad de dinero para entregárselo a una startup que tiene menos de un año de existencia, una de las razones por las que los grandes nombres podrían estar dispuestos a hacer grandes apuestas es por su pedigrí.
Fan de Pink Floyd se convirtió en pionero de la IA
Yang Zhilin tenía una larga lista de logros en su haber incluso antes de comenzar Moonshot.
Tiene un doctorado en informática de la Universidad Carnegie Mellon, donde fue asesorado por Ruslan Salakhutdinov, quien anteriormente dirigió la investigación de IA en Apple después de que el fabricante del iPhone adquiriera silenciosamente una startup que fundó llamada Perceptual Machines, una adquisición que parece nunca haber sido reportada pero que se menciona en el perfil de LinkedIn del profesor y cronograma profesional.
Antes de eso, estudió en la Universidad de Tsinghua, asesorado por Jie Tang. También trabajó en Google Brain y Meta AI.
Yang también tiene otra startup de IA en proceso. AI recurrente, que parece centrarse específicamente en tecnologías creadas para ayudar a los vendedores a realizar mejor su trabajo (con características que no suenan diferentes a, por ejemplo, Gong.AI). A partir de 2021, Recurrent había recaudado unos 60 millones de dólares según Libro de tono. Y aunque no ha habido mucha actividad de capital desde entonces, el negocio parece seguir operativo.
Lo más importante para Moonshot es que Yang también fue un autor clave de Transformer-XL, un desarrollo clave en la arquitectura LLM para permitir Comprensión del lenguaje natural más allá de un contexto de longitud fija.algo que ha jugado un papel importante en el desarrollo de la plataforma de Moonshot y, posiblemente, en su misión más amplia.
El enfoque de Moonshot en entradas y salidas más largas y en producir resultados más precisos para las consultas que involucran esto sienta las bases para que la compañía se dirija a casos de uso basados en texto que no han sido ampliamente aprovechados por los LLM existentes y las aplicaciones de IA generativa, como documentos legales y ficción. redacción y análisis financiero más profundo. Kimi Chat está capacitado con información hasta enero de 2024, dice el chatbot.
No es el único actor chino que trabaja para eliminar los límites del contexto largo. Baichuan anunció en octubre su modelo Baichuan2-192K, que se dice que procesar alrededor de 350.000 caracteres chinos en una ventana de contexto.
El mercado de recaudación de fondos sigue limitado a nivel mundial, pero esta ronda habla de la voluntad de aquellos con mucho dinero de participar cuando se presenten las oportunidades adecuadas. Sin embargo, incluso con el frenesí mundial más amplio de la IA, donde algunos $200 mil millones se invertirá hasta 2025, pronostica Goldman Sachs – la financiación del panorama en China es sorprendentemente tibio.
En 2023, China registró alrededor de 232 inversiones en el espacio de la IA, una disminución interanual del 38%, según la firma de investigación CBInsight. La cantidad total recaudada por las empresas de IA de China ascendió a aproximadamente 2 mil millones de dólares, un 70% menos que el año anterior.
