IA generativa ha tenido un impacto inmediato y enorme en el desarrollo de software. Los desarrolladores de software han adoptado herramientas de IA generativa que ayuda con la codificacióny están trabajando febrilmente para construir aplicaciones de IA generativa ellos mismos. Las bases de datos pueden ayudar, especialmente las bases de datos rápidas, escalables y multimodelo como SingleStore.
en la inauguración Tienda única ahora En la conferencia, SingleStore anunció varias innovaciones centradas en la inteligencia artificial pensando en los desarrolladores. Estos incluyen SingleStore Scope, Aura, Notebooks y Elegance SDK. Dado el impacto que la IA y los LLM están teniendo en los desarrolladores, tiene sentido profundizar en las formas en que estas innovaciones facilitan el desarrollo de aplicaciones de IA.
Alcance de tienda única
Si ha estado trabajando con IA o LLM de alguna manera, lo sabe bases de datos vectoriales se han vuelto mucho más populares debido a su capacidad para ayudarlo a buscar las n representaciones más cercanas de los datos con los que está trabajando. Luego puede utilizar esos resultados de búsqueda para proporcionar contexto adicional a su LLM para que las respuestas sean más precisas. SingleStoreDB ha admitido funciones vectoriales y búsqueda vectorial desde hace varios años, pero las aplicaciones de IA generativa requieren que usted busque entre millones o miles de millones de incrustaciones de vectores en milisegundos, lo que resulta difícil al utilizar k-Vecino más cercano (kNN) en enormes conjuntos de datos.
Scope agrega la búsqueda de vecino más cercano aproximado (ANN) como una opción adicional a la búsqueda de k-vecino más cercano (kNN) ya existente. La principal diferencia entre ANN y kNN está en el nombre: aproximado versus más cercano. Las pruebas iniciales muestran que las ANN son órdenes de magnitud más rápidas para la búsqueda de vectores, lo que lleva los casos de uso de IA de rápido a tiempo real. La búsqueda vectorial en tiempo real garantiza que sus aplicaciones respondan instantáneamente a las consultas, incluso cuando los datos acaban de escribirse en la base de datos.
Scope utiliza una serie de técnicas para hacer que sus funciones de búsqueda sean más eficaces, a saber, archivos invertidos (IVF) con cuantificación del producto (PQ). Con IVF con PQ, puede reducir los tiempos de creación de su índice mientras mejora las relaciones de compresión y la huella de memoria de sus búsquedas de vectores. Más allá de la FIV con PQ, Scope agrega el enfoque de mundo pequeño navegable jerárquico (HNSW) para permitir búsquedas de índices vectoriales de alto rendimiento utilizando alta dimensionalidad.
Con Scope, puede combinar todos estos nuevos enfoques de indexación, junto con la búsqueda de texto completo, para combinar la búsqueda semántica híbrida (similitud de vectores) y léxica/palabra clave en una sola consulta.
A continuación puede ver un ejemplo del uso de la búsqueda híbrida. Para ver el código en su contexto más amplio, consulte el cuaderno completo en Espacios de tienda única.
hyb_query = 'Articles about Aussie captures' hyb_embedding = model.encode(hyb_query) # Create the SQL statement. hyb_statement = sa.text(''' SELECT title, description, genre, DOT_PRODUCT(embedding, :embedding) AS semantic_score, MATCH(title, description) AGAINST (:query) AS keyword_score, (semantic_score + keyword_score) / 2 AS combined_score FROM news.news_articles ORDER BY combined_score DESC LIMIT 10 ''') # Execute the SQL statement. hyb_results = pd.DataFrame(conn.execute(hyb_statement, dict(embedding=hyb_embedding, query=hyb_query))) hyb_results
La consulta anterior encuentra las puntuaciones promedio de las búsquedas semánticas y de palabras clave, las combina y clasifica los artículos de noticias según esta puntuación calculada. Al eliminar la complejidad adicional de realizar búsquedas léxicas/de palabras clave y semánticas por separado, la búsqueda híbrida simplifica el código de su aplicación.
La implementación de SingleStore de estas nuevas estrategias de indexación también nos permite incorporar rápidamente nuevas estrategias a medida que estén disponibles, lo que garantiza que su aplicación siempre tendrá el mejor rendimiento cuando esté respaldada por SingleStoreDB.
Aura de tienda única
Cuando trabaja con conjuntos de datos extremadamente grandes, una de las mejores cosas que puede hacer para mantener bajo control el rendimiento y los costos es realizar el trabajo informático lo más cerca posible de los datos. SingleStore Aura le permite implementar recursos informáticos (CPU y GPU) para IA, aprendizaje automáticoo ETL (extraer, transformar, cargar) cargas de trabajo junto con sus datos. Con Aura, los clientes de SingleStore pueden utilizar estos nuevos recursos informáticos para ejecutar sus propios modelos de aprendizaje automático u otro software de una manera que les permita tener el contexto completo de sus datos empresariales, sin preocuparse por el rendimiento y el costo de salida.
Al acoplar Aura con Aura Job Service (vista previa privada), puede programar SQL y Pitón trabajos desde SingleStore Notebooks para procesar sus datos, entrenar o ajustar un modelo de aprendizaje automático, o realizar otras tareas complejas transformación de datos trabajar. Si su empresa actualiza con frecuencia el ajuste de su modelo de IA o LLM, ahora puede hacerlo de manera programada, utilizando plataformas informáticas optimizadas que se encuentran junto a sus datos.
Cuadernos de una sola tienda
Muchos ingenieros y científicos de datos se sienten cómodos trabajando con Cuadernos JupyterDocumentos alojados, interactivos y compartibles en los que puede escribir y ejecutar bloques de código, intercalados con documentación y visualizar datos. Lo que a menudo falta en un entorno Jupyter son conexiones nativas a sus bases de datos y funcionalidad SQL.
Con el anuncio de la disponibilidad general de SingleStore Notebooks, SingleStore le facilita explorar, visualizar y colaborar con sus datos y pares en tiempo real. Comenzar a utilizar SingleStore Notebooks es extremadamente sencillo:
- Comienza tu Prueba gratuita en la nube de SingleStoreDB
- Completa el proceso de incorporación
- Implementar un espacio de trabajo
En el panel de navegación de la izquierda, verá Cuadernos. Haga clic en el signo más junto a Notebooks y complete los detalles. Si tiene la intención de compartir este cuaderno con sus colegas, asegúrese de elegir Compartido en Ubicación. Establezca el idioma de celda predeterminado en el idioma que utilizará principalmente en el cuaderno y luego haga clic en crear.
Nota: También puedes elegir una de las plantillas o seleccionarla de la galería, si quieres ver cómo se ve un Notebook.
Para ver un ejemplo útil, importé un cuaderno de la galería llamado «Introducción a los marcos de datos en SingleStoreDB». Este cuaderno le guiará a través del proceso de uso pandas
DataFrames para aprovechar mejor la naturaleza distribuida de SingleStoreDB.
Cuando selecciona el Espacio de trabajo y la Base de datos en la parte superior del cuaderno, se actualizará el connection_url
variable para que pueda conectarse y trabajar con sus datos rápida y fácilmente.
En este cuaderno, usamos un comando simple, conn = ibis.singlestoredb.connect()
, para crear una conexión a la base de datos. Ya no tendrá que preocuparse por armar la cadena de conexión, eliminando una cosa más del complejo proceso de crear un prototipo de algo utilizando sus datos.
En Notebooks, simplemente selecciona el botón Reproducir al lado de cada celda para ejecutar ese bloque de código. En la captura de pantalla anterior, estamos importando paquetes. ibis
y pandas
.
SingleStore Notebooks es una plataforma extremadamente poderosa que le permitirá crear prototipos de aplicaciones, realizar análisis de datos y repetir rápidamente tareas que pueda necesitar realizar utilizando los datos que se encuentran dentro de SingleStoreDB. Esta creación rápida de prototipos es una forma extremadamente efectiva de ver cómo podría implementar IA, LLM u otros métodos de big data en su negocio.
Asegúrate de revisar Espacios de tienda única para ver una gran muestra de Notebooks que muestran cualquier cosa, desde la coincidencia de imágenes hasta la creación de aplicaciones LLM que utilizan generación de recuperación aumentada (RAG) sobre sus propios datos.
Elegancia de una sola tienda
SingleStore Elegance es un paquete NPM diseñado para ayudar a los desarrolladores de React a crear rápidamente aplicaciones sobre SingleStoreDB utilizando Tienda única Kai o conexiones MySQL a la base de datos. Con el lanzamiento de Elegance, nunca ha habido un mejor momento para desarrollar una aplicación de IA respaldada por SingleStoreDB.
Elegance ofrece un potente SDK que cubre una serie de funciones:
- Búsqueda de vectores
- Finalizaciones de chat
- Incrustación de archivos y generación desde CSV o PDF
- Consultas SQL y agregadas
- Soporte de conexión de bases de datos SQL y Kai
- Controladores Node.js listos para usar y ganchos React
Empezando con un aplicación de demostración Es tan sencillo como seguir unos sencillos pasos:
- Clon este repositorio:
git clone https://github.com/singlestore-labs/elegance-sdk-app-books-chat.git
- Regístrese en SingleStoreDB.
- Crea una base de datos: books_chat_mysql.
- Cree un archivo .env actualizado basado en el archivo .env.sample del repositorio.
- Instale las dependencias:
npm i
- Inicie la aplicación:
sh ./scripts/start.sh
- Abra su navegador web: http://localhost:3000.
Si prefieres empezar desde cero y crear algo por tu cuenta, puedes empezar con un sencillo npm install @singlestore/elegance-sdk
y siga los pasos de nuestra página de paquetes en npmjs.com.
En tiempo real, ahora mismo
El panorama empresarial está cambiando rápidamente con la incorporación de la IA y los LLM, lo que hace que casi todos evalúen si deberían o no implementar alguna forma de IA. Muchas empresas ya están organizando pruebas de concepto. Estos lanzamientos muestran que SingleStore está 100 % enfocado en crear una base de datos de inteligencia artificial y análisis en tiempo real que le brinde las herramientas que necesita para crear sus aplicaciones de manera rápida y eficiente, logrando que sus proyectos de inteligencia artificial y maestría en maestría lleguen al mercado más rápido.
Esto resume las innovaciones en inteligencia artificial que surgieron de SingleStore Now. En caso de que no hayas podido asistir personalmente al evento, puedes ver todas las sesiones Bajo demanda.
Wes Kennedy es un evangelista principal en Tienda única, donde crea contenido, entornos de demostración y videos, y profundiza en formas en las que podemos encontrarnos con los clientes dondequiera que estén. Tiene una experiencia diversa en tecnología que abarca desde ingeniero de virtualización, ingeniero de ventas hasta marketing técnico.
—
Generative AI Insights proporciona un lugar para que los líderes tecnológicos, incluidos proveedores y otros contribuyentes externos, exploren y discutan los desafíos y oportunidades de la inteligencia artificial generativa. La selección es amplia, desde análisis profundos de tecnología hasta estudios de casos y opiniones de expertos, pero también subjetiva, basada en nuestro juicio sobre qué temas y tratamientos servirán mejor a la audiencia técnicamente sofisticada de InfoWorld. InfoWorld no acepta garantías de marketing para su publicación y se reserva el derecho de editar todo el contenido aportado. Contacto doug_dineley@foundryco.com.
Copyright © 2024 IDG Communications, Inc.