Uno de los aspectos intrigantes del fenómeno de la IA generativa es la amplia gama de proveedores que ofrecen soluciones para aprovechar la nueva tecnología. Las empresas ansiosas por implementar GenAI se enfrentan a un panorama complejo lleno de proveedores de modelos básicos, empresas de plataformas de IA, proveedores de gestión de datos y proveedores de herramientas de personalización de modelos.
Sorprendentemente, las grandes empresas de computación en nube –que han dominado el panorama de TI durante la última década– no han desempeñado un papel tan central como muchos esperaban inicialmente. Al menos no todavía.
Pero hay señales de que la situación podría estar cambiando. Google celebró recientemente su evento Cloud Next donde presentó una amplia gama de novedades. Integraciones de IA para Google Workspaceuna herramienta GenAI para creación y edición de videos, y otras mejoras con la ayuda de su modelo de lenguaje grande Gemini Pro 1.5.
Ahora es Amazon AWS quien presenta una serie de nuevas características y mejoras para su Bedrock GenAI servicio administrado, que están diseñados para facilitar mucho el proceso de selección e implementación de las herramientas adecuadas para las aplicaciones GenAI. Amazon está agregando la capacidad de importar modelos básicos personalizados al servicio y luego permitir que las empresas aprovechen las capacidades de Bedrock en esos modelos personalizados.
Por ejemplo, las empresas que han entrenado un modelo de código abierto como Llama o Mistral con sus propios datos, posiblemente utilizando SageMaker de Amazon, ahora pueden integrar ese modelo personalizado junto con los modelos estandarizados existentes dentro de Bedrock. Esta integración permite el uso de una única API para crear aplicaciones que utilizan opciones de modelos Bedrock existentes y personalizadas, incluidas las de AI21 Labs, Anthropic, Cohere, Meta, Stability AI y los modelos Titan de Amazon.
Amazon también presentó la versión 2 de su modelo Titan Text Embeddings, que ha sido específicamente optimizado para RAG (Retrieval Augmented Generation) y anunció la disponibilidad general de su modelo Titan Image Generator.
La capacidad de importar modelos personalizados a Bedrock respalda la integración de las funcionalidades RAG, lo que facilita el ajuste continuo de los modelos con nuevos datos. La infraestructura sin servidor de Bedrock también admite un rendimiento escalable en instancias de AWS, lo que ayuda a gestionar las demandas en tiempo real. Además, Bedrock incluye herramientas para desarrollar agentes impulsados por IA capaces de realizar tareas de varios pasos. Los agentes son actualmente uno de los temas de discusión más candentes en GenAI, por lo que este tipo de capacidades seguramente serán de interés para aquellas organizaciones que quieran mantenerse a la vanguardia.
Además, Amazon ha introducido nuevos Guardrails para Bedrock, que agregan funciones de filtrado mejoradas para evitar la creación y difusión de contenido inapropiado e información confidencial. Si bien los modelos existentes ya incorporan filtrado de contenido básico, estos nuevos Guardrails ofrecen una capa adicional de protección personalizable.
La herramienta de evaluación de modelos de Amazon dentro de Bedrock, ahora disponible de forma generalizada, ayuda a las organizaciones a seleccionar el modelo de base más adecuado para sus necesidades específicas. Esta herramienta compara varios modelos en función de su precisión y solidez y permite la personalización para evaluar el rendimiento de los diferentes modelos con datos e indicaciones específicos del usuario.
A medida que las organizaciones navegan por las primeras etapas de las implementaciones de GenAI, muchas se están dando cuenta de la importancia de ubicar su software y servicios GenAI cerca de sus fuentes de datos. Con una cantidad significativa de datos alojados en AWS, las nuevas funciones de Bedrock podrían resultar particularmente atractivas para las empresas que buscan mejorar sus capacidades GenAI.
También podemos ser testigos del surgimiento de implementaciones de GenAI multiplataforma. Así como las empresas han encontrado beneficios al utilizar múltiples proveedores de nube, es probable que adopten una estrategia similar con las plataformas GenAI, utilizando diferentes plataformas para diversas aplicaciones.
La carrera aún continúa, pero está claro que todos los principales proveedores de computación en la nube también quieren (y serán) participantes importantes en el panorama GenAI.
Bob O’Donnell es el fundador y analista jefe de Investigación tecnológica, LLC una firma de consultoría tecnológica que brinda servicios de consultoría estratégica e investigación de mercado a la industria tecnológica y la comunidad financiera profesional. Puedes seguirlo en Twitter. @bobodtech