[ad_1]
Desde chatbots hasta codificación de copilotos, agentes de IA, IA generativa-Las aplicaciones con potencia están viendo una mayor tracción entre las empresas. Sin embargo, a medida que se convierten en la corriente principal, sus deficiencias se están volviendo más claras y problemáticas. Respuestas incompletas, ofensivas o tremendamente inexactas (también conocidas como alucinaciones), Vulnerabilidades de seguridady respuestas decepcionantemente genéricas pueden ser obstáculos para desplegar IA, y por una buena razón.
De la misma manera que las plataformas y aplicaciones basadas en la nube dieron a luz nuevas herramientas diseñadas para evaluar, depurar y monitorear esos servicios, la proliferación de IA requiere su propio conjunto de herramientas de observabilidad dedicadas. Las aplicaciones con AI se están volviendo demasiado importantes para tratar como casos de prueba interesantes pero poco confiables: deben administrarse con el mismo rigor que cualquier otra aplicación crítica del negocio. En otras palabras, la IA necesita observabilidad.
¿Qué es la observabilidad de IA?
La observabilidad se refiere a las tecnologías y prácticas comerciales utilizadas para comprender el estado completo de un sistema técnico, plataforma o aplicación. Para aplicaciones con AI específicamente, la observabilidad significa comprender todos los aspectos del sistema, de extremo a extremo. La observabilidad ayuda a las empresas a evaluar y monitorear la calidad de las entradas, los resultados y los resultados intermedios de las aplicaciones basadas en modelos de idiomas grandes (LLMS), y puede ayudar a marcar y diagnosticar alucinaciones, sesgos y toxicidad, así como problemas de rendimiento y costos.
[ad_2]
Enlace fuente
