Cuando computación en la nube se volvió listo para la empresa, y herramientas como integración continua y entrega continua, infraestructura como códigoy Kubernetes se volvió popular, marcó un claro cambio de paradigma en desarrollo y operaciones. El trabajo que separaba desarrollo y operaciones se convirtió devops Las responsabilidades y los equipos colaborativos pasaron del trabajo manual de configuración de infraestructura, escalamiento de entornos informáticos e implementación de aplicaciones a una automatización más avanzada y flujos de trabajo orquestados.
Los expertos creen que IA generativa capacidades, copilotos y modelos de lenguaje grandes (LLM) están marcando el comienzo de una nueva era en la forma en que los desarrolladores, científicos de datos e ingenieros trabajarán e innovarán. Esperan que la IA mejore la productividad, la calidad y la innovación, pero devsecops Los equipos deben comprender y gestionar un nuevo conjunto de datos, seguridad y otros riesgos operativos. Más importante aún, los CIO y los equipos de desarrollo, seguridad de la información y ciencia de datos desempeñarán papeles importantes a la hora de habilitar y proteger la organización utilizando capacidades de IA generativa.
Los líderes de TI deben impulsar un cambio de responsabilidad en la IA
Los CIO y los líderes de TI deben preparar a sus equipos y empleados para este cambio de paradigma y cómo La IA generativa impacta las prioridades de transformación digital. Nicole Helmer, vicepresidenta de desarrollo y aprendizaje del éxito del cliente en SAVIA, afirma que la formación debe ser una prioridad. «Las empresas deberían priorizar la capacitación de los desarrolladores, y el factor crítico para aumentar la adaptabilidad es crear un espacio para que los desarrolladores aprendan, exploren y adquieran experiencia práctica con estas nuevas tecnologías de IA», afirma.
El cambio puede ser profundo y táctico a medida que se produce una mayor automatización de TI, lo que permite que TI pase a asumir más responsabilidades de innovación, arquitectura y seguridad.
«A la luz de la IA generativa, los equipos de desarrollo deberían despriorizar las habilidades básicas de scripting para el aprovisionamiento y configuración de la infraestructura, las configuraciones de monitoreo de bajo nivel y el seguimiento de métricas, y la automatización de pruebas», dice el Dr. Harrick Vin, director de tecnología de TCS. «En cambio, deberían centrarse más en el análisis de los requisitos del producto, la definición de criterios de aceptación, el software y el diseño arquitectónico, todo lo cual requiere pensamiento crítico, diseño, establecimiento de objetivos estratégicos y habilidades creativas para la resolución de problemas».
Aquí hay cuatro devsecops, ciencia de datos y otras habilidades de TI para desarrollar en esta era de IA generativa.
1. Solicitar IA, pero investigar y validar la respuesta
Las indicaciones son fundamentales cuando se trabaja con herramientas de IA generativa, incluidos ChatGPT, copilotos y otras LLM. Pero la habilidad más importante es evaluar resultados, reconocer alucinacionesy validar de forma independiente las recomendaciones de la IA generativa.
«Los desarrolladores, evaluadores y analistas de negocios deben aprender a escribir indicaciones [and learn] dónde la IA generativa funciona bien y dónde falla”, dice David Brooks, vicepresidente senior y evangelista principal de Copado. «Adopte una mentalidad de ‘confiar pero verificar’ en la que realmente lea todo el contenido generado para determinar si tiene sentido».
Cody De Arkland, director de relaciones con desarrolladores de LanzarDarkly, dice que las habilidades de motivación y validación deben aplicarse a los experimentos con LLM. “Si se usa correctamente, los desarrolladores pueden aprovechar un LLM para mejorar la experimentación de sus productos generando rápidamente nuevas variaciones de experimentos, especialmente cuando el mensaje se enmarca en torno a su hipótesis y con la audiencia adecuada en mente. Aprender a detectar las lagunas en las respuestas que dan y cómo tomar el 90% que te brinda y cerrar la brecha en el 10% final te convertirá en un practicante de Devops mucho más eficaz”.
Mi recomendación a los ingenieros de devsecops es cambiar los enfoques de resolución de problemas. Antes de los LLM, los ingenieros investigaban, validaban, implementaban y probaban soluciones. Hoy en día, los ingenieros deberían insertar indicaciones al inicio del proceso pero no perder los pasos restantes al experimentar.
2. Mejorar los LLM con ingeniería de datos
Cuando le pregunté a Akshay Bhushan, socio de Tola Capitalpara elegir un conjunto importante de habilidades de IA generativa, respondió: «La ingeniería de datos se está convirtiendo en la habilidad más importante porque necesitamos personas para construir canales para alimentar datos al modelo».
Antes de los LLM, muchas organizaciones se centraban en construir sólidos canalizaciones de datosmejorando calidad de los datoshabilitando ciencia de datos ciudadanos capacidades y estableciendo gobernanza de datos proactiva sobre datos estructurados. Los LLM requieren una gama ampliada de datos no estructurados, incluidos textos, documentos y multimedia para capacitar y habilitar un contexto más amplio. Las organizaciones necesitarán científicos de datos y especialistas en gobernanza de datos para aprender nuevas herramientas que respalden las canalizaciones de datos no estructurados y desarrollen Incorporaciones de LLMy habrá oportunidades para que los ingenieros de devsecops integren aplicaciones y automaticen la infraestructura subyacente.
«Los modelos de IA generativa dependen en gran medida de los datos para el entrenamiento y la evaluación, por lo que las habilidades de orquestación de la canalización de datos son esenciales para limpiar, preprocesar y transformar los datos en un formato adecuado para el aprendizaje automático», afirma Rohit Choudhary, cofundador y director ejecutivo de Accedido. «Las habilidades de visualización también son importantes para comprender la distribución de datos, identificar patrones y analizar el rendimiento del modelo».
Todos los tecnólogos tendrán oportunidades de aprender nuevas habilidades de ingeniería de datos y aplicarlas a las crecientes necesidades comerciales.
3. Conozca la pila de IA, desde copilotos hasta modelos
Los proveedores de plataformas tecnológicas están introduciendo capacidades de IA generativa en IDE, plataformas de gestión de servicios de TI y otras herramientas de desarrollo ágil. Los copilotos que generan código basado en las indicaciones de los desarrolladores son oportunidades prometedoras para los desarrolladores, pero requieren evaluar los resultados en cuanto a integración, rendimiento, seguridad y consideraciones legales.
«La IA ha marcado el comienzo de una era completamente nueva de eficiencia, pero herramientas como Copilot producen cantidades masivas de código que no siempre son precisos», dijo prion Fundador y director ejecutivo Igor Jablokov. «Tanto la industria de la pila de desarrollo como la de la ciberseguridad tendrán que ponerse al día en la detección del código generativo para garantizar que no se introduzcan problemas de derechos de autor ni defectos en la empresa».
Las organizaciones con propiedad intelectual importante pueden crear incrustaciones y desarrollar LLM privatizados para solicitar y utilizar consultas en lenguaje natural sobre estos datos. Los ejemplos incluyen la búsqueda de información financiera, el desarrollo de LLM sobre datos de pacientes de atención médica o el establecimiento de nuevas herramientas de aprendizaje educativo. Los desarrolladores y científicos de datos que quieran contribuir al desarrollo de LLM tienen varias tecnologías nuevas que aprender.
«El ingeniero de desarrollo moderno necesita aprender las bases de datos vectoriales y la pila de código abierto, como Hugging Face, Llama y LangChain», dice Nikolaos Vasiloglou, vicepresidente de investigación de aprendizaje automático en IA relacional. “Si bien es popular utilizar modelos de lenguaje gigantes con 100 mil millones de parámetros, hay evidencia suficiente de que el juego podría cambiar con ajustes finos y componiendo cientos de modelos más pequeños. Gestionar el ciclo de vida de estos modelos es otra tarea que no es baladí”.
Por último, aunque es importante desarrollar pruebas de concepto y experimentar, el objetivo debe ser ofrecer capacidades de IA generativa listas para producción, monitorear sus resultados y mejorarlos continuamente. Las disciplinas de MLops y modelos se extienden desde el aprendizaje automático hasta la IA generativa y son necesarios para respaldar el desarrollo completo y los ciclos de vida de soporte.
Kjell Carlsson, jefe de estrategia y evangelización de ciencia de datos en dominódice: «La capacidad de poner en funcionamiento modelos de IA generativa y sus procesos se está convirtiendo rápidamente en la habilidad más valiosa en IA, ya que es la barrera más grande para impulsar el impacto con la IA generativa».
4. Seguridad y automatización de pruebas con mayúsculas hacia la izquierda
Todos los expertos afirman que investigar, validar y probar las respuestas de una IA generativa son disciplinas críticas, pero muchas organizaciones de TI carecen del personal, las habilidades y las herramientas de seguridad y automatización de pruebas de control de calidad para enfrentar los crecientes desafíos. Los desarrolladores, ingenieros de operaciones y científicos de datos deben invertir en estas habilidades de seguridad y automatización de pruebas para ayudar a llenar estos vacíos.
«Con la IA, podemos cambiar la seguridad, el control de calidad y la observabilidad que quedan en el ciclo de vida del desarrollo, detectar problemas antes, entregar código de mayor calidad y brindar a los desarrolladores comentarios rápidos», afirma Marko Anastasov, cofundador de Semáforo CI/CD. «Las habilidades heredadas, como las pruebas manuales y la seguridad aislada, pueden volverse menos importantes a medida que la IA y la automatización se hagan cargo de una mayor parte de ese trabajo».
TI debe instituir pruebas continuas y disciplinas de seguridad dondequiera que inserten capacidades de IA generativa en sus flujos de trabajo, aprovechen el código generado por IA o experimenten con el desarrollo de LLM.
«Los equipos de Devops deben priorizar las habilidades que cierran la brecha entre la IA generativa y los Devops, como dominar la detección de amenazas impulsada por la IA, garantizar la seguridad de los canales automatizados de CI/CD y comprender la corrección de errores basada en la IA», dice Stephen Magill, vicepresidente de innovación de productos en sonatipo. «También es crucial invertir en áreas que son los mayores puntos débiles para los equipos, como la falta de conocimiento sobre cómo se creó el código o la expansión del código debido a la producción excesiva de código, mientras que se puede poner menos énfasis en las tareas manuales y reactivas».
Sin embargo, centrarse en la seguridad y las pruebas sobre cómo TI utiliza la IA generativa es insuficiente, ya que muchos otros departamentos y empleados ya están experimentando con ChatGPT y otras herramientas de IA generativa.
David Haber, director ejecutivo y cofundador de al lago, dice que los equipos de desarrollo deben comprender la seguridad de la IA. “Desarrollar habilidades para mitigar vulnerabilidades comunes, como inyecciones rápidas o envenenamiento de datos de entrenamiento, y realizar ejercicios de formación de equipos rojos orientados a LLM. Los equipos de Devops deben implementar mecanismos de monitoreo continuo y respuesta a incidentes para detectar rápidamente amenazas emergentes y responder antes de que se conviertan en un problema para toda la empresa”.
¿La IA generativa cambiará el mundo o los riesgos y las regulaciones ralentizarán el ritmo de la innovación? Cada avance tecnológico importante conlleva nuevas oportunidades, desafíos y riesgos técnicos. Aprender las herramientas y aplicar enfoques basados en pruebas son prácticas clave para que los tecnólogos se adapten a la IA generativa, y existen crecientes responsabilidades de seguridad que abordar a medida que los departamentos buscan poner en funcionamiento las capacidades habilitadas por la IA.
Copyright © 2024 IDG Communications, Inc.
