Un número cada vez mayor de empleadores está experimentando los numerosos beneficios de la inteligencia artificial en sus prácticas de recursos humanos, desde la personalización de candidatos, experiencias de conversación, algoritmos de emparejamiento y puntuación e información generada por IA.
Con el surgimiento de IA generativa, los productos de tecnología de recursos humanos están comenzando a crear casos de uso para optimizar la comunicación entre reclutadores, gerentes, candidatos y empleados, así como crear asistentes para impulsar la productividad de recursos humanos. Estas tecnologías también están ayudando a los equipos de recursos humanos a crear mejores estrategias de crecimiento y retención de empleados y ayudándolos a transformarse en una organización basada en habilidades.
Si bien toda esta innovación está en marcha, la coherencia y la inclusión en las descripciones de puestos siguen siendo un desafío y a menudo se pasan por alto.
La IA generativa puede ayudar a garantizar que las ofertas de trabajo cumplan constantemente con el nivel de criterios necesarios para una función específica, incluidas las habilidades y competencias necesarias, junto con el uso de un lenguaje inclusivo y la reducción de prejuicios. Esto es especialmente útil ya que el mercado laboral sigue siendo fuerte y las empresas seguir necesitando trabajadores.
Elaborada cuidadosamente con las consideraciones contextuales apropiadas, la IA generativa tiene la capacidad de generar de manera responsable descripciones de trabajo adaptables e inclusivas a gran escala. Produce publicaciones altamente personalizadas que preservan el tono y la marca de la organización, y lo logran en una fracción del tiempo que le tomaría a un humano.
Delegar esta tarea a la IA generativa permite a RR.HH. concentrarse en el contenido que da forma a la cultura y la experiencia de la marca, áreas donde la tecnología no logra comprender los elementos humanos matizados.
Los LLM necesitan el contexto adecuado
Comercial grandes modelos de lenguaje (LLM) utilizados para la IA generativa son esencialmente una aproximación del amplio conocimiento disponible sobre la elaboración de descripciones de puestos. Mientras estándares industriales existentes generalmente tienen descripciones bien redactadas, pueden carecer del contexto específico de la organización o equipo, lo que las hace parecer impersonales o genéricas para los candidatos. Además, si se pide a estos modelos que generen una descripción del puesto utilizando títulos de género (como “bombero”), es probable que el resultado no sea neutral, lo que resalta la necesidad de considerar cuidadosamente el lenguaje para la inclusión.
Los modelos de IA generativa requieren indicaciones precisas para dar forma a la redacción de descripciones de puestos y especificar qué palabras y frases evitar. En lugar de emplear un título de trabajo como “meteorólogo”, el programa debería orientarse a utilizar el término más inclusivo “meteorólogo”, acompañado de un tono ilustrativo y ejemplos bien elaborados. Y hacer esto a escala en toda la organización puede no ser fácil.
Puede resultar tentador para los equipos de RR.HH. buscar una oferta de trabajo antigua para un puesto similar para ahorrar tiempo, pero el esfuerzo que se realiza al principio dará sus frutos al final en forma de una descripción del trabajo que despierta el interés de el talento adecuado. Un puesto que aleje a los grandes candidatos podría tener un impacto negativo costoso y duradero en el negocio.
¿Qué define una descripción de trabajo sesgada? Identificar el sesgo no siempre es sencillo para RR.HH.; es una tarea subjetiva. Si bien ciertas correcciones pueden ser aparentes, discernir si el sesgo realmente se elimina o se introduce inadvertidamente puede ser un desafío. Aquí es donde la tecnología resulta invaluable, ya que ayuda a los humanos a lograr el equilibrio adecuado de manera rápida y precisa. Los modelos de IA, que aprenden del desempeño pasado y se adhieren a pautas fundamentales, pueden desempeñar un papel crucial en la generación de descripciones de puestos que se alineen con la equidad y la inclusión.
Los desafíos para los desarrolladores
Durante el primer OpenAI conferencia de desarrolladores A principios de noviembre, la compañía dijo que los modelos turbo GPT-4 tienen una ventana de contexto de 128k, lo que significa que pueden digerir el equivalente a más de 300 páginas de texto en un solo mensaje. Es casi seguro que ChatGPT aprenderá a proporcionar las respuestas correctas desde ese contexto, lo que realmente cambia las reglas del juego. Y ChatGPT también se ha vuelto mucho más barato. Desde esa perspectiva, los desarrolladores piensan: «Está bien, ¿cuál es la mejor manera de agregar valor a mis usuarios?»
Con versiones anteriores de ChatGPT, encontrar casos de uso consistía en idear un escenario para generar contenido y crear una aplicación sobre ChatGPT. Pero ahora uno puede entender el contexto y dejar de lado muchas otras cosas. Ése es un claro indicador de la enorme promesa de la tecnología.
Pero en contra de esa perspectiva optimista, las empresas que utilizan IA generativa deben lidiar con preocupaciones éticas y de privacidad. La gobernanza, el seguimiento y la documentación fundamental son las salvaguardias contra el despliegue de una IA discriminatoria. En el pasado, los desarrolladores podían confiar únicamente en esas salvaguardas para protegerse contra la IA discriminatoria. Sin embargo, el panorama ha evolucionado significativamente y eso requiere que los desarrolladores consideren mucho más en su diseño. Es un juego de pelota completamente nuevo.
Hoy en día hay mucho más escrutinio en torno a varios temas importantes, a saber, enmascarar información de identificación personal, inyectar contexto sin fuga de datos y guardar información del cliente en su propio ecosistema mientras solo se pasan los aspectos inferidos de la solicitud a modelos generativos de IA. Estas son algunas de las complejidades a las que se enfrentan los desarrolladores en este momento.
Por qué la IA generativa necesita barreras de seguridad
Como ocurre con cualquier tecnología nueva o emergente, la industria y gobierno están trabajando para establecer barreras éticas y legales adecuadas en torno a la IA. Para un ingeniero, aprovechar la IA generativa requiere una gran conciencia de los usos éticos y prácticos de los datos.
Protección de Datos. Pasar el currículum de un solicitante de empleo a través de un modelo de lenguaje grande sin el consentimiento del solicitante, o usarlo para escribir una carta de rechazo a un candidato, podría ser problemático si se revela inadvertidamente información de identificación personal a los LLM. La privacidad de los datos es primordial cuando se envían datos personales a una plataforma que técnicamente no está dedicada a una configuración existente.
¿Cómo se enmascara la información? ¿Cómo se rediseñan las indicaciones? ¿Cómo solicita un ingeniero un ejemplo específico sin pasar información de identificación personal y, en el camino de regreso, cómo se sustituyen los datos con los parámetros correctos para mostrárselos al usuario?
Todas estas son preguntas que los desarrolladores deben considerar al escribir aplicaciones sobre IA generativa para casos de uso B2B.
Aprendizaje segmentado. Otro factor crítico que los desarrolladores deben considerar es la segmentación de los datos de los clientes desde una perspectiva de capacitación modelo o aprendizaje automático, porque los matices de cómo se escribe un correo electrónico varían de una organización a otra, e incluso entre diferentes usuarios dentro de una organización, por ejemplo.
El aprendizaje de la IA no se puede combinar y volver genérico. Por lo tanto, es fundamental seguir compartimentando y tener aprendizaje por parte de un cliente, ubicación o espectadores específicos.
Optimización de costes. Tener la capacidad de almacenar en caché y reutilizar los datos es importante, porque la entrada y salida de datos puede resultar costosa para ciertos casos de uso que involucran transacciones de volumen.
Un pequeño documento con un gran impacto
Algunos pueden cuestionar la necesidad de descripciones de trabajo escritas en la fuerza laboral moderna, pero las descripciones de trabajo siguen siendo la forma más efectiva de comunicar las necesidades de talento de un empleador y las habilidades subyacentes para roles específicos.
Cuando se hacen bien, los anuncios de vacantes atraen a candidatos y empleados que están alineados con los valores, la misión y la cultura de una empresa. Un sueldo y una oficina de la esquina ya no son suficientes para llamar la atención de quien busca empleo. Quieren trabajar para empresas con una cultura de primer nivel y valores impecables.
El uso de un lenguaje reflexivo y sensible indica a los candidatos que el empleador tiene un lugar de trabajo inclusivo que considera todo solicitantes. De manera similar, al garantizar que la IA generativa tenga el contexto adecuado y que los datos privados se mantengan privados, los desarrolladores desempeñan un papel importante en una tecnología apasionante y prometedora que es ética, inclusiva y libre de prejuicios.
Kumar Ananthanarayana es vicepresidente de gestión de productos en Fenómenouna empresa global de tecnología de recursos humanos con sede en el área metropolitana de Filadelfia.
—
Generative AI Insights proporciona un lugar para que los líderes tecnológicos, incluidos proveedores y otros contribuyentes externos, exploren y discutan los desafíos y oportunidades de la inteligencia artificial generativa. La selección es amplia, desde análisis profundos de tecnología hasta estudios de casos y opiniones de expertos, pero también subjetiva, basada en nuestro juicio sobre qué temas y tratamientos servirán mejor a la audiencia técnicamente sofisticada de InfoWorld. InfoWorld no acepta garantías de marketing para su publicación y se reserva el derecho de editar todo el contenido aportado. Contacto doug_dineley@foundryco.com.
Copyright © 2024 IDG Communications, Inc.