A cualquiera que alguna vez haya comprado un automóvil le puede resultar difícil sentir simpatía por un concesionario de automóviles, pero debe sentirlo por la gente de un concesionario Chevy que presentó una versión de ChatGPT a potenciales compradores de automóviles. Como se informó en Inc., Yahoo Finance y Conduciendo.caentre otros, el concesionario Chevrolet en Watsonville, CA, creó un chatbot personalizado que rápidamente se descarriló.
Los usuarios pudieron convencer al chatbot de diversas formas para que ofreciera una Chevy Tahoe 2024 (aproximadamente una camioneta de $ 55,000) por un dólar, lograr que recomendara comprar a Ford en lugar de Chevy y escribir quintillas que alababan a la Toyota Tundra (otro competidor de Chevy). ).
También: Aquí se explica cómo crear sus propios chatbots personalizados usando ChatGPT
En una declaración en Conductor.ca atribuido a «Chevrolet» (no sabemos si es la empresa principal o el concesionario que realiza el control de daños), la empresa dijo:
Los recientes avances en IA generativa están creando oportunidades increíbles para repensar los procesos comerciales en GM, nuestras redes de distribuidores y más allá. Ciertamente apreciamos cómo los chatbots pueden ofrecer respuestas que generan interés cuando se les da una variedad de indicaciones, pero también es un buen recordatorio de la importancia de la inteligencia humana y el análisis del contenido generado por IA.
¿Ves lo que quiero decir? Definitivamente alguien tuvo un muy mal día. Pero, para asegurarnos de que usted no tenga un mal día similar, hemos compilado una lista de 20 cosas que debe considerar antes de abrir una IA a sus clientes.
También: Bill Gates predice que pronto se producirá un «boom tecnológico masivo» gracias a la IA
No voy a cubrir las maquinaciones técnicas necesarias para que la IA cumpla con estas pautas, porque diferirán de una implementación a otra. Pero todo lo que sugiero es factible, ya sea a través de API de IA o con herramientas específicas destinadas a crear chatbots personalizados.
Empecemos, ¿de acuerdo?
1. Establezca límites para los tipos de consultas que la IA puede manejar
En comparación con sistemas expertos de la vieja escuelaque fueron entrenados en conjuntos específicos de información, la mayoría Chatbots de IA utilizan capacitación no supervisada, lo que significa que pueden acceder a casi cualquier cosa. No permitas eso. Entrene su IA únicamente con información específica del contexto y luego limite los tipos de respuestas que puede proporcionar.
2. Realizar pruebas exhaustivas en un entorno controlado antes de su lanzamiento al público.
No dejes que tus empleados prueben esto. Trae amigos y pídeles que se vuelvan locos con lo que te pidan. Pruebe, pruebe un poco más y luego vuelva a probar.
3. Evaluar la capacidad de la IA para manejar cuestiones complejas o delicadas.
Asegúrese de examinar cuidadosamente los resultados de las pruebas preliminares y de realizar los cambios que resulten necesarios. Pero no limite sus pruebas a pruebas simples. Asegúrese de superar los límites de la IA y ver cómo responde a los casos extremos. Así es como puedes desarrollar barreras protectoras que impidan que la IA se desvíe hacia territorio peligroso.
4. Planifique implementaciones graduales para gestionar las expectativas y los comentarios de los clientes.
Aún no encontrarás todos los defectos, a pesar de las pruebas. Cuando implementes tu IA, limítala a grupos controlados. Pero tenga cuidado: no lo limite sólo a los clientes obedientes. Encuentra una clase de secundaria y déjalos enloquecer en tu IA, y observa lo que hace. Consiga algunos forasteros curiosos y traviesos y pídales que encuentren defectos. Luego, dirígete a otro grupo pequeño y observa si observas algún comportamiento extraño. Hágalo lentamente, tal vez sólo por invitación.
5. Prepárese para consultas e interacciones inesperadas de los usuarios.
Incluso con todo eso, obtendrás resultados inesperados. Necesitará una forma de implementar pequeñas mejoras a medida que vea cómo se desempeña la IA. Asegúrese de que los desarrolladores estén comprometidos con la mejora continua y también asegúrese de registrar suficiente información para permitirles rastrear cualquier comportamiento no planificado.
6. Prepare un plan de contingencia para fallas o errores de la IA
Cree un plan de escalada y respuesta rápida si la IA comienza a descarrilarse. Asegúrese de tener una forma de desactivarlo rápidamente y luego una forma de escalar los detalles a los desarrolladores para solucionar lo que salió mal.
7. Cree unos términos de servicio concisos y un acuerdo de cierre de clic obligatorio para la aceptación del usuario.
Esto se puede presentar como parte de un proceso de creación de cuenta, antes de que se proporcione la interfaz de IA al usuario. Le permite a usted (y a sus abogados) especificar los límites legales de la experiencia y rechazar cualquier comportamiento inesperado o promesa hecha por la IA. Es su plan de protección posterior, en caso de que la IA se vuelva loca como lo hizo con Chevrolet de Watsonville cuando intentó vender una camioneta por un dólar.
8. Evaluar y mejorar continuamente el rendimiento de la IA.
Asegúrese de incorporar el monitoreo en su proceso. Es posible que desee asegurarse de que un ser humano audite cada interacción que la IA tiene con los clientes, para que pueda comprender exactamente lo que sus clientes dicen y lo que les dicen. Asegúrese de tener una manera de proporcionar comentarios a los desarrolladores para que las mejoras puedan implementarse rápidamente.
9. Personalice la IA para reflejar la voz y los valores de la marca.
Es probable que su empresa (o, al menos, el fabricante cuyos productos vende) tenga pautas de identidad de marca muy cuidadosamente definidas. Asegúrese de que la IA siga esas pautas. Asegúrese de capacitar al personal que realiza el seguimiento sobre las pautas de la marca para que también puedan monitorear la actividad de la IA desde una perspectiva de identidad de marca.
10. Supervise la IA para detectar sesgos no deseados o comportamientos discriminatorios.
De manera similar, capacite a su personal de monitoreo sobre cómo identificar sesgos y comportamientos discriminatorios. Como parte del proceso regular de monitoreo y auditoría, esté atento a este comportamiento y comunique a los desarrolladores cualquier cosa que deba solucionarse. También tenga en cuenta que si el comportamiento es particularmente atroz, esta es una forma en que su personal puede comunicarse con el cliente o cliente potencial en cuestión para controlar los daños antes de que la situación empeore.
11. Sea transparente con los clientes sobre el uso de la IA
Asegúrese de dejar claro a los clientes cuándo interactúan con una IA. Esto le ayudará a establecer expectativas y le dará una pequeña «salida» si la IA no responde como se esperaba. Explique que la IA es una función experimental o una oferta de servicio adicional.
12. Evalúe periódicamente el impacto de la IA en la satisfacción del cliente.
Algunos clientes estarán entusiasmados de probar las nuevas funciones de IA, pero a otros les resultará extraño o deshumanizante. Asegúrese de mostrar sensibilidad ante estas variaciones en las respuestas y brinde a aquellos clientes que no quieran utilizar la IA un canal alternativo para obtener ayuda. De hecho…
13. Proporcionar una opción sencilla para que los clientes accedan al soporte humano.
No desea que los clientes se sientan atrapados en una especie de purgatorio de robots de IA. Asegúrese de que haya un camino claro y fácil para que los humanos puedan comunicarse con otros humanos, ya sea por teléfono o por mensaje de texto. Y, hagas lo que hagas, no le digas a la gente que están hablando con una persona cuando en realidad están hablando con un robot.
14. Implementar un mecanismo de retroalimentación para que los clientes informen problemas o sugerencias.
Incluso los clientes que piensan que la experiencia de la IA es interesante pueden tener comentarios, sugerencias o quejas. Proporcione una manera fácil de recopilar esa retroalimentación como parte de la interacción con la IA. ChatGPT, por ejemplo, tiene un botón de aprobación o aprobación después de cada respuesta de IA, junto con una forma para que los usuarios proporcionen más detalles sobre por qué le dieron esa calificación a la respuesta.
15. Evaluar y ajustar el tono y el estilo de comunicación de la IA en función de los comentarios de los clientes.
Una IA es capaz de ajustar su estilo de comunicación modificando factores como la formalidad, la amabilidad, la complejidad del vocabulario y el tono general. Esto abarca no sólo las palabras elegidas, sino también el estilo y el enfoque de la comunicación, ya sea más informal o profesional, directa o elaborada, empática u objetiva. Según los comentarios de sus clientes, modifique la forma de hablar de la IA para satisfacer mejor lo que les resulta más cómodo.
16. Desarrollar protocolos para manejar información confidencial de los clientes a través de IA.
Todos somos muy conscientes de la necesidad de seguridad, especialmente porque cada vez más delincuentes intentan piratear o tener éxito en la piratería, negocios. La información recopilada por la IA debe estar protegida. Desarrolle cuidadosamente protocolos de seguridad para asegurarse de que la IA haga la menor cantidad de preguntas posible al solicitar información personal y luego proteja cualquier información que recopile.
17. Capacitar al personal sobre cómo trabajar junto con el sistema de IA.
Anteriormente hablamos sobre asignar personal para auditar continuamente las respuestas de la IA, pero no mencionamos específicamente la capacitación. No sólo las personas que realizan las auditorías deberán estar completamente capacitadas, sino que todo el personal necesitará capacitación sobre cómo usar la IA, sus límites, cómo detectar problemas, cómo escalar cuando se encuentren problemas graves y cómo comunicar expectativas. y límites a los clientes. Idealmente, la capacitación será un proceso continuo, con capacitación introductoria y actualizaciones periódicas a medida que evoluciona la tecnología.
18. Considere el impacto de la IA en el empleo y las funciones del personal.
Sin duda, la introducción de soluciones de servicio al cliente de IA preocupará a los miembros de su equipo por su seguridad laboral a largo plazo. Aquí es donde debes ser totalmente transparente con los empleados, establecer expectativas y tener en cuenta que estás tratando con personas reales con responsabilidades, familias y sentimientos. Asegúrese de leer el Informe especial de ZDNET, El futuro de la IA, el empleo y la automatizaciónpara una cobertura y un análisis muy profundos de este complejo tema.
19. Actualizar y mantener periódicamente el sistema de IA.
IA, particularmente IA generativa, está evolucionando a gran velocidad. Asegúrese de planificar el mantenimiento y las actualizaciones periódicas de sus sistemas de inteligencia artificial. Algo que es vanguardista en enero bien podría estar tres generaciones atrás en junio.
20. Garantizar el cumplimiento de las leyes y reglamentos pertinentes.
Cada industria es diferente, por lo que tendrás que investigar esta según tu tipo de negocio y ubicación. Asegúrese de consultar con sus abogados para asegurarse de que sus esfuerzos de IA (y las respuestas obtenidas de la IA) estén dentro de los límites de sus requisitos legales.
También: ¿Tienes 10 horas? IBM le capacitará en los fundamentos de la IA, de forma gratuita
¡Uf! Bueno, allá vas. Veinte cosas a considerar antes de permitir que tus clientes encuentren tu IA. Si sigue estas pautas, podrá evitar muchos de los problemas que afectan a Chevrolet de Watsonville.
¿Qué opinas? ¿Me dejé algo afuera? ¿Está implementando una IA en su negocio? ¿Tienes alguna historia interesante que contar? Háganos saber en los comentarios a continuación.
Puedes seguir las actualizaciones diarias de mi proyecto en las redes sociales. Asegúrese de suscribirse a mi boletín de actualización semanal en subpilay sígueme en Twitter en @DavidGewirtzen Facebook en Facebook.com/DavidGewirtzen Instagram en Instagram.com/DavidGewirtzy en YouTube en YouTube.com/DavidGewirtzTV.
