A medida que la IA conversacional comienza a apoderarse del mundo, los chatbots reciben una nueva vida. Sin embargo, hay claros peligros en el camino que tenemos por delante. El gigante de entrega de paquetes DPD recientemente tuvo que desactivar parte de su chatbot de soporte en línea después de insultó a un cliente.
Un usuario logró convencer al chatbot de que fuera muy crítico con DPD, y convencerlo de criticar a la empresa en forma de haiku.
El incidente es aún más una señal de advertencia para industrias reguladas como la atención médica y los seguros, donde dejar el trabajo pesado a un chatbot de IA diseñado al azar podría dejar a la organización expuesta a acciones legales. Diálogo abiertouna startup del Reino Unido formada por algunos fundadores emprendedores en serie, cree que tiene una respuesta al combinar el nuevo mundo de los LLM con una plataforma personalizable para sectores regulados.
Ahora ha recaudado 8 millones de dólares en una ronda de Serie A liderada por Alboin VC. También participaron Dowgate Capital y varios inversores ángeles notables, lo que significa que la startup ha recaudado 13 millones de dólares en total.
La demanda de IA conversacional se está disparando y se prevé que explotar a la alucinante cifra de 38.000 millones de dólares a nivel mundial para 2029.
Sin embargo, los sectores regulados todavía están lidiando con la comprensión del lenguaje natural (NLU) y los modelos de lenguaje grandes (LLM). OpenDialog dice que su enfoque en atención médica y seguros lo convertirá en una buena opción para esas industrias.
Si bien un LLM puede parecer humano y comprender el contexto, las industrias reguladas necesitan barreras de seguridad altas en un enfoque impulsado por la IA.
OpenDialog afirma que su plataforma sin código podría permitir a los gigantes de los seguros y a empresas como el NHS del Reino Unido mezclar y combinar los mejores modelos de IA en una sola plataforma de automatización.
También afirma que un cliente de seguros automatizó 9 de cada 10 tareas, desde la venta de pólizas hasta la gestión de reclamaciones.
El cofundador y director ejecutivo, Terry Walby, me dijo durante una llamada que la plataforma tiene una “arquitectura fluida, lo que significa que puedes gestionar la conversación de una manera mucho más parecida a las conversaciones de los humanos, lo cual no es predecible. Puede esperar lo inesperado y yo puedo reaccionar ante ello, responder y no perder el flujo de la conversación”.
Lo que Walby espera, por supuesto, es que al no basarse en un modelo fundamental y tener una plataforma más flexible, OpenDiolog pueda mezclar y combinar varios LLM para que los clientes puedan obtener la flexibilidad que desean.
Ese puede ser el caso, pero podría dejar a OpenDiolog expuesto a la acusación de ser un mero reproductor de ‘middleware’ en lugar de tener una plataforma sólida propia.
Él responde diciendo que desagregarlos a partir de un único modelo de lenguaje significa que se pueden “explotar en ciertas partes de la conversación para las que son apropiados”.
Ed Lascelles, socio de AlbionVC, comentó: «La IA conversacional ha evolucionado enormemente desde los primeros chatbots» y señaló que OpenDialog ha «construido y ampliado negocios empresariales antes».
De hecho, esta es la segunda startup del equipo fundador, que amplió y vendió Thoughtonomy, una solución de automatización de software, a Prisma azul en 2019.
