En respuesta a los informes que indican que MyCity puede estar proporcionando información errónea, incorrecta y engañosa, el alcalde de la ciudad de Nueva York Eric Adams ha salido a defenderlo. Para aquellos que no lo saben, el gobierno de Nueva York introdujo recientemente el chatbot MyCity AI para ayudar a los dueños de negocios con sus consultas.
El alcalde de Nueva York defiende el controvertido AI Chatbot en medio de acusaciones de orientación engañosa
Su objetivo es ayudar a los propietarios de empresas que requieren acceso continuo a información y orientación. Sin embargo, un investigación por The Markupcon el apoyo de las redacciones locales de Documented y The City, encontró varios casos en los que brindó asesoramiento legal incorrecto.
Por ejemplo, el robot afirmó erróneamente que los propietarios podrían discriminar a los inquilinos por motivos de ingresos y que los empleadores pueden embolsarse algunas de las propinas de sus proveedores de servicios; Ambas prácticas son ilegales en la ciudad de Nueva York.
Al igual que otros modelos de IA impulsados por La IA de Azure de Microsoft En modelos de lenguaje grandes, MyCity es propenso a brindar información inexacta o engañosa. En consecuencia, el alcalde Adams admitió los errores de esta herramienta al decir que «no funciona en ciertas áreas», pero defendió su objetivo general.
Dijo que, por naturaleza, este tipo de tecnología tiene que demostrar su eficacia en entornos de la vida real para resaltar los problemas y sus soluciones. Sin embargo, investigaciones posteriores revelaron que los intentos fracasaron ya que seguían alimentando afirmaciones falsas como que «las empresas ya no aceptan pagos en efectivo», lo que contradice la ley de Nueva York.
MyCity AI podría resultar ineficiente y requeriría más diálogos con los abogados
Andrew Rigie, director de NYC Hospitality Alliance, elogió el intento de la ciudad de utilizar Tecnología impulsada por IA al tiempo que enfatiza la precisión. Rigie afirmó que seguir sugerencias erróneas de bots como este podría arruinar su objetivo y requerir más diálogos con los abogados.
Debido a esta controversia, el chatbot MyCity ahora incluye una advertencia de descargo de responsabilidad usuarios que las respuestas pueden ser poco confiables o incompletas; por lo tanto, no deberían confiar en ellos para fines legales o profesionales.
Este incidente ejemplifica lo difícil que es llevar la inteligencia artificial a los servicios públicos y al mismo tiempo subraya la necesidad de precisión y confiabilidad al orientar sobre una base legal. A medida que continúan los esfuerzos para mejorar el chatbot MyCity, varias partes interesadas todavía están buscando cualquier desafío que deba abordarse.
