Todo es divertido hasta que alguien pierde la ropa: La IA generativa está arrasando en la industria tecnológica y las empresas se apresuran a utilizarla para resolver problemas que no existen. Incluso se podría argumentar que la tecnología causa más problemas de los que resuelve, especialmente cuando las empresas insisten en deshacerse de los productos que no están listos para el consumo público. La Lotería del Estado de Washington aprendió esto por las malas a principios de esta semana.
En una campaña promocional llamada «Test Drive a Win», los funcionarios de la Lotería del Estado de Washington crearon una aplicación web interactiva para ayudar a los clientes a visualizarse usando sus ganancias en las vacaciones de sus sueños. Los usuarios podían subir una selfie y luego la IA generaba una imagen con el tema de un tipo de vacaciones mientras usaba la cara del usuario como tema. Todo el proyecto salió mal cuando la IA escupió un desnudo.
Una mujer de Olympia llamada Megan (apellido omitido) le dijo al Jason Rantz Show que usó la aplicación para crear una imagen de vacaciones de «Nadando con los tiburones». Ella reclamos Se sorprendió cuando su rostro apareció en el cuerpo de una mujer en topless sentada en una cama. La imagen muestra peces y corales generados por IA decorando la escena y el logotipo de la Lotería del Estado de Washington en la esquina inferior derecha, lo que demuestra que proviene del sitio promocional.
«¡Nuestros impuestos pagan eso! Me quedé completamente sorprendida», dijo Megan a Rantz en KTTH. «Es, cuanto menos, inquietante. También creo que el responsable debería ser despedido».
Le proporcionó a Rantz una versión censurada de la foto (abajo), pero KTTH no pudo autenticarla.
Megan dijo que le contó el incidente a una amiga que conoce a alguien que trabaja para la lotería. Presumiblemente, esta persona contó la anécdota a los funcionarios de la lotería porque un portavoz confirmó más tarde que había recibido el informe.
Rantz también intentó comunicarse con la comisión de lotería y, tres horas después, la aplicación web estaba desconectada. Más tarde, un portavoz le proporcionó a Rantz una declaración en la que decía que la comisión había trabajado con un proveedor externo de IA no especificado y había elaborado un «conjunto completo de reglas» que la IA debía seguir. Estas condiciones excluían explícitamente el uso de desnudez.
«Antes del lanzamiento, acordamos un conjunto integral de reglas para regir la creación de imágenes, incluido que las personas en las imágenes estén completamente vestidas», dijo el portavoz. «No hemos visto la imagen que la IA proporcionó a este usuario, pero por precaución eliminamos el sitio web».
Rantz preguntó cuándo exactamente recibieron los funcionarios el informe de desnudez y por qué no cerraron la aplicación de inmediato. En una declaración posterior, la comisión dijo que se había enterado del incidente a principios de semana e inmediatamente se comunicó con los desarrolladores para asegurarse de que la configuración y las salvaguardas estuvieran implementadas, y así era.
Sin embargo, después de una discusión más profunda, decidieron que un incidente como este era demasiado y decidieron cerrar el sitio web, asegurándose de que no volvería a suceder.