parece haber bloqueado varios mensajes en su herramienta que llevó a la herramienta de IA generativa a escupir imágenes violentas, sexuales y otras imágenes ilícitas. Los cambios parecen haber sido implementados justo después de que un ingeniero de la empresa para exponer las graves preocupaciones que tenía con la tecnología GAI de Microsoft.
Al ingresar términos como “pro elección”, “cuatro veinte” (una referencia a la marihuana) o “pro vida”, Copilot ahora muestra un mensaje que dice que esas indicaciones están bloqueadas. Advierte que las infracciones repetidas de la política podrían provocar la suspensión de un usuario, según .
Según se informa, los usuarios también podían ingresar mensajes relacionados con niños que jugaban con rifles de asalto hasta principios de esta semana. A quienes intenten introducir ese mensaje ahora se les puede decir que hacerlo viola los principios éticos de Copilot, así como las políticas de Microsoft. «Por favor, no me pidan que haga nada que pueda dañar u ofender a otros», supuestamente dice Copilot en respuesta. Sin embargo, CNBC descubrió que todavía era posible generar imágenes violentas a través de mensajes como «accidente automovilístico», mientras que los usuarios aún pueden convencer a la IA para que cree imágenes de personajes de Disney y otras obras protegidas por derechos de autor.
El ingeniero de Microsoft Shane Jones ha sido sobre los tipos de imágenes que generaban los sistemas impulsados por OpenAI de Microsoft. Había estado probando Copilot Designer desde diciembre y determinó que generaba imágenes que violaban los principios de IA responsable de Microsoft incluso cuando utilizaba indicaciones relativamente benignas. Por ejemplo, descubrió que el mensaje «pro-elección» llevó a la IA a crear imágenes de cosas como demonios devorando bebés y Darth Vader apuntando con un taladro a la cabeza de un bebé. Escribió a la FTC y a la junta directiva de Microsoft sobre sus preocupaciones al respecto. semana.
«Estamos monitoreando continuamente, haciendo ajustes e implementando controles adicionales para fortalecer aún más nuestros filtros de seguridad y mitigar el uso indebido del sistema», dijo Microsoft. CNBC con respecto a las prohibiciones inmediatas de Copilot.
Este artículo contiene enlaces de afiliados; Si hace clic en dicho enlace y realiza una compra, podemos ganar una comisión.
