AbiertoAI tiene un gran problema de spam y violación de políticas en su tienda GPT. La firma de inteligencia artificial presentó su Tienda GPT en enero de 2024 como un lugar donde los usuarios pueden encontrar cosas interesantes y útiles. GPTque son esencialmente mini chatbots programado para una tarea específica. Los desarrolladores pueden crear y enviar sus GPT a la plataforma y, siempre que no violen ninguna de las políticas y pautas dadas por OpenAI, se agregan a la tienda. Sin embargo, resulta que las políticas no se siguen estrictamente y muchos GPT que parecen violar las regulaciones están inundando la plataforma.
Nosotros, en Gadgets 360, realizamos una búsqueda rápida en la Tienda GPT plataforma y descubrió que el mercado de chatbots está lleno de bots que son spam o que violan las políticas de la empresa de inteligencia artificial. Por ejemplo, OpenAI política de uso afirma en la sección ‘Construir con ChatGPT‘ en el punto 2, «No realice ni facilite las siguientes actividades que puedan afectar significativamente la seguridad, el bienestar o los derechos de otros, incluido», y luego agrega en la subsección (b), «Proporcionar servicios legales, médicos/ asesoramiento de salud o financiero”. Sin embargo, con solo buscar la palabra «abogado» apareció un chatbot denominado Legal+ cuya descripción dice: “Su abogado personal de IA. ¡Lo hace todo, desde brindar asesoramiento legal en tiempo real para problemas cotidianos, producir plantillas de contratos legales y mucho más!
El ejemplo solo muestra una de las muchas violaciones de políticas que tienen lugar en la plataforma. La política de uso también prohíbe «Hacerse pasar por otro individuo u organización sin consentimiento o derecho legal» en el punto 3 (b), pero uno puede encontrar fácilmente a «Elon Muusk» con una u adicional agregada, que probablemente evada la detección. Es descripción simplemente dice «Habla con Elon Musk». Aparte de esto, otros chatbots que están en la zona gris incluyen GPT que afirman eliminar Plagio basado en IA al hacer que el texto parezca más humano y chatbots que crean contenido en Disney o Pixar estilo.
Estos problemas con la Tienda GPT fueron los primeros manchado por TechCrunch, que también encontró otros ejemplos de suplantación de identidad, incluidos chatbots que permiten a los usuarios hablar con personajes de marcas registradas como Wario, el popular personaje del videojuego, y «Aang de Avatar: The Last Airbender». Hablando con un abogado, el informe destacó que, si bien OpenAI no puede ser considerado responsable de la infracción de derechos de autor por parte de los desarrolladores que agregan estos chatbots en los EE. UU. debido a la Ley de Derechos de Autor del Milenio Digital, los creadores pueden enfrentar demandas.
En su política de uso, OpenAI dijo: “Utilizamos una combinación de sistemas automatizados, revisión humana e informes de usuarios para encontrar y evaluar GPT que potencialmente violen nuestras políticas. Las infracciones pueden dar lugar a acciones contra el contenido o su cuenta, como advertencias, restricciones para compartir o inelegibilidad para su inclusión en la Tienda GPT o la monetización». Sin embargo, según nuestros hallazgos y según el informe de TechCrunch, parece que los sistemas no funcionan como se esperaba.
