Goody-2 también destaca cómo, aunque las conversaciones corporativas sobre la IA responsable y la desviación por parte de los chatbots se han vuelto más comunes, los graves problemas de seguridad con los grandes modelos lingüísticos y los sistemas de IA generativos siguen sin resolverse. El reciente brote de Taylor Swift hace deepfakes en Twitter resultó surgir de un generador de imágenes lanzado por Microsoftque fue uno de los primeras grandes empresas tecnológicas Desarrollar y mantener un importante programa de investigación responsable en IA.
Las restricciones impuestas a los chatbots de IA y la dificultad para encontrar una alineación moral que agrade a todos ya se han convertido en tema de debate. Algunos desarrolladores han alegado que ChatGPT de OpenAI tiene un sesgo de izquierda y han buscó construir una alternativa más políticamente neutral. Elon Musk prometió que su propio rival de ChatGPT, Grok, sería menos parcial que otros Los sistemas de IA, aunque en realidad muchas veces termina equivocándose en formas que pueden recordar a Goody-2.
Muchos investigadores de IA parecen apreciar la broma detrás de Goody-2 (y también los puntos serios planteados por el proyecto) y comparten elogios y recomendaciones para el chatbot. «¿Quién dice que la IA no puede hacer arte?» Toby Walshprofesor de la Universidad de Nueva Gales del Sur que trabaja en la creación de IA confiable, publicado en X.
“A riesgo de arruinar un buen chiste, también demuestra lo difícil que es hacerlo bien”. agregado Ethan Mollick, profesor de Wharton Business School que estudia IA. “Algunas barandillas son necesarias… pero rápidamente se vuelven intrusivas”.
Brian Moore, el otro codirector ejecutivo de Goody-2, dice que el proyecto refleja la voluntad de priorizar la precaución más que otros desarrolladores de IA. «Está realmente centrado en la seguridad, ante todo, literalmente por encima de todo lo demás, incluida la utilidad y la inteligencia y, en realidad, cualquier tipo de aplicación útil», afirma.
Moore añade que el equipo detrás del chatbot está explorando formas de construir un generador de imágenes de IA extremadamente seguro, aunque parece que podría ser menos entretenido que Goody-2. «Es un campo apasionante», dice Moore. «El desenfoque sería un paso que podríamos ver internamente, pero querríamos oscuridad total o potencialmente ninguna imagen al final».