El lunes, OpenAI Anunciado una asociación con la organización sin fines de lucro Common Sense Media para crear pautas de IA y materiales educativos dirigidos a padres, educadores y adolescentes. Incluye la curación de ambiente familiar. GPT en OpenAI tienda GPT. La colaboración tiene como objetivo abordar las preocupaciones sobre los impactos de la IA en niños y adolescentes.
Conocido por sus reseñas de películas y programas de televisión dirigidos a padres que buscan medios adecuados para que los vean sus hijos, Common Sense Media recientemente se diversificó hacia la IA y ha sido revisando asistentes de IA en su sitio.
«La IA no va a ninguna parte, por eso es importante que ayudemos a los niños a comprender cómo usarla de manera responsable», Common Sense Media escribió en X. «Por eso nos hemos asociado con @OpenAI para ayudar a los adolescentes y las familias a aprovechar de forma segura el potencial de la IA».
El director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Common Sense Media, James Steyer, anunciaron la asociación en el escenario de San Francisco en el Cumbre de sentido común para los niños y las familias de Estados Unidosun evento que fue bien cubierto por miembros de los medios en el sitio de redes sociales X.
Por su parte, Altman ofreció una declaración enlatada en el comunicado de prensa, dicho«La IA ofrece beneficios increíbles para las familias y los adolescentes, y nuestra asociación con Common Sense fortalecerá aún más nuestro trabajo de seguridad, garantizando que las familias y los adolescentes puedan utilizar nuestras herramientas con confianza».
El anuncio parece un poco inespecífico en el comunicado de prensa oficial, con Steyer ofreciendo: «Nuestras guías y curación estarán diseñadas para educar a las familias y educadores sobre el uso seguro y responsable de ChatGPT, para que podamos evitar colectivamente cualquier consecuencia no deseada de esta situación emergente». tecnología.»
La asociación parece apuntar principalmente a traer una pátina de familiaridad a la tienda GPT de OpenAI, y la revelación más sólida es el hecho antes mencionado de que los medios de Common Sense ayudarán con la «curaduría de GPT familiares en la Tienda GPT basada en Common Sense». calificaciones y estándares.»
Reseñas de IA de sentido común
Como se mencionó anteriormente, Common Sense Media comenzó revisando asistentes de IA en su sitio a finales del año pasado. Esto coloca a Common Sense Media en una posición interesante con posibles conflictos de intereses con respecto a la nueva asociación con OpenAI. Sin embargo, hasta ahora no parece ofrecer ningún favoritismo hacia OpenAI.
Por ejemplo, Common Sense Media revisión de ChatGPT llama al asistente de IA «Un chatbot poderoso, a veces riesgoso, para personas mayores de 13 años que se utiliza mejor para la creatividad, no para los hechos». Etiqueta a ChatGPT como adecuado para mayores de 13 años (lo cual se encuentra en los Términos de servicio de OpenAI) y le otorga al asistente de OpenAI tres de cinco estrellas. ChatGPT también obtiene una calificación de privacidad del 48 por ciento (que curiosamente se muestra como 55 por ciento en otra pagina eso entra en detalles de privacidad). La revisión que citamos se actualizó por última vez el 13 de octubre de 2023, al momento de escribir este artículo.
Como referencia, Google Bard obtiene una calificación general de tres estrellas y una calificación de privacidad del 75 por ciento en su revisión de Common Sense Media. Difusión estableel modelo de síntesis de imágenes, obtiene una calificación de una estrella con la descripción: «Un potente generador de imágenes puede desatar la creatividad, pero es tremendamente inseguro y perpetúa el daño». DALL-E de OpenAI obtiene dos estrellas y una calificación de privacidad del 48 por ciento.
La información que Common Sense Media incluye sobre cada modelo de IA parece relativamente precisa y detallada (y la organización citó un artículo de Ars Technica como referencia en una explicación), por lo que se sienten justas, incluso frente a la asociación OpenAI. Dadas las bajas puntuaciones, parece que la mayoría de los modelos de IA no han tenido un buen comienzo, pero eso puede cambiar. Aún es temprano en la IA generativa.
