Bajo el escrutinio de activistas (y padres), OpenAI ha formado un nuevo equipo para estudiar formas de evitar que los niños hagan un mal uso o abusen de sus herramientas de inteligencia artificial.
En una nueva oferta de trabajo en su página de carrera, OpenAI revela la existencia de un equipo de seguridad infantil, que según la compañía está trabajando con grupos legales, de investigación y de políticas de plataforma dentro de OpenAI, así como con socios externos para gestionar “procesos, incidentes y revisiones” relacionados con usuarios menores de edad.
Actualmente, el equipo está buscando contratar a un especialista en seguridad infantil, que será responsable de aplicar las políticas de OpenAI en el contexto del contenido generado por IA y trabajar en procesos de revisión relacionados con contenido «sensible» (presumiblemente relacionado con niños).
Los proveedores de tecnología de cierto tamaño dedican una buena cantidad de recursos a cumplir con leyes como la Regla de Protección de la Privacidad Infantil en Línea de EE. UU., que exige controles sobre lo que los niños pueden (y no pueden) acceder en la web, así como sobre qué tipo de datos las empresas puede cobrar sobre ellos. Por lo tanto, el hecho de que OpenAI esté contratando expertos en seguridad infantil no es una sorpresa total, especialmente si la compañía espera algún día una base significativa de usuarios menores de edad. (Los términos de uso actuales de OpenAI requieren el consentimiento de los padres para niños de 13 a 18 años y prohíben su uso para niños menores de 13 años).
Pero la formación del nuevo equipo, que llega varias semanas después de OpenAI Anunciado una asociación con Common Sense Media para colaborar en pautas de IA amigables para los niños y consiguió su primera cliente de educacióntambién sugiere una cautela por parte de OpenAI de entrar en conflicto con las políticas relacionadas con el uso de la IA por parte de menores y con la prensa negativa.
Los niños y adolescentes recurren cada vez más a las herramientas GenAI en busca de ayuda no solo con Trabajo escolar sino cuestiones personales. De acuerdo a un encuesta Según el Centro para la Democracia y la Tecnología, el 29% de los niños afirman haber utilizado ChatGPT para lidiar con la ansiedad o problemas de salud mental, el 22% para problemas con amigos y el 16% para conflictos familiares.
Algunos ven esto como un riesgo creciente.
El verano pasado, escuelas y universidades apresuraron prohibir ChatGPT por temor a plagio y desinformación. Desde entonces, algunos han invertido sus prohibiciones. Pero no todos están convencidos del potencial positivo de GenAI, señalando encuestas como el Centro para una Internet más segura del Reino Unido, que descubrió que más de la mitad de los niños (53%) informan haber visto a personas de su edad usar GenAI de manera negativa, por ejemplo, creando información falsa creíble o imágenes utilizadas para molestar a alguien.
En septiembre, OpenAI publicó documentación para ChatGPT en las aulas con indicaciones y preguntas frecuentes para ofrecer orientación a los educadores sobre el uso de GenAI como herramienta de enseñanza. En uno de los artículos de apoyoOpenAI reconoció que sus herramientas, específicamente ChatGPT, «pueden producir resultados que no sean apropiados para todas las audiencias o todas las edades» y recomendó «precaución» con la exposición a niños, incluso aquellos que cumplen con los requisitos de edad.
Están aumentando los pedidos de directrices sobre el uso de GenAI por parte de los niños.
La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) a finales del año pasado empujado que los gobiernos regulen el uso de GenAI en la educación, incluida la implementación de límites de edad para los usuarios y barreras de seguridad sobre la protección de datos y la privacidad de los usuarios. «La IA generativa puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daños y prejuicios», dijo Audrey Azoulay, directora general de la UNESCO, en un comunicado de prensa. «No se puede integrar en la educación sin la participación pública y las salvaguardias y regulaciones necesarias por parte de los gobiernos».