Ni ¡Sí! Neo ni Super Crazy Kids respondieron a la solicitud de comentarios de WIRED.
Pocos límites
¡Sí! Neo, Super Crazy Kids y otros canales similares comparten una apariencia común: presentan animación 3D en un estilo similar a Cocomelon, el canal infantil de YouTube más popular en EE. UU. (Dana Steiner, portavoz de la empresa matriz de Cocomelon, Moonbug, dice que ninguno de sus programas utiliza actualmente IA, «pero nuestro talentoso equipo creativo siempre está explorando nuevas herramientas y tecnologías»).
Esta estética familiar significa que un padre ocupado que mira rápidamente una pantalla podría confundir el contenido de IA con un programa que ha examinado. Y aunque no está particularmente bien elaborado, el contenido de los vídeos difundidos por estos canales tiende a ser de mala calidad, del mismo modo que gran parte del entretenimiento infantil creado por el hombre hoy en día es de mala calidad: frenético, ruidoso y poco original.
YouTube está en el proceso de introducir nuevas políticas para el contenido generado por IA, aunque la compañía no busca restringirlo significativamente. «YouTube pronto introducirá etiquetas de contenido y requisitos de divulgación para los creadores que suben contenido que contenga material realista alterado o sintético, incluido contenido dirigido a niños y familias», dice la portavoz de YouTube, Elena Hernández.
Cuando WIRED preguntó si YouTube buscará proactivamente contenido generado por IA y lo etiquetará como tal, Hernández dijo que habrá más detalles más adelante, pero que planea depender principalmente de la divulgación voluntaria. «Nuestro principal enfoque será exigir a los propios creadores que revelen cuándo han creado contenido alterado o sintético que sea realista». La compañía dice que utiliza una combinación de filtros automatizados, revisión humana y comentarios de los usuarios para determinar qué contenido es accesible en el más restringido Servicio de YouTube para niños.
Algunos temen que YouTube y los padres de todo el mundo no estén adecuadamente preparados para la próxima ola de contenido infantil generado por IA. El neurocientífico Erik Hoel vio recientemente algunos de los tutoriales sobre cómo hacer que los niños se contenten con IA, así como algunos videos que sospechaba que estaban hechos con esta tecnología. Hoel estaba tan inquieto por lo que vio que arremetió contra el concepto en su Substack, incluso al señalar a Super Crazy Kids. «En todo el país hay niños pequeños tirados frente a iPads sometidos a escorrentía sintética, privados de contacto humano incluso con los medios que consumen», afirmó. escribió. «No hay otra palabra que distópica».
La advertencia de Hoel recuerda el último gran escándalo del YouTube infantil, bautizado “Elsagate”. Él comenzó en 2017 cuando la gente empezó a darse cuenta vídeos surrealistas y perturbadores dirigido a niños en la plataforma, que a menudo presenta personajes populares como Elsa de Disney CongeladoSpiderman y el héroe porcino titular de Peppa Pig. Si bien el contenido generado por IA no ha alcanzado un nadir similar, sus creadores parecen estar persiguiendo un objetivo similar: llamar la atención sobre las recomendaciones automatizadas de YouTube.
Padre bebé creativo
Algunos canales de vídeo de IA más desconocidos ya están entrando en territorio extraño. El canal Brain Nursey Egg TV, por ejemplo, da a sus inquietantes vídeos nombres como “Cars for Kids”. Tráiler de la diapositiva con letra «. La descripción del vídeo es una cadena gigantesca de palabras clave, que incluyen “disney junior elimi birakma 24 chima sorozat BeamNG-Destruction ali babanın çiftliği şarkısı la brujita creative baby padre finger”.
El video sin trama es una combinación de imágenes con fallas, como globos oculares flotantes y bloques de color que se derriten. La banda sonora presenta niños aplaudiendo, una voz robótica que cuenta, bebés individuales riendo y diferentes voces robóticas entonando la palabra «YouTube» en intervalos aparentemente aleatorios. «Esto ha generado voces en todo momento y está impulsado por un guión generado por IA o puede ser una de las obras de videoarte surrealista más grandes y subestimadas de los últimos tiempos», dice Colman de Reality Defender. De cualquier manera, este tipo de contenido no ha tenido mucha tracción todavía: algunos de los videos del canal solo tienen un puñado de vistas. Brain Nursery Egg TV no proporciona una dirección de correo electrónico ni otra forma de contactar a quienes dirigen el canal.