El viernes Meta Anunciado actualizaciones de políticas para dejar de censurar contenido inofensivo generado por IA y, en su lugar, comenzar a «etiquetar una gama más amplia de contenido de video, audio e imágenes como ‘Hecho con IA'».
Las actualizaciones de políticas de Meta llegaron después decidir no eliminar una publicación controvertida editada para mostrar al presidente Joe Biden tocando aparentemente de manera inapropiada el pecho de su nieta, con una leyenda que llama a Biden «pedófilo». La Junta de Supervisión estuvo de acuerdo con la decisión de Meta de dejar la publicación en línea, aunque señaló que la actual política de medios manipulados de Meta era demasiado «estrecha», «incoherente» y «confusa para los usuarios».
Anteriormente, Meta solo eliminaba «videos creados o alterados por IA para que parezca que una persona dice algo que no dijo». La Junta de Supervisión advirtió que esta política no abordaba otros medios manipulados, incluidas las «falsificaciones baratas», el audio manipulado o el contenido que mostraba a personas haciendo cosas que nunca habían hecho.
«Estamos de acuerdo con el argumento de la Junta de Supervisión de que nuestro enfoque actual es demasiado limitado, ya que sólo cubre videos creados o alterados por IA para hacer que una persona parezca decir algo que no dijo», Monika Bickert, vicepresidenta de contenido de Meta. política, escribió en un blog. «Como señaló la Junta, es igualmente importante abordar la manipulación que muestra a una persona haciendo algo que no hizo».
A partir de mayo de 2024, Meta agregará etiquetas «Hecho con IA» a cualquier contenido detectado como generado por IA, así como a cualquier contenido que los usuarios revelen por sí mismos como generado por IA.
La Junta de Supervisión de Meta también había advertido que la eliminación de videos generados por IA que no violaban directamente los estándares comunitarios de las plataformas amenazaba con «correr innecesariamente el riesgo de restringir la libertad de expresión». En el futuro, Meta dejará de censurar el contenido que no viole los estándares de la comunidad y estará de acuerdo en que es mejor un enfoque «menos restrictivo» para los medios manipulados mediante la adición de etiquetas.
«Si determinamos que las imágenes, videos o audio creados o alterados digitalmente crean un riesgo particularmente alto de engañar materialmente al público en un asunto de importancia, podemos agregar una etiqueta más prominente para que la gente tenga más información y contexto», escribió Bickert. «Este enfoque general brinda a las personas más información sobre el contenido para que puedan evaluarlo mejor y tener contexto si ven el mismo contenido en otro lugar».
Meta confirmó que, en julio, dejará de censurar el contenido generado por IA que no viole las reglas que restringen cosas como la interferencia de los votantes, la intimidación y el acoso, la violencia y la incitación.
«Este cronograma le da a la gente tiempo para comprender el proceso de divulgación antes de que dejemos de eliminar el subconjunto más pequeño de medios manipulados», explicó Bickert en el blog.
Finalmente, Meta adoptó la decisión de la Junta de Supervisión Fiscal recomendación «definir claramente en una única política unificada de medios manipulados los daños que pretende prevenir, más allá de que se engañe a los usuarios, como evitar la interferencia con el derecho al voto y a participar en la conducción de los asuntos públicos».
La Junta de Supervisión emitió una declaración proporcionada a Ars, diciendo que los miembros «están satisfechos de que Meta comience a etiquetar una gama más amplia de contenido de video, audio e imágenes como ‘hecho con IA’ cuando detecten indicadores de imágenes de IA o cuando las personas indiquen que tienen contenido de IA subido.»
«Esto brindará a las personas un mayor contexto y transparencia para más tipos de medios manipulados, al mismo tiempo que eliminará publicaciones que violan las reglas de Meta de otras maneras», dijo la Junta de Supervisión.
