Estimulada por la creciente amenaza de los deepfakes, la FTC busca modificar una regla existente que prohíbe la suplantación de empresas o agencias gubernamentales para cubrir a todos los consumidores.
La regla revisada, dependiendo del texto final y de los comentarios públicos que reciba la FTC, también podría hacer que sea ilegal que una plataforma GenAI proporcione bienes o servicios que saben o tienen motivos para saber que se están utilizando para dañar a los consumidores mediante suplantación de identidad.
«Los estafadores están utilizando herramientas de inteligencia artificial para hacerse pasar por personas con una precisión inquietante y a una escala mucho más amplia», dijo la presidenta de la FTC, Lina Khan, en un comunicado de prensa. “Con el aumento de la clonación de voz y otras estafas impulsadas por la inteligencia artificial, proteger a los estadounidenses del fraude de imitadores es más fundamental que nunca. Nuestras ampliaciones propuestas a la regla final de suplantación de identidad harían justamente eso, fortaleciendo el conjunto de herramientas de la FTC para abordar las estafas habilitadas por IA que se hacen pasar por personas”.
No se trata sólo de gente como Taylor Swift que tienen que preocuparse por los deepfakes. Las estafas románticas en línea que involucran deepfakes son en aumento. Y los estafadores son hacerse pasar por empleados para extraer efectivo de las corporaciones.
En una reciente encuesta Según YouGov, el 85% de los estadounidenses dijeron que estaban muy preocupados o algo preocupados por la difusión de videos y audios engañosos. Una separacion encuesta de The Associated Press-NORC Center for Public Affairs Research encontró que casi el 60% de los adultos cree que las herramientas de inteligencia artificial aumentarán la difusión de información falsa y engañosa durante el ciclo electoral estadounidense de 2024.
La semana pasada, mi colega Devin Coldewey cubierto la decisión de la FCC de ilegalizar las llamadas automáticas con voz de IA reinterpretando una norma existente que prohíbe el spam de mensajes artificiales y pregrabados. Oportuno a la luz de una campaña telefónica que empleó a un presidente Biden falsificado para disuadir a los ciudadanos de New Hampshire de votar, el cambio de reglas (y la medida de hoy de la FTC) son el alcance actual de la lucha del gobierno federal contra los deepfakes y la tecnología de deepfaking.
Ninguna ley federal prohíbe por completo los deepfakes. Las víctimas de alto perfil, como las celebridades, en teoría pueden recurrir a remedios legales más tradicionales para defenderse, incluyendo la ley de derechos de autor, derechos de semejanza y agravios (por ejemplo, invasión de la privacidad, imposición intencional de angustia emocional). Pero litigar contra estas leyes fragmentadas puede llevar mucho tiempo y ser laborioso.
En ausencia de una acción del Congreso, diez estados de todo el país han promulgado estatutos que penalizan los deepfakes, aunque en su mayoría pornografía no consensuada. Sin duda, veremos esas leyes modificadas para abarcar una gama más amplia de deepfakes (y se aprobarán más leyes a nivel estatal) a medida que las herramientas de generación de deepfakes se vuelvan cada vez más sofisticadas. (Por ejemplo, la ley de Minnesota ya objetivos deepfakes utilizados en campañas políticas.)