El aumento de voces generadas por IA que imitan a celebridades y políticos podría dificultar aún más las cosas para la Comisión Federal de Comunicaciones (FCC) para combatir las llamadas automáticas y evitar que las personas reciban spam y estafas. Es por eso que la presidenta de la FCC, Jessica Rosenworcel, quiere que la comisión reconozca oficialmente como «artificiales» las llamadas que utilizan voces generadas por IA, lo que haría ilegal el uso de tecnologías de clonación de voz en llamadas automáticas. Según la Ley de Protección al Consumidor Telefónico (TCPA) de la FCC, las solicitudes a residencias que utilizan una voz artificial o una grabación son ilegales. Como TechCrunch notas, el La propuesta de la FCC. hará que sea más fácil perseguir y acusar a los malos actores.
«La clonación de voz e imágenes generadas por IA ya están sembrando confusión al engañar a los consumidores haciéndoles pensar que las estafas y los fraudes son legítimos», dijo la presidenta de la FCC, Jessica Rosenworcel, en un comunicado. «No importa qué celebridad o político prefieras, o cuál sea tu relación con tus familiares cuando piden ayuda, es posible que todos seamos el objetivo de estas llamadas falsas». Si la FCC reconoce que las llamadas de voz generadas por IA son ilegales según la ley existente, la agencia puede brindar a las oficinas de los fiscales generales estatales en todo el país «nuevas herramientas que pueden usar para combatir… las estafas y proteger a los consumidores».
La propuesta de la FCC se produce poco después de que algunos residentes de New Hampshire recibieran una llamada haciéndose pasar por el presidente Joe Biden, diciéndoles que no votaran en las primarias de su estado. Una empresa de seguridad realizó un análisis exhaustivo de la llamada y determinó que fue creada utilizando herramientas de inteligencia artificial por una startup llamada ElevenLabs. Según se informó, la empresa había prohibió la cuenta responsable del mensaje que imita al presidente, pero el incidente podría terminar siendo solo uno de los muchos intentos de perturbar las próximas elecciones estadounidenses utilizando contenido generado por IA.