¿Lo que acaba de suceder? La FCC está tomando medidas para ilegalizar el uso de voces generadas por IA en llamadas automáticas después de un mensaje diseñado para sonar como si el presidente Biden hubiera dicho a los residentes de New Hampshire que no votaran en las primarias del mes pasado. A la agencia le preocupa que la tecnología de audio deepfake se utilice para confundir y engañar a los consumidores imitando las voces de «celebridades, candidatos políticos y familiares cercanos».
La presidenta de la FCC, Jessica Rosenworcel, propuesta haría que el uso de voces generadas por IA en llamadas automáticas sea ilegal según la Ley de Protección al Consumidor Telefónico, o TCPA.
La ley TCPA de 1991 restringe las llamadas de telemercadeo y el uso de sistemas de marcación telefónica automática y mensajes de voz artificiales o pregrabados. También requiere que los vendedores telefónicos obtengan el consentimiento previo y expreso por escrito de los consumidores antes de realizar llamadas automáticas. La FCC quiere que las voces generadas por IA cumplan con estos mismos estándares. Se espera que los cinco miembros de la Comisión voten sobre la propuesta en las próximas semanas.
«La clonación de voz e imágenes generadas por IA ya están sembrando confusión al engañar a los consumidores haciéndoles pensar que las estafas y los fraudes son legítimos», dijo Rosenworcel en un comunicado. «No importa qué celebridad o político prefieras, o cuál sea tu relación con tus familiares cuando piden ayuda, es posible que todos seamos el objetivo de estas llamadas falsas».
Pindrop, empresa de detección de fraudes por voz analizado el mensaje falso de 39 segundos Eso sonó como si Biden les dijera a los residentes de New Hampshire que no votaran y descubrió que fue creado usando un motor de conversión de texto a voz creado por ElevenLabs. La startup utiliza software de inteligencia artificial para replicar voces en más de dos docenas de idiomas.
Bloomberg informes que ElevenLabs confirmó que su software fue utilizado en el incidente de New Hampshire y prohibió la cuenta responsable. La oficina del Fiscal General de New Hampshire ha anunciado una investigación sobre las llamadas falsas de Biden.
Un portavoz de la FCC dijo que el posible cambio a la ley otorgará a los fiscales generales estatales nuevos poderes en la lucha contra los estafadores de llamadas automáticas que utilizan inteligencia artificial y, al mismo tiempo, protegerán a los consumidores.
La FCC lleva años luchando contra las llamadas automáticas. En diciembre de 2022, propuso un $300 millones multa contra una operación transnacional ilegal de llamadas automáticas que realizó más de cinco mil millones de llamadas automáticas a más de 500 millones de números de teléfono en un período de tres meses en 2021. También hubo una $225 millones multa por llamadas automáticas engañosas realizadas en 2020.
Generar las voces de los familiares se ha convertido en una táctica popular entre los delincuentes que buscan robar dinero a víctimas desprevenidas. Este crimen ha sido en el aumento a medida que las tecnologías de IA generativa se vuelven más fáciles de adquirir, más baratas y más convincentes.
