A raíz de que el presidente estadounidense Joe Biden aparentemente llamara a los residentes de New Hampshire para decirles que no votaran en las primeras elecciones primarias presidenciales del estado en el país, la Comisión Federal de Comunicaciones (FCC) anunció el 8 de febrero que, con efecto inmediato, Las llamadas automáticas realizadas con voces generadas por IA son ilegales.
Cuando los teléfonos empezaron a sonar en los hogares de New Hampshire el 21 de enero, dos días antes de las primarias presidenciales republicanas de 2024, muchos residentes probablemente no esperaban escuchar al presidente Biden decirles que se quedaran en casa y reservaran su voto para las elecciones de noviembre. Por supuesto, no era el verdadero Biden; fue una llamada automática usando una voz generada por IA. Pero es probable que algunos hayan sido engañados.
En respuesta al engaño, el 6 de febrero, la Comisión Federal de Comunicaciones (FCC) emitió una carta de cese y desistimiento a Lingo Telecom, una empresa de Texas que realizaba las llamadas automáticas en su red telefónica, y a otra entidad de Texas, Life Corporation, que supuestamente realizó las llamadas automáticas. Dos días después, anunciaron una sentencia declaratoria apoyada unánimemente según la cual las llamadas realizadas con voces generadas por IA son “artificiales” y, por lo tanto, ilegales según la Ley de Protección al Consumidor Telefónico (TCPA). El fallo entró en vigor inmediatamente el día de su anuncio.
«Los malos actores están utilizando voces generadas por IA en llamadas automáticas no solicitadas para extorsionar a familiares vulnerables, imitar a celebridades y desinformar a los votantes», dijo la presidenta de la FCC, Jessica Rosenworcel. “Estamos avisando a los estafadores detrás de estas llamadas automáticas. Los Fiscales Generales del Estado ahora tendrán nuevas herramientas para combatir estas estafas y garantizar que el público esté protegido contra el fraude y la desinformación”.
Antes, los Fiscales Generales del Estado solo podían centrarse en el resultado de una llamada automática generada por IA: la estafa o fraude que el autor de la llamada automática buscaba o perpetraba. Con este fallo, el uso de la IA en sí se vuelve ilegal, ampliando las vías legales disponibles para que las agencias encargadas de hacer cumplir la ley responsabilicen a los perpetradores. Ahora, antes de realizar llamadas automáticas utilizando una voz generada por IA, un estafador debe tener el consentimiento expreso y por escrito de la persona a la que llama.
Las llamadas automáticas han molestado a la gente durante mucho tiempo sin la ayuda de la tecnología. Pero las mejoras exponenciales en la IA en los últimos años han significado que las llamadas automáticas generadas por voz con IA ahora parezcan más realistas. Cuando se pone en manos de un «mal actor», ese nivel de credibilidad significa que es más probable que alguien que reciba una llamada generada por voz con IA entregue sus datos personales, números de seguridad social o de tarjetas de crédito.
Un vídeo de una empresa de software que ya tiene 12 meses oncelabs Mostrar su tecnología de conversión de voz le da una idea de lo que la IA es capaz de hacer, y solo mejorará. Cuanto más mejore, más difícil será detectar contenido generado por IA.
Demostración de conversión de voz AI | Once laboratorios
Que alguien haya generado una réplica que suene realista de la voz de una figura prominente como Biden arrojó gran luz sobre el problema. Si bien la FCC ya había lanzado su Aviso de investigación sobre llamadas automáticas cuando ‘Biden’ estaba haciendo llamadas telefónicas, el incidente probablemente les destacó la amenaza que representa para la democracia la suplantación de figuras políticas por parte de la IA. La Prensa Asociada reportado que Gail Huntley, residente de New Hampshire, de 73 años, estaba convencida de que la voz al otro lado del teléfono era la del presidente, y se dio cuenta de que era una estafa sólo cuando lo que decía no tenía sentido.
“No pensé en ese momento que no era su voz real”, dijo Huntley. «Así de convincente fue».
Si el falso Biden convenció al menos a algunos habitantes de New Hampshire de que no deberían votar en las próximas elecciones, ¿qué sigue?
El día que anunció su fallo que prohíbe las llamadas automáticas generadas por IA, la FCC publicó un guía en línea para los consumidores, educándolos sobre las falsificaciones profundas y brindándoles 12 consejos para evitar estafas de llamadas automáticas y textos automáticos. “Probablemente hayas oído hablar de la Inteligencia Artificial, comúnmente conocida como IA”, comienza la guía. «Bueno, los estafadores también lo han hecho, y ahora están usando IA para que parezca que están llamando celebridades, funcionarios electos o incluso sus propios amigos y familiares».
Quienes violen la nueva ley de la FCC se enfrentan a fuertes multas, emitidas «por llamada», y la Comisión puede tomar medidas para bloquear las llamadas de los operadores telefónicos que facilitan las llamadas automáticas. Además, la TCPA permite a los consumidores individuales o a una organización presentar una demanda contra los llamadores automáticos para recuperar daños y perjuicios por cada llamada no deseada.
El tiempo dirá si la nueva ley frustra los robocallers generados por IA.
Fuente: FCC
