Una patata caliente: El discurso sobre el Estado de la Unión de Joe Biden anoche cubrió varios temas relacionados con la tecnología, incluida la clonación de voz mediante IA. El presidente pidió una «prohibición de la suplantación de voces por parte de la IA», lo cual no es demasiado sorprendente dado que alguien usó su voz para intentar influir en una elección a principios de este año.
«Aquí en casa, he firmado más de 400 proyectos de ley bipartidistas. Hay más para aprobar mi agenda de unidad», dijo el presidente Biden durante el Estado de la Unión. Luego mencionó algunas de las propuestas que pretende abordar en caso de ser elegido para un segundo mandato: «Reforzar las penas contra el tráfico de fentanilo, aprobar una legislación bipartidista sobre privacidad para proteger a nuestros niños en línea, aprovechar la promesa de la IA para protegernos del peligro». , prohibir la suplantación de voz por IA y más».
Biden tiene una buena razón para pedir la prohibición de la clonación de voz mediante IA. En enero, un vídeo de 39 segundos llamada automática se dirigió a los votantes de New Hampshire diciéndoles que no votaran en las elecciones primarias demócratas, sino que «guardaran sus votos» para las elecciones presidenciales de noviembre. La voz que daba este consejo sonaba casi exactamente como la de Joe Biden. La empresa de detección de fraudes de voz Pindrop analizó posteriormente la llamada y concluyó que fue creada utilizando un motor de conversión de texto a voz creado por ElevenLabs, lo cual confirmó la compañía.
El incidente llevó a la FCC a utilizar voces generadas por IA en llamadas automáticas. ilegal en virtud de la Ley de Protección al Consumidor Telefónico de 1991. La agencia citó preocupaciones de que la tecnología se estuviera utilizando para confundir y engañar a los consumidores imitando las voces de «celebridades, candidatos políticos y familiares cercanos».
El alcance de la prohibición propuesta por Biden no está claro. Podría limitarse a determinadas áreas, como la imitación de políticos, pero el presidente parece estar hablando de una prohibición total de las suplantaciones de voz por parte de la IA, lo que tendría efectos de largo alcance.
Más allá de la política, el uso de la IA para recrear las voces y la imagen de los actores fue uno de los temas detrás de la huelga de actores de SAG-AFTRA. Terminó después de un acuerdo que garantizaba que los actores dieran su consentimiento y recibieran una compensación justa cuando se utilizaran sus réplicas de IA, aunque no todos estaban contentos con el acuerdo.
