Dos adolescentes de Miami, Florida, fueron arrestados en diciembre por supuestamente crear y compartir sin consentimiento imágenes de desnudos de compañeros de clase masculinos y femeninos generadas por IA, según informes policiales obtenidos por WIRED a través de una solicitud de registro público.
Los informes de arresto dicen que los niños, de 13 y 14 años, crearon imágenes de los estudiantes que tenían “entre 12 y 13 años”.
El caso de Florida parece ser el primer arresto y cargos criminales que salen a la luz como resultado del presunto intercambio de imágenes de desnudos generadas por IA. Los niños fueron acusados de delitos graves de tercer grado (el mismo nivel de delitos que el hurto mayor de automóviles o el encarcelamiento falso) bajo un Ley del Estado aprobada en 2022, lo que convierte en delito grave compartir “cualquier representación sexual alterada” de una persona sin su consentimiento.
El padre de uno de los niños arrestados no respondió a una solicitud de comentarios a tiempo para su publicación. El padre del otro niño dijo que “no tenía comentarios”. El detective asignado al caso y el fiscal estatal a cargo del caso no respondieron a los comentarios a tiempo para su publicación.
A medida que las herramientas de creación de imágenes de IA se han vuelto más disponibles, ha habido varios incidentes de alto perfil en los que menores supuestamente crearon imágenes de desnudos de compañeros de clase generadas por IA y las compartieron sin consentimiento. No se han revelado arrestos en los casos reportados públicamente—al menos Escuela secundaria de Issaquah en Washington, Escuela secundaria Westfield en Nueva Jersey, y Escuela secundaria Beverly Vista en California, a pesar de que se presentaron informes policiales. En la escuela secundaria Issaquah, la policía optó por no presentar cargos.
Los primeros informes de los medios sobre el caso de Florida aparecieron en diciembre, diciendo que los dos niños fueron suspendidos de la Academia Pinecrest Cove en Miami durante 10 días después de que los administradores de la escuela se enteraran de las acusaciones de que habían creado y compartido imágenes falsas de desnudos sin consentimiento. Después de que los padres de las víctimas se enteraron del incidente, varios comenzó a instar públicamente la escuela para expulsar a los niños.
Nadia Khan-Roberts, la madre de una de las víctimas, le dijo a NBC Miami en diciembre que para todas las familias cuyos hijos fueron víctimas el incidente fue traumatizante. “Nuestras hijas no se sienten cómodas caminando por los mismos pasillos con estos niños”, dijo. “Me hace sentir violada, me siento aprovechada [of] y me siento utilizada”, dijo una víctima que pidió permanecer en el anonimato. le dijo a la estación de televisión.
WIRED obtuvo registros de arresto esta semana que dicen que el incidente fue reportado a la policía el 6 de diciembre de 2023 y que los dos niños fueron arrestados el 22 de diciembre. Los registros acusan a la pareja de usar “una aplicación de inteligencia artificial” para hacer que las imágenes falsas sean explícitas. . El nombre de la aplicación no se especificó y los informes afirman que los niños compartieron las imágenes entre ellos.
“El incidente fue reportado a un administrador de la escuela”, dicen los informes, sin especificar quién lo reportó, ni cómo esa persona se enteró de las imágenes. Después de que el administrador de la escuela «obtuvo copias de las imágenes alteradas», entrevistó a las víctimas representadas en ellas, dicen los informes, quienes dijeron que no dieron su consentimiento para que se crearan las imágenes.
Después de su arresto, los dos niños acusados de tomar las imágenes fueron transportados al Departamento de Servicios Juveniles «sin incidentes», dicen los informes.
A puñado de estados Tenemos leyes en los libros que apuntan a imágenes de desnudos falsos y no consensuales. No existe ninguna ley federal que apunte a esta práctica, pero un grupo de senadores estadounidenses recientemente presentó un proyecto de ley para combatir el problema después Imágenes falsas desnudas de Taylor Swift. fueron creados y distribuidos ampliamente en X.
Los niños fueron acusados bajo un ley de florida Aprobado en 2022, que los legisladores estatales diseñaron para frenar el acoso que involucra imágenes ultrafalsas creadas con herramientas impulsadas por inteligencia artificial.
Stephanie Cagnet Myron, una abogada de Florida que representa a víctimas de imágenes de desnudos compartidas sin consentimiento, le dice a WIRED que cualquiera que cree imágenes falsas de desnudos de un menor estaría en posesión de material de abuso sexual infantil, o CSAM. Sin embargo, afirma que es probable que los dos niños acusados de crear y compartir el material no hayan sido acusados de posesión de CSAM debido a su edad.
«Hay específicamente varios delitos que se pueden imputar en un caso, y realmente hay que evaluar cuál es la mayor probabilidad de ganar, qué tiene la mayor probabilidad de éxito y, si incluye demasiados cargos, simplemente confundirá al jurado». ?” -añadió Cagnet Myron.
Mary Anne Franks, profesora de la Facultad de Derecho de la Universidad George Washington y abogada que ha estudiado el problema de las imágenes explícitas no consensuales, dice que es «extraño» que la ley de pornografía de venganza de Florida, que es anterior al estatuto de 2022 bajo el cual se acusaron a los niños, sólo convierte el delito en un delito menor, mientras que esta situación representaba un delito grave.
«Me resulta realmente extraño que se impongan sanciones más severas a las fotografías de desnudos falsos que a las reales», afirma.
Franks añade que, aunque cree que la distribución de imágenes explícitas falsas no consensuadas debería ser un delito penal, creando así un efecto disuasorio, no cree que los infractores deban ser encarcelados, especialmente los menores.
“Lo primero en lo que pienso es en lo jóvenes que son las víctimas y en lo que me preocupa el tipo de impacto que sufrirán”, dice Franks. «Pero entonces [I] También nos preguntamos si arrojarles el libro a los niños realmente será efectivo aquí”.
Esta historia apareció originalmente en cableado.com.