Detectar cuándo se ha generado texto mediante herramientas como ChatGPT es una tarea difícil. Popular inteligencia artificial-Las herramientas de detección, como GPTZero, pueden proporcionar cierta orientación a los usuarios al decirles cuándo algo fue escrito por un bot y no por un humano, pero incluso el software especializado no es infalible y puede arrojar falsos positivos.
Como periodista que comenzó a cubrir la detección de IA hace más de un año, quería seleccionar algunos de los mejores artículos de WIRED sobre el tema para ayudar a lectores como usted a comprender mejor este complicado tema.
Tiene aún más preguntas sobre cómo detectar resultados de ChatGPT y otros herramientas de chatbot? Regístrate en mi Boletín AI desbloqueadoy comuníquese conmigo directamente si tiene cualquier cosa relacionada con la IA que le gustaría responder o desea que WIRED explore más.
febrero de 2023 por Reece Rogers
En este artículo, que fue escrito aproximadamente dos meses después del lanzamiento de ChatGPT, comencé a lidiar con las complejidades de la detección de texto con IA, así como con lo que significa Revolución de la IA podría significar para los escritores que publican en línea. Edward Tian, el fundador detrás GPTZerohabló conmigo sobre cómo su detector de IA se enfoca en factores como la variación del texto y la aleatoriedad.
Mientras lee, concéntrese en la sección sobre marcas de agua de texto: «Una marca de agua podría designar ciertos patrones de palabras para que estén fuera del alcance del generador de texto de IA». Si bien era una idea prometedora, los investigadores con los que hablé ya se mostraban escépticos sobre su posible eficacia.
Septiembre de 2023 por Christopher Beam
Este artículo, una pieza fantástica de la edición de octubre del año pasado de WIRED, le brinda una mirada interna a la mentalidad de Edward Tian mientras trabajaba para expandir el alcance y las capacidades de detección de GPTZero. El enfoque en cómo La IA ha impactado el trabajo escolar Es crucial.
La detección de texto mediante IA es una prioridad para muchos educadores de aula cuando califican trabajos y, potencialmente, renuncian por completo a las tareas de ensayo debido a que los estudiantes utilizan en secreto chatbots para completar las tareas. Si bien algunos estudiantes pueden utilizar la IA generativa como herramienta de lluvia de ideas, otros la utilizan para fabricar tareas enteras.
Septiembre de 2023 por Kate Knibbs
¿Tienen las empresas la responsabilidad de señalar los productos que podrían generarse mediante IA? Kate Knibbs investigó cómo se ponía a la venta en Internet libros generados por IA que podrían violar los derechos de autor. Amazonas, aunque algunas empresas emergentes creían que los productos podían detectarse con un software especial y eliminarse. Uno de los debates centrales sobre la detección de IA gira en torno a si el potencial de falsos positivos (texto escrito por humanos que accidentalmente se marca como trabajo de IA) supera los beneficios de etiquetar contenido generado algorítmicamente.
Agosto de 2023 por Amanda Hoover
Más allá de las tareas escolares, el texto generado por IA aparece cada vez más en revistas académicas, donde a menudo está prohibido sin un divulgación adecuada. “Los artículos escritos con IA también podrían desviar la atención del buen trabajo al diluir el conjunto de literatura científica”, escribe Amanda Hoover. Una posible estrategia para abordar este problema es que los desarrolladores creen herramientas de detección especializadas que busquen contenido de IA en artículos revisados por pares.
Octubre de 2023 por Kate Knibbs
Cuando hablé por primera vez con investigadores en febrero pasado sobre marcas de agua para la detección de texto por IA, se mostraron esperanzados pero cautelosos sobre la posibilidad de imprimir texto de IA con patrones de lenguaje específicos que son indetectables para los lectores humanos pero obvios para el software de detección. Mirando hacia atrás, su temor parece bien fundamentado.
Solo medio año después, Kate Knibbs habló con múltiples fuentes que estaban rompiendo marcas de agua de IA y demostrando su debilidad subyacente como estrategia de detección. Si bien no se garantiza que fracase, la aplicación de marcas de agua al texto de IA sigue siendo difícil de lograr.
Abril de 2024 por Amanda Hoover
Una herramienta que los profesores están intentando utilizar para detectar el trabajo en el aula generado por IA es Turnitín, un software de detección de plagio que agregó capacidades de detección de IA. (Turnitin es propiedad de Advance, la empresa matriz de Condé Nast, que publica WIRED). Amanda Hoover escribe: “Chechitelli dice que la mayoría de los clientes del servicio han optado por comprar la detección de IA. Pero los riesgos de falsos positivos y prejuicios contra los estudiantes de inglés han llevado a algunas universidades a deshacerse de las herramientas por ahora”.
Es más probable que los detectores de IA etiqueten falsamente el contenido escrito de alguien cuyo primer idioma no es el inglés como IA que la de alguien que es un hablante nativo. A medida que los desarrolladores continúan trabajando para mejorar los algoritmos de detección de IA, el problema de los resultados erróneos sigue siendo un obstáculo fundamental que hay que superar.
