WhatsApp pronto obtendrá una importante característica de seguridad que ayudará a los usuarios de la India a evitar información errónea, especialmente la generada por inteligencia artificial (IA) y deepfakes. Meta y la Misinformation Combat Alliance (MCA) anunciaron el lunes que pronto lanzarán una línea de ayuda en WhatsApp donde los usuarios podrán denunciar todos estos casos. El desarrollo se produce pocos días después de que 20 empresas tecnológicas líderes, incluidas Meta, Amazon, Google y Microsoft, prometido trabajar juntos para detectar y contrarrestar el contenido dañino de IA antes de las elecciones mundiales de 2024.
MCA, una colaboración entre industrias organización Centrado en eliminar la información errónea, se asoció con Meta para trabajar en esta nueva característica de seguridad. La línea de ayuda de WhatsApp será un chatbot donde cualquier usuario podrá comunicarse fácilmente e informar un mensaje que difunda información errónea o sea un deepfake. falsificaciones profundas son contenidos generados por IA, principalmente en formato de imagen o vídeo, que se hacen pasar por otra persona o manipulan objetos y hechos para engañar a los espectadores. A menudo, dicho contenido se hace hiperrealista y puede infundir paranoia y frenesí en grupos grandes.
La MCA establecerá una «unidad central de análisis de deepfake» que trabajará en estrecha colaboración con sus organizaciones miembro de verificación de datos y evaluará y verificará cada mensaje reportado. Si se descubre que el contenido reportado es información errónea o una falsificación profunda generada por IA, será desacreditado y los mensajes podrían eliminarse. El chatbot estará disponible en inglés y en tres idiomas regionales de la India, incluidos hindi, tamil y telugu.
Según el comunicado, el objetivo de la iniciativa es implementar un enfoque de cuatro pilares: detección, prevención, notificación y concienciación en la conducción. Se espera que la línea de ayuda de WhatsApp mejore la accesibilidad a información confiable y ofrezca un lugar para verificar mensajes. Se dice que la función estará disponible en marzo de 2024.
Meta también ejecuta múltiples programas de verificación de datos en India y se ha asociado con 11 agencias independientes dedicadas a la tarea y a ayudar a los usuarios a prevenir la difusión de información errónea en sus plataformas. En WhatsApp, los usuarios ya tenían la opción de marcar un mensaje a más de 50 organizaciones miembros de IFCN (International Fact-Checking Network) para verificar información. Además, muchas agencias de verificación de datos ejecutan sus canales de WhatsApp que los usuarios pueden seguir para encontrar información verificada y confiable de manera oportuna. La plataforma de mensajería instantánea también limita la difusión de información errónea al mantener un límite máximo para los mensajes reenviados.