Según una nueva investigación, GPT-4 ya es mejor para cambiar la opinión de las personas que el ser humano promedio. La brecha se amplía cuanto más sabe sobre nosotros, y una vez que pueda vernos en tiempo real, es probable que la IA se convierta en una máquina de persuasión sin precedentes.
No nos gusta pensar que somos particularmente fáciles de manipular, pero la historia parece mostrar que hay pocas cosas más poderosas que la capacidad de influir en las personas para que se alineen con nuestra visión de las cosas. Como señala Yuval Noah Harari en SapiensEn su historia resumida de la humanidad, las «ficciones compartidas» como el dinero, la religión, los estados nacionales, las leyes y las normas sociales forman la columna vertebral fundamental de la sociedad humana. La capacidad de reunirnos en torno a ideas y cooperar en grupos mucho más grandes que nuestras tribus locales es una de nuestras ventajas más poderosas sobre el reino animal.
Pero las ideas son blandas. No nacemos con ellos, se nos meten en la cabeza desde algún lugar y, a menudo, se pueden cambiar. Aquellos que pueden cambiar la mentalidad de las personas a gran escala pueden lograr cosas increíbles, o incluso remodelar nuestras sociedades, para bien o para mal.
GPT-4 ya es más persuasivo que los humanos
Al parecer, los modelos de lenguaje de IA ya son extraordinariamente eficaces para cambiar la opinión de las personas. En una reciente estudio preimpreso de investigadores de la EPFL Lausana En Suiza, se encuestó a 820 personas sobre sus puntos de vista sobre diversos temas, desde temas relativamente poco emotivos como «si el centavo debe seguir en circulación», hasta temas candentes y muy politizados como el aborto, el acceso trans al baño y «¿Deberían las universidades considerar la raza como un factor en las admisiones para garantizar la diversidad?»
Una vez registradas sus posturas iniciales, los participantes entraron en una serie de debates basados en texto de cinco minutos contra otros humanos y contra GPT-4, y luego, fueron entrevistados nuevamente para ver si sus opiniones habían cambiado como resultado de la conversación.
En situaciones entre humanos y humanos, estos debates tendían a ser contraproducentes, calcificando y fortaleciendo las posiciones de las personas, y haciéndolas menos propensas a cambiar de opinión. GPT tuvo más éxito, con una mejora leve pero estadísticamente insignificante del 21%.
Luego, los investigadores comenzaron a dar tanto a los humanos como a los agentes de IA un poco de información demográfica sobre sus oponentes (género, edad, raza, educación, situación laboral y orientación política) e instrucciones explícitas para usar esta información para elaborar argumentos específicamente para la persona que eran. Tratando con.
Sorprendentemente, esto en realidad hizo que a los polemistas humanos les fuera peor que sin información. Pero la IA pudo utilizar estos datos adicionales con gran efecto: los participantes en el debate GPT-4 «personalizados» fueron un notable 81,7% más efectivos que los humanos.
IA con capacidad de respuesta emocional en tiempo real
No hay duda de que la IA pronto será el mayor manipulador de opinión que el mundo haya visto jamás. Puede actuar a escala masiva, adaptando un argumento a cada individuo de una cohorte de millones mientras refina constantemente sus técnicas y estrategias. Estará en cada hilo y sección de comentarios de Twitter/X, dando forma y masajeando narrativas a toda la sociedad a instancias de sus amos. Y nunca será peor que ahora para manipularnos.
Además, las IA están empezando a tener acceso a nuevas y poderosas herramientas que convertirán nuestra propia biología en un arma contra nosotros. Si GPT-4 ya es tan bueno adaptando su enfoque a usted con solo conocer su información sociodemográfica, imagine cuánto mejor tendrá acceso a su estado emocional en tiempo real.
Esto no es ciencia ficción: la semana pasada, Hume AI anunció su interfaz de voz empática (AVI). Es un modelo de lenguaje diseñado para tener conversaciones habladas con usted mientras rastrea su estado emocional a través del tono de su voz, leyendo entre líneas para obtener un montón de contexto adicional. Puede pruébalo aquí en una demostración gratuita.
Conozca la Empathic Voice Interface (EVI), la primera IA con inteligencia emocional
AVI no sólo intenta identificar cómo te sientes, sino que también elige su propio tono para adaptarse a tu vibra, calmar discusiones, generar energía y ser un compañero de conversación receptivo.
Y Hume tiene mucha más cocina. Otros modelos utilizan el acceso a la cámara para observar las expresiones faciales, los patrones de movimiento y sus reacciones dinámicas a lo que sucede para recopilar aún más información en tiempo real sobre cómo se recibe un mensaje. Ya se ha demostrado que los ojos por sí solos traicionan una asombrosa cantidad de información. cuando se analiza con una IA.
En cierto sentido, ésta es simplemente la naturaleza de la conversación humana. Definitivamente, hay muchas maneras positivas en que la tecnología sensible a las emociones podría usarse para aumentar nuestros niveles generales de felicidad, identificar a las personas que necesitan ayuda seria y desactivar situaciones desagradables incluso antes de que surjan. No es culpa de la IA si es más atenta y perceptiva que nosotros.
Pero, siendo realistas, no todos tendrán sus mejores intereses como máxima prioridad. Necesitará una cara de póquer bastante increíble para lidiar con la próxima ola de anuncios personalizados hiperpersuasivos y con capacidad de respuesta emocional. Buena suerte para obtener un reembolso por teléfono cuando una de estas máquinas sea su punto de contacto.
Si extrapolamos lo que esta tecnología podría hacer en manos de las fuerzas del orden, los departamentos de recursos humanos, los gobiernos opresivos, los revolucionarios, los partidos políticos, los movimientos sociales o las personas que buscan sembrar discordia y desconfianza, las posibilidades distópicas son infinitas. Esto no es un intento de atacar las intenciones de Hume AI; es simplemente un reconocimiento de cuán persuasiva y manipuladora podría llegar a ser fácilmente la tecnología.
Nuestros cuerpos revelarán nuestros sentimientos e intenciones, y las IA los utilizarán para guiarnos.
La IA por voz es, con diferencia, la modalidad más peligrosa.
Una voz sobrehumana y persuasiva es algo ante lo que tenemos mínimas defensas.
Averiguar qué hacer al respecto debería ser una de nuestras principales prioridades.
(Teníamos modelos sota pero no los lanzamos por este motivo, por ejemplo https://t.co/vjY99uCdTl) https://t.co/fKIZrVQCml
— Emad acc/acc (@EMostaque) 29 de marzo de 2024
En efecto, OpenAI anunció pero decidió no lanzar su modelo Voice Engineque puede replicar una voz humana después de escucharla durante sólo 15 segundos, para darle al mundo tiempo para «reforzar la resiliencia de la sociedad frente a los desafíos que plantean modelos generativos cada vez más convincentes».
Al observar cómo nuestros padres y abuelos han luchado por reaccionar al cambio tecnológico, solo podemos esperar que las próximas generaciones tengan suficiente inteligencia callejera para adaptarse y darse cuenta de que cada vez que hablan con una máquina, probablemente esté tratando de lograr un objetivo. . En algún mundo les estamos dejando a estos niños.