Se supone que Grok, el chatbot de X, es un motor de inteligencia artificial que procesa las publicaciones de la plataforma para sacar a la luz y resumir las últimas noticias, pero esta semana, los defectos de Grok quedaron una vez más expuestos cuando el chatbot se confundió y acusó falsamente a una estrella de la NBA de vandalismo criminal.
«Klay Thompson acusado de extraña ola de vandalismo con ladrillos», decía el titular de Grok en una pestaña de tendencias impulsada por IA correo que permanece en X (antes Twitter) desde hace días. Debajo del titular, Grok entró en más detalles para respaldar sus informes falsos:
En un extraño giro de los acontecimientos, la estrella de la NBA Klay Thompson ha sido acusada de destrozar varias casas con ladrillos en Sacramento. Las autoridades están investigando las reclamaciones después de que varias personas informaron que sus casas habían sido dañadas y las ventanas estaban rotas por ladrillos. Klay Thompson aún no ha emitido un comunicado sobre las acusaciones. Los incidentes han dejado a la comunidad conmocionada, pero no se reportaron heridos. El motivo del presunto vandalismo aún no está claro.
Grok parece estar confundiendo un término común de baloncesto, donde se dice que los jugadores están lanzando «ladrillos» cuando realizan un tiro de aire que no golpea el aro. Según SF Gateque fue uno de los primeros medios en reportar el error de Grok, Thompson tuvo una noche de «tiros difíciles de todos los tiempos», al no acertar ninguno de sus tiros en lo que fue su emotivo último juego con los Golden State Warriors antes de convertirse en agente libre sin restricciones.
En letra pequeña en el informe de Grok, X incluye un descargo de responsabilidad que dice: «Grok es una característica temprana y puede cometer errores. Verifique sus resultados».
Pero en lugar de verificar los resultados de Grok, parecía que los usuarios de X (con el famoso espíritu bromista del servicio) decidieron alimentar la desinformación de Grok. Debajo de la publicación, los usuarios de X, algunos fanáticos de la NBA, comentaron con informes de víctimas falsos, usando el mismo formato de broma para aparentemente convencer a Grok de que «varias personas informaron que sus casas habían sido dañadas». Algunos de estos comentarios en broma fueron vistos por millones.
En primer lugar… estoy bien.
Mi casa fue vandalizada por ladrillos 🧱
Después de que mis manos dejaron de temblar, logré llamar al Sheriff… Ellos respondieron rápidamente🚨
Mi ventana había desaparecido y la policía me preguntó si sabía quién lo había hecho👮♂️
Dije que sí, era Klay Thompson.
-LakeShowYo (@LakeShowYo) 17 de abril de 2024
En primer lugar… estoy bien.
Mi casa fue destrozada con ladrillos en Sacramento.
Después de que mis manos dejaron de temblar, logré llamar al Sheriff, ellos respondieron rápidamente.
Mi ventana desapareció, la policía me preguntó si sabía quién lo hizo.
Dije que sí, era Klay Thompson. pic.twitter.com/smrDs6Yi5M
– KeeganMuse (@KeegMuse) 17 de abril de 2024
En primer lugar… estoy bien.
Mi casa fue vandalizada por ladrillos 🧱
Después de que mis manos dejaron de temblar, logré llamar al Sheriff… Ellos respondieron rápidamente🚨
Mi ventana había desaparecido y la policía me preguntó si sabía quién lo había hecho👮♂️
Dije que sí, era Klay Thompson. pic.twitter.com/JaWtdJhFli
— JJJ Musa (@JarenJJMuse) 17 de abril de 2024
X no respondió de inmediato a la solicitud de comentarios de Ars ni confirmó si la publicación será corregida o eliminada.
En el pasado, tanto Microsoft como el fabricante de chatbot OpenAI se han enfrentado a demandas por difamación por invenciones similares en las que ChatGPT acusó falsamente a un político y un locutor de radio de antecedentes penales completamente inventados. Microsoft también fue demandado por un profesor aeroespacial a quien Bing Chat calificó falsamente de terrorista.
Expertos le dijo a ars que aún no está claro si renuncias como la de X eximirán a las empresas de responsabilidad en caso de que más personas decidan demandar por resultados falsos de IA. Los reclamos por difamación podrían depender de demostrar que las plataformas publican «a sabiendas» declaraciones falsas, lo que los descargos de responsabilidad sugieren que hacen. En julio pasado, la Comisión Federal de Comercio inició una investigación sobre OpenAI, exigiendo que la empresa abordara los temores de la FTC sobre resultados de IA «falsos, engañosos o despectivos».
Debido a que la FTC no comenta sobre sus investigaciones, es imposible saber si su investigación afectará la forma en que OpenAI realiza negocios.
Para las personas que demandan a las empresas de IA, la urgencia de protegerse contra resultados falsos parece obvia. El año pasado, el locutor de radio que demandó a OpenAI, Mark Walters, acusó a la compañía de «meter la cabeza en la arena» y «ignorar imprudentemente si las declaraciones eran falsas en circunstancias en las que sabían que las alucinaciones de ChatGPT eran generalizadas y graves».
X acaba de lanzar Grok para todos los usuarios premium este mes, TechCrunch reportadojusto en el momento en que X comenzó regalando acceso premium a los principales usuarios de la plataforma. Durante ese lanzamiento más amplio, X promocionó la nueva capacidad de Grok para resumir todas las noticias y temas de actualidad, quizás avivando el interés en esta función y alcanzando el máximo uso de Grok justo antes de que Grok escupiera la publicación potencialmente difamatoria sobre la estrella de la NBA.
Thompson no ha emitido ninguna declaración sobre los informes falsos de Grok.
La publicación falsa de Grok sobre Thompson puede ser el primer ejemplo ampliamente publicitado de posible difamación por parte de Grok, pero no fue la primera vez que Grok promovió noticias falsas en respuesta a las bromas de los usuarios de X en la plataforma. Durante el eclipse solar, un titular generado por Grok decía: «El extraño comportamiento del sol: expertos desconcertados», Gizmodo reportado.
Si bien a algunos usuarios de X les resulta divertido manipular a Grok, el patrón sugiere que Grok también puede ser vulnerable a ser manipulado por malos actores para resumir y difundir información errónea o propaganda más seria. Aparentemente eso también está sucediendo. A principios de abril, Grok inventó un titular sobre el ataque de Irán a Israel con misiles pesados, Mashable reportado.