La IA “no es abierto en cualquier sentido”, la batalla sobre el cifrado está lejos de estar ganada, y el enfoque basado en principios (e inflexible) de Signal puede complicar los esfuerzos de interoperabilidad, advirtió la presidenta de la compañía, Meredith Whittaker. Pero no todo son malas noticias.
(En realidad, todo son malas noticias, porque yo Escribí las buenas noticias por separado..)
Hablando conmigo en el escenario en StrictlyVC LAWhittaker calificó el resurgimiento de los ataques legislativos al cifrado como «pensamiento mágico».
“Estamos viendo una serie de leyes, diría yo, provincianas y muy motivadas políticamente, a menudo indexadas en la idea de proteger a los niños. Y estos se han utilizado para impulsar algo que en realidad es un deseo muy antiguo de los servicios de seguridad, los gobiernos autócratas, que es implementar sistemáticamente un cifrado fuerte mediante una puerta trasera”, dijo Whittaker. «Creo que a menudo, impulsado por personas bien intencionadas que simplemente no tienen el conocimiento o la educación para comprender las implicaciones de lo que están haciendo, eso podría eliminar fundamentalmente la capacidad de comunicarse de forma privada y digital».
Irónicamente, o quizás cínicamente, uno de los factores que lo han animado ha sido una década de llamados a las empresas de tecnología para que asuman más responsabilidad.
“El tema general que estoy viendo es un profundo deseo de responsabilidad en la tecnología, que vimos bastante animado a mediados de la década de 2010. Eso, entonces, se ha convertido en un arma, y creo que estamos viendo vino de vigilancia en botellas de rendición de cuentas”, afirmó.
“La ‘rendición de cuentas’ parece más monitores, más controles, más puertas traseras, más eliminación de lugares donde las personas pueden expresarse o comunicarse libremente, en lugar de verificar realmente los modelos de negocios que han creado, ya sabes, plataformas masivas cuyas modalidades de publicidad de vigilancia pueden ser fácilmente armado para operaciones de información, doxing o lo que sea, ¿verdad? Hay una falta de voluntad para atacar la raíz del problema. Y en cambio, lo que vemos son efectivamente propuestas para extender la vigilancia a los sectores gubernamentales y de ONG en nombre de la rendición de cuentas”.
Una de esas propuestas surge a través de la Ley de poderes de investigación del Reino Unido, según la cual el gobierno del país amenaza con impedir cualquier actualización de la aplicación – globalmente – que considera una amenaza a su seguridad nacional.
“[The IPA] está reclamando efectivamente para el Reino Unido la capacidad de exigir que cualquier empresa de tecnología, en todas las jurisdicciones, consulte con el gobierno del Reino Unido antes de enviar un parche de seguridad, porque es posible que estén explotando ese parche en algún lugar para algún negocio que quieran seguir haciendo. Es una forma de pensamiento provinciano y mágico aquí”, dijo Whittaker.
“Es muy peligroso porque estamos amenazados con un retorno a antes de la liberalización del cifrado en 1999, una especie de paradigma de principios de los 90 en el que el gobierno tiene el monopolio del cifrado y el derecho a la privacidad digital. Y donde la capacidad de implementar cifrado o actualizaciones de privacidad o cualquier cosa que proteja y refuerce su servicio se convierte en algo para lo que debe obtener permiso del gobierno”.
«Y, sinceramente», añadió, «creo que necesitamos que la comunidad de capital de riesgo y las empresas de tecnología más grandes se involucren más en identificar la amenaza que esto representa para la industria y en contrarrestarla».
La presidenta de Signal, Meredith Whittaker, y Devin Coldewey en StrictlyVC LA. Créditos de imagen: TechCrunch
Una regulación que podría parecer tener sentido es el mandato de interoperabilidad de mensajería que se persigue en la UE a través de la Ley de Mercados Digitales. Pero esto también tiene peligros ocultos.
“Creo que el espíritu tiene mucho sentido. Pero, por supuesto, Signal no puede interoperar con otra plataforma de mensajería, sin que ésta aumente significativamente su nivel de privacidad”, incluso aquellas como WhatsApp que admiten cifrado de extremo a extremo y ya utilizan parcialmente el protocolo. “Porque no nos limitamos a cifrar el contenido de los mensajes utilizando el protocolo Signal. Ciframos metadatos, ciframos su nombre de perfil, su foto de perfil, quién está en su lista de contactos, con quién habla, cuándo habla con ellos. Ese tendría que ser el nivel de privacidad y seguridad acordado en todos los ámbitos con cualquier persona con la que interactuemos antes de que podamos dar nuestro consentimiento para interoperar”.
Existe el riesgo, explicó, de que suceda lo contrario, diluyendo la seguridad y la privacidad en nombre de la conveniencia. «En realidad, podría hacer caer el estándar de privacidad, creando una especie de monolito interoperativo que relega aún más a aquellos que exigen un estándar de privacidad con mucha integridad a una posición más marginal». (Por cierto, ella ridiculizó la idea de Apple obteniendo un pase y dejar cualquier régimen de ese tipo irremediablemente fragmentado.)
En el sector privado, Whittaker se apresuró a calificar de monopolista a la ascendente Nvidia.
«Es el monopolio de los chips y el monopolio de CUDA», dijo, refiriéndose a la arquitectura computacional patentada en el corazón de gran parte de la informática de alto rendimiento actual.
Le pregunté si cree que la empresa se ha vuelto peligrosa en su acumulación de poder.
“Quiero decir, tenemos muchos Spider-Men apuntándose unos a otros, ¿verdad? Ahora veo a Microsoft señalando con el dedo a Nvidia y diciendo, si estás preocupado por el monopolio, no mires al pobre Microsoft, mira a Nvidia, ellos son los indicados, y también miras a Google. Google publicó este tipo de misiva de relaciones públicas la semana pasada, sobre sus principios de acceso a la IA, y hablaban de que Google era la única empresa integrada verticalmente desde la tienda de aplicaciones hasta los chips. Y eso es verdad, ¿verdad? Pero luego Google publicó un par de días después, como si Microsoft fuera en realidad el monopolio porque tiene OpenAI y una especie de monopolio de Azure, ¿verdad?
“Entonces nadie es inocente aquí. Hay muchas cosas como, ‘Todos estamos tratando de encontrar al tipo que hizo esto…’” (es decir, el famoso meme del ‘chico del hot dog’ extraído de “Creo que deberías irte con Tim Robinson”).
“Creo que debemos reconocer que la IA depende de las grandes tecnologías. Requiere recursos de las grandes tecnologías. No está abierto en ningún sentido”, dijo. “Podemos ser honestos: si necesitas 100 millones de dólares para una sesión de capacitación, ese no es un recurso abierto, ¿verdad? Si necesita 100 millones de dólares para implementar a escala durante un mes, eso no está abierto, ¿verdad? Por eso debemos ser honestos acerca de cómo utilizamos estos términos. Pero no quiero que la desviación hacia Nvidia como la culpable de la semana reste valor a lo que estamos tratando con este poder masivamente concentrado”.
Puedes ver la entrevista completa a continuación.
