Los riesgos son cada vez mayores para las empresas que desarrollan AI en industrias altamente reguladas. En sectores como el sanitario y finanzasel cumplimiento no es sólo una obligación legal, sino un aspecto crucial para generar confianza e integridad entre las organizaciones y sus clientes.
Dado que los modelos de aprendizaje automático requieren cada vez más diversos datos (a menudo de múltiples fuentes en diferentes organizaciones) aumenta la necesidad de una solución compatible. Mientras los desarrolladores se apresuran a crear los modelos de aprendizaje automático más sofisticados, los custodios de datos buscan un medio para poner sus datos a disposición de estos desarrolladores y, por lo tanto, darse cuenta de su valor.
Una solución emergente es la gobernanza computacional, que describe la capacidad de controlar, supervisar y rastrear todos los aspectos de los cálculos sobre datos. Para las empresas que cuentan con terabytes de datos valiosos, la gobernanza computacional es una ruta para hacer que los datos estén disponibles para el aprendizaje automático, y al mismo tiempo se garantiza la gobernanza. seguridad y privacidad. Aunque es incipiente, podría ser un componente que permita desbloquear el potencial real de los datos para sus propietarios.
Cofundador y director ejecutivo de Apheris.
Definiendo tus controles
La gobernanza computacional permite a los custodios de datos (las organizaciones propietarias de los datos) establecer el nivel requerido de privacidad y definir controles de acceso a nivel computacional. Esto dicta quién puede ejecutar qué cálculos en cuáles de sus activos de datos y con qué propósito. En esencia, solo se pueden ejecutar sobre los datos cálculos autorizados que se alineen con los requisitos del custodio, lo que garantiza el cumplimiento de las regulaciones de privacidad e inteligencia artificial.
El resultado es que las empresas pueden monitorear y rastrear quién hace qué con sus datos, al mismo tiempo que mantienen la capacidad de los usuarios de los datos de actualizar sus modelos siempre que cumplan con las políticas de activos.
Esto es esencial por varias razones. En primer lugar, ayuda a las organizaciones a cumplir con regulaciones como GDPR e HIPAA, que exigen que las organizaciones protejan la privacidad y seguridad de los datos personales. La gobernanza computacional ayuda a las organizaciones a cumplir con estos requisitos al garantizar que solo las personas autorizadas tengan acceso computacional a los datos, que los datos solo se utilicen para fines aprobados y que los datos sin procesar nunca se compartan directamente.
Además, la gobernanza computacional desempeña un papel vital en el desarrollo de modelos de IA éticos y responsables. Por ejemplo, en el sector sanitario, significa que los modelos de IA pueden entrenarse únicamente con datos para fines que cumplan con las normas y al mismo tiempo garanticen la protección de la privacidad.
Poner a disposición los datos
Los datos son el linaje de las organizaciones modernas, pero son tan valiosos como los conocimientos que se pueden extraer de ellos.
Cada vez que se mueven datos, quedan expuestos a amenazas como el robo de datos y la interferencia de datos. Si se mueve fuera de su entorno al compartirse con otra organización, el propietario pierde el control de cómo se utilizan sus datos. Como resultado, los datos pierden gran parte de su valor para el propietario.
El aprendizaje federado es la forma de entrenar modelos de IA sin que los datos se muevan nunca de su ubicación segura, lo que permite a los custodios de datos ponerlos a disposición de los desarrolladores en un entorno seguro.
Mantener los datos de propiedad protegidos como un activo valioso es de vital importancia para organizaciones de todos los tamaños. Esto permite a los custodios de datos obtener más valor (ya sea comercializándolos o produciéndolos). Al no mover datos, el custodio mantiene el control total, se asegura de que usted cumpla con los requisitos de soberanía y residencia de los datos y conserva el valor comercial.
La capacidad de dejar datos donde residen también respalda el cumplimiento de regulaciones como el GDPR, que contiene leyes sobre la residencia de datos, y la Ley de IA de la UE, que tiene estrictos requisitos de privacidad.
¿Por qué las empresas no hacen esto ya?
Es probable que muchas empresas no utilicen métodos de gobernanza computacional simplemente porque desconocen la opción de retener el control de los datos mientras se envían algoritmos a los datos. En consecuencia, su forma de abordar las preocupaciones regulatorias es no hacer que los datos estén disponibles, optando así por permanecer en silos. Para que se produzca un cambio es necesario un cambio de mentalidad.
Los métodos compatibles para aprovechar los datos de los clientes a veces diluyen el valor inherente de sus datos, lo que obstaculiza su potencial para impulsar el avance de la IA. Como resultado, muchas organizaciones no cumplen con los requisitos de cumplimiento, especialmente en Europa.
La centralización de datos o nuevos acuerdos para compartir datos tal vez hayan permitido la colaboración de datos hasta cierto punto, pero estos acuerdos suelen ser largos y costosos y es poco probable que sigan siendo funcionales en el futuro, dado el ritmo de los cambios regulatorios y los avances tecnológicos.
Las empresas se encuentran en una encrucijada: ¿priorizan el cumplimiento o la innovación?
Dar el siguiente paso para abordar los mayores problemas de la sociedad
En un entorno regulatorio cambiante, ser ágil y al mismo tiempo cumplir con las normas no es sólo una aspiración, sino un imperativo empresarial fundamental. La gobernanza computacional puede servir como catalizador para que las organizaciones aprovechen de forma segura sus activos de datos para permitir una IA innovadora, compatible y confiable.
Si las empresas pueden hacer que sus datos estén disponibles de forma segura para el aprendizaje automático y la inteligencia artificial, realmente podrán diferenciarse, lo que les permitirá seguir siendo competitivos y proporcionar los datos para desarrollar productos que puedan beneficiar a la sociedad. Al mejorar la calidad de los datos disponibles para los desarrolladores, pasamos de ChatGPT hacia un mundo donde la IA realmente marca la diferencia.
Después de meses de exageración en torno a la IA, una solución como la gobernanza computacional podría ayudar a los custodios de datos al hacer que sus datos estén disponibles para ayudar a avanzar en soluciones del mundo real para problemas que están sucediendo hoy en día, como en la investigación médica.
Al producir los datos de sus clientes de manera compatible, puede estar a la vanguardia de la innovación y superar los límites de la IA de manera responsable.
Hemos presentado el mejor software de base de datos.
Este artículo se produjo como parte del canal Expert Insights de TechRadarPro, donde presentamos las mejores y más brillantes mentes de la industria tecnológica actual. Las opiniones expresadas aquí son las del autor y no son necesariamente las de TechRadarPro o Future plc. Si estás interesado en contribuir, descubre más aquí: https://www.techradar.com/news/submit-your-story-to-techradar-pro