El jueves, el cofundador de Oracle, Larry Ellison compartió su visión para un futuro de vigilancia impulsado por IA durante un Reunión financiera de la empresainformes Información empresarialDurante una sesión de preguntas y respuestas para inversores, Ellison describió un mundo en el que los sistemas de inteligencia artificial vigilarían constantemente a los ciudadanos a través de una extensa red de cámaras y drones, afirmando que esto garantizaría que tanto la policía como los ciudadanos no infrinjan la ley.
Ellison, quien se convirtió brevemente La segunda persona más rica del mundo la semana pasada, cuando su patrimonio neto superó al de Jeff Bezos por un corto tiempo, describió un escenario en el que los modelos de IA analizarían imágenes de cámaras de seguridad, cámaras corporales de la policía, cámaras de timbre y cámaras de tablero de vehículos.
«Los ciudadanos se comportarán de la mejor manera porque estamos constantemente grabando e informando todo lo que sucede», dijo Ellison. dichodescribiendo lo que él ve como los beneficios de la supervisión automatizada de la IA y las alertas automáticas cuando se produce un delito. «Vamos a tener supervisión», continuó. «Todos los agentes de policía van a estar supervisados en todo momento, y si hay un problema, la IA informará del problema y se lo comunicará a la persona adecuada».
Larry Ellison, de Oracle, dice que un sistema de vigilancia con cámaras corporales de la policía, cámaras en automóviles y drones autónomos, todos monitoreados por IA, grabará e informará constantemente sobre la policía y los ciudadanos, lo que ayudará a todos a comportarse de la mejor manera posible. imagen.twitter.com/RAq5XGaNmZ
— Zaratustra (@tsarnick) 15 de septiembre de 2024
El multimillonario de 80 años también predijo que los drones controlados por IA reemplazarían a los vehículos policiales en las persecuciones a alta velocidad. «Simplemente hay que hacer que un dron siga al coche», explicó. «Es muy sencillo en la era de los drones autónomos».
Ellison cofundó Oracle en 1977 y se desempeñó como director ejecutivo hasta que… dimitió en 2014. Actualmente se desempeña como presidente ejecutivo y director de tecnología de la empresa.
Me suena familiar
Si bien Ellison intentó presentar su predicción de vigilancia pública universal de una manera positiva, sus comentarios plantean preguntas importantes sobre la privacidad, las libertades civiles y el potencial de abuso en un mundo de monitoreo omnipresente mediante inteligencia artificial.
La visión de Ellison tiene más que un parecido pasajero con el mundo cautelar retratado en la profética novela de George Orwell. 1984En la ficción de Orwell, el gobierno totalitario de Oceanía utiliza «telepantallas» ubicuas para vigilar constantemente a los ciudadanos, creando una sociedad donde la privacidad ya no existe y el pensamiento independiente se vuelve casi imposible.
Pero la famosa frase de Orwell «El Gran Hermano te está vigilando» adquiriría un nuevo significado en el escenario impulsado por la tecnología de Ellison, donde los sistemas de IA, en lugar de observadores humanos, servirían como los ojos siempre vigilantes de la autoridad. Los sistemas automatizados, que alguna vez se consideraron un tropo de ciencia ficción, ya se están volviendo una realidad: ya se han probado sistemas de vigilancia CCTV automatizados similares en Metro de Londres y en el Juegos Olímpicos de 2024.
China lleva años utilizando sistemas automatizados (incluida la IA) para vigilar a sus ciudadanos. En 2022, Reuters informó que las empresas chinas habían desarrollado un software de inteligencia artificial para clasificar los datos recopilados sobre los residentes mediante una red de cámaras de vigilancia desplegadas en ciudades y áreas rurales como parte de la iniciativa de China Campaña «ojos agudos» de 2015 a 2020. Esta tecnología de «una persona, un archivo» organiza los datos recopilados sobre ciudadanos chinos individuales, lo que lleva a lo que The Economic Times llamado un «camino hacia el totalitarismo digital».
Rogando por GPU
La predicción de Ellison sobre la vigilancia impulsada por IA dependerá del desarrollo de hardware potente, pero escasez de componentes de aceleración de IA como las GPU podrían ralentizarlos. Durante la misma sesión de preguntas y respuestas de la semana pasada, Ellison contado Una cena con Elon Musk y el CEO de Nvidia, Jensen Huang, que él describió como «Elon y yo rogándole a Jensen GPU», destacando la intensa demanda de chips. Ellison afirmó que le suplicaron a Huang, diciendo: «Por favor, toma nuestro dinero… necesitamos que tomes más de nuestro dinero».
La vigilancia no es la única aplicación de IA que entusiasma a Ellison. Mientras las grandes empresas tecnológicas compiten por inyectar modelos de IA en lo que parecen ser todas las aplicaciones imaginables, ya sean buenas o malas, Oracle no ha sido la excepción y ha lanzado recientemente varias iniciativas de IA, como una asociación con SpaceX de Musk para llevar la inteligencia artificial a la agricultura. El inversor multimillonario predijo durante la reunión que en los próximos cinco años, las empresas invertirán más de 100.000 millones de dólares en la construcción y el entrenamiento de modelos de inteligencia artificial, haciendo hincapié en la escala «astronómica» de la carrera de la IA.
Imagen de listado por Benj Edwards / Mike Kemp vía Getty Images
