Resumen: Según Geoffrey Hinton, el «padrino de la IA», la inteligencia artificial nació en California hace 40 años. Ahora, el Estado Dorado está intentando regular la investigación y el desarrollo de futuros y potentes algoritmos de IA. Sin embargo, las empresas han expresado su preocupación por la posibilidad de una regulación excesiva.
El senador Scott Wiener modificó el Proyecto de ley 1047 del Senado después de considerar las preocupaciones de Anthropic y otras empresas de inteligencia artificial. En un comunicado de prensa reciente, Wiener explicado que la SB 1047 tiene como objetivo establecer nuevas reglas de «desarrollo seguro» para sistemas de inteligencia artificial a gran escala en California, promoviendo estándares de seguridad de sentido común para aprovechar esta tecnología potencialmente disruptiva y prevenir amenazas a la seguridad pública.
La propuesta Ley SB 1047 El proyecto de ley, que Wiener considera que puede ayudar a California a avanzar tanto en la innovación como en la seguridad en el desarrollo de la IA, ha sido revisado después de recibir comentarios de los líderes de la industria de la IA, el mundo académico y el sector público. Anthropic tenía preocupaciones particulares sobre la SB 1047, y Wiener señaló que el proyecto de ley revisado incorpora algunas de las propuestas de enmiendas «muy razonables» de la empresa.
El borrador actualizado de la SB 1047 aborda las preocupaciones centrales de Anthropic al eliminar las sanciones penales y reemplazarlas por sanciones civiles. Además, se ha eliminado el nuevo organismo regulador propuesto en favor de una estructura regulatoria más «simplificada» que no debería afectar significativamente la capacidad de California para exigir responsabilidades a los actores maliciosos de la IA.
Las nuevas normas legales exigen ahora que los desarrolladores de IA ejerzan un «cuidado razonable» al crear y entrenar algoritmos de IA seguros. El proyecto de ley 1047 del Senado se aplica únicamente a los modelos que se han perfeccionado con inversiones de al menos 10 millones de dólares, lo que exime de sus disposiciones a los desarrolladores de modelos más pequeños y de código abierto.
Según el senador Wiener, el proyecto de ley SB 1047 cuenta con el respaldo de los principales investigadores de IA, entre ellos Geoffrey Hinton y Yoshua Bengio. El proyecto de ley revisado tiene como objetivo establecer nuevos estándares para el desarrollo de IA, en particular para los modelos cuyo entrenamiento cuesta más de 100 millones de dólares. Estos modelos «de vanguardia» deben implementar precauciones y salvaguardas básicas contra el uso indebido, y el Fiscal General de California tendrá la autoridad de llevar a los desarrolladores a los tribunales si un sistema de IA potente causa «daños graves» a los ciudadanos.
El senador Wiener señaló que, si bien el Congreso aún no ha aprobado una regulación tecnológica significativa desde la era del disquete, California debe actuar para mitigar los riesgos que plantean los algoritmos de inteligencia artificial que avanzan rápidamente. El profesor Hinton elogió la SB 1047 por lograr un equilibrio sensato entre las preocupaciones de los legisladores y las de las empresas de inteligencia artificial, ofreciendo a las autoridades estatales medidas efectivas para abordar los riesgos y, al mismo tiempo, fomentar la innovación en el campo.
