Un factor importante que toda CAIO deberá considerar es el costo; La implementación de modelos de IA es costosa porque los proveedores de nube y los casos de uso de GenAI patentados requieren mucha potencia informática: potencia informática costosa y de alta gama. Y los chips que impulsan los procesos de aprendizaje e inferencia en grandes modelos de lenguaje puede costar miles de dólares. (Nvidia fabrica la mayoría de las GPU para la industria de la IA, y su chip principal para el centro de datos cuesta 10.000 dólares; Sin embargo, el bloqueo de la compañía en el mercado de chips de IA está siendo desafiado por otros que esperan rebajarlo con precios de chips más bajos).
Todas las agencias federales tendrán CAIO
No son sólo las empresas privadas las que buscan contratar. En marzo, el presidente estadounidense Joseph R. Biden Jr. dio a todas las agencias federales dos meses para nombrar CAIO que sean responsables de promover la innovación en IA, coordinar con otras agencias y gestionar los riesgos asociados con la tecnología. El plazo de 60 días destacó la urgente necesidad de gobernanza a medida que la IA continúa su meteórica adopción.
«Si bien la IA está mejorando las operaciones y la prestación de servicios en todo el gobierno federal, las agencias deben gestionar eficazmente su uso», decía el memorando de Biden. “Los riesgos… surgen de cualquier dependencia de los resultados de la IA para informar, influir, decidir o ejecutar decisiones o acciones de la agencia, lo que podría socavar la eficacia, seguridad, equidad, equidad, transparencia, responsabilidad, idoneidad o legalidad de dichas decisiones o acciones. .”