Inteligencia artificial Los modelos (IA) y los modelos generativos de IA que se encuentren en cualquier fase de prueba o que no sean confiables de alguna manera necesitarán recibir un “permiso explícito del gobierno de la India” antes de implementarse en la India, informó el Ministerio de Electrónica y Tecnología de la Información de la India (MeitY) emitido en aviso, según informes. El aviso llega pocos días después de que algunos usuarios descubrieran que Google Geminis El chatbot de IA respondía con información inexacta y engañosa sobre el Primer Ministro del país.
De acuerdo a un informe Según The Economic Times, el aviso se emitió el 1 de marzo y se pidió a las empresas que lo cumplieran en el futuro. El aviso pedía a las empresas que ya han implementado una plataforma de inteligencia artificial en el país que se aseguren de que “sus recursos informáticos no permitan ningún sesgo o discriminación ni amenacen la integridad del proceso electoral”. Además, MeitY también habría pedido a las plataformas de inteligencia artificial que agreguen metadatos en caso de que el contenido generado por la inteligencia artificial pueda usarse para difundir información errónea o crear deepfakes.
También se pidió a las empresas que agregaran exenciones de responsabilidad explícitas en caso de que la plataforma pudiera comportarse de manera poco confiable y generar información inexacta. Además, las plataformas también tendrán que advertir a los usuarios que no utilicen IA para crear deepfakes o cualquier contenido que pueda afectar las elecciones de alguna manera, según el informe. Si bien el aviso no es legalmente vinculante actualmente, afirma que este es el futuro de la regulación de la IA en la India.
El problema de la falta de confiabilidad surgió por primera vez cuando algunos usuarios publicaron capturas de pantalla de Google Gemini publicando información inexacta sobre el primer ministro Narendra Modi. El 23 de febrero, el Ministro de Estado de Electrónica y Tecnología de la Información de la Unión, Rajeev Chandrasekhar respondió en X (anteriormente conocido como Twitter) y dijo: «Estas son violaciones directas de la Regla 3 (1) (b) de las Reglas Intermediarias (reglas de TI) de la Ley de TI y violaciones de varias disposiciones del Código Penal».
La emisión del aviso ha generado reacciones encontradas por parte de los empresarios y el espacio tecnológico. Si bien algunos han apreciado la medida, considerándola una necesidad para mitigar la información errónea, otros han destacado que la regulación podría tener un impacto adverso en el crecimiento del sector emergente. Aravind Srinivas, cofundador y director ejecutivo de Perplexity AI llamado «Mal movimiento de la India» en una publicación.
En la misma línea, Pratik Desai, fundador de KissanAI dicho, “Fui tan tonto al pensar que trabajaría para llevar GenAI a la agricultura india desde SF. Estábamos entrenando un modelo multimodal de plagas y enfermedades de bajo costo y estábamos muy entusiasmados con él. Esto es terrible y desmotivador después de trabajar cuatro años a tiempo completo llevando la IA a este ámbito en la India”.
Respondiendo a las críticas en una serie de publicaciones, Chandrasekhar resaltado que el aviso se emitió considerando las leyes existentes de la nación que prohíben que las plataformas habiliten o generen contenido ilegal. “[..]Las plataformas tienen obligaciones claras en virtud del derecho penal y de TI. Así que la mejor manera de protegerse es utilizar etiquetas y consentimiento explícito y, si es una plataforma importante, solicitar el permiso del gobierno antes de implementar plataformas propensas a errores”, añadió.
El Ministro de la Unión también explicado que el aviso está dirigido a “plataformas importantes” y solo las “plataformas grandes” tendrán que solicitar permiso a MeitY. Este aviso no es aplicable a startups. Añadió además que seguir las instrucciones del aviso redunda en el mejor interés de las empresas, ya que crea un seguro para los usuarios que, de otro modo, podrían presentar una demanda contra la plataforma. «La seguridad y la confianza en Internet en la India es un objetivo común y compartido para el gobierno, los usuarios y las plataformas», dijo.
Para conocer detalles de los últimos lanzamientos y novedades de Samsung, Xiaomi, Realme, OnePlus, Oppo y otras compañías en el Mobile World Congress de Barcelona, visita nuestro Centro del CMM 2024.