La inteligencia artificial bajo control
La inteligencia artificial bajo control
Una mirada crítica al Reglamento de la Ley que promueve su uso
En el Perú, la Ley N° 31814, publicada el 5 de julio de 2023, y su Reglamento, aprobado por el Decreto Supremo N° 115-2025-PCM, publicado el 9 de septiembre de 2025, constituyen el marco legal dirigido a entidades públicas, organizaciones privadas, sociedades civiles, entre otros, que tienen como finalidad promover el uso seguro, responsable y ético de sistemas basados en Inteligencia Artificial (IA), así como establecer obligaciones para quienes desarrollan o implementan sistemas de IA, fijando principios y controles que deben seguirse de conformidad a sus riesgos y usos.
¿Qué se entiende por empresa implementadora y desarrolladora?
- Una empresa es implementadora cuando incorpora IA en sus procesos.
- Por ejemplo, una herramienta de un proveedor que extrae datos de facturas o que automatiza procesos.
- Una empresa es desarrolladora cuando diseña, programa o entrena su propio sistema.
- Por ejemplo, la empresa diseña y programa un sistema de IA y lo entrena con imágenes de productos para identificar defectos de fabricación con la finalidad de ofrecer el sistema a empresas industriales.
Ambas deben cumplir obligaciones y asumirlas en función a sus propios riesgos.
Tipos de riesgos por el uso de sistemas basados en IA
- (a) Uso indebido: Es todo sistema basado en IA, que se use para impactar de manera irreversible, significativa y negativa en los derechos fundamentales o el bienestar de las personas, bajo cualquier circunstancia, por lo que dicho uso deviene en prohibido.
- (b) Uso de riesgo alto: Es todo sistema basado en IA, cuyo uso supone un riesgo para la vida humana, la dignidad, la libertad, la seguridad física y los demás derechos fundamentales de las personas; en función tanto del objetivo establecido, como de las posibles consecuencias no deseadas.
- (c) Riesgo aceptable: Es todo riesgo no comprendido en las clasificaciones anteriores.
¿Desde cuándo resulta aplicable el Reglamento y qué consecuencias existen por incumplimiento?
El Reglamento ya está vigente, pero las obligaciones de gestión y transparencia serán implementadas de forma progresiva según el uso de la IA en diferentes sectores:
| Sectores | Vencimiento |
|---|---|
| Salud, educación, justicia, seguridad, economía y finanzas | Septiembre 2026 |
| Transporte, comercio y trabajo | Septiembre 2027 |
| Producción, agricultura, energía y minería | Septiembre 2028 |
| Demás usos | Septiembre 2029 |
Si bien la Ley y su Reglamento no establecen multas propias, se le otorga facultades a la Presidencia del Consejo de Ministros para supervisar y comunicar las posibles infracciones a las autoridades competentes. Asimismo, cualquier persona puede alertar usos indebidos en gob.pe/iaperu o denunciar ante INDECOPI o la Autoridad Nacional de Protección de Datos Personales.
Ojo: El Reglamento excluye de su ámbito de aplicación al uso de sistemas basado en IA para fines personales y aquellos utilizados para la defensa y seguridad nacional, siempre que cumplan con ciertos principios fundamentales.
Sabias que…
El 21 de octubre del 2026, la Secretaría de Gobierno y Transformación Digital aprobó la Directiva N° 002-2026-PCM/SGTD, que establece el perfil y responsabilidades del Oficial de Inteligencia Artificial, con la finalidad de que las entidades públicas tomen en consideración los criterios para el perfil, la designación y la definición de responsabilidades del Oficial de Inteligencia Artificial. La Directiva aborda las obligaciones en función de los distintos niveles de gobierno y su madurez existente en gestión de datos y sistemas digitales.
Para el caso de las entidades privadas, pueden tomar como referencia los criterios establecidos en dicha Directiva para aquello que les genere valor.
Pero… ¿Qué está faltando actualmente?
Si bien la propuesta del Reglamento busca regular el uso de la IA mediante un enfoque basado en riesgos, incorporando mecanismos de supervisión y debida diligencia, aún presenta limitaciones importantes para abordar integralmente todas las implicancias derivadas de su utilización. A continuación, se detallan algunas:
- No se establecen sanciones específicas para los supuestos de incumplimiento relacionados con la vulneración de datos personales, la afectación de derechos de los consumidores u otras infracciones que podrían derivarse del uso de sistemas de IA.
- El Reglamento hace referencia a herramientas como las evaluaciones de impacto y los mecanismos de transparencia algorítmica, pero no desarrolla lineamientos o criterios concretos para su implementación.
- Se impone mayores obligaciones al sector público que al sector privado. En estricto, la realización de evaluaciones de impacto parece quedar en gran medida a discreción de las empresas privadas, pese a que dichas evaluaciones constituyen un elemento fundamental para determinar el nivel de riesgo asociado al uso de la IA y, en consecuencia, las medidas de control que deberían aplicarse.
Esta diferencia regulatoria podría generar un vacío en la gestión efectiva de los riesgos que estas tecnologías representan, debido a que algunos sesgos o afectaciones podrían no identificarse oportunamente, y las medidas correctivas podrían llegar cuando el sistema ya esté afectando a las personas.
Nuestras recomendaciones
- Identificar los sistemas de IA que utilizan en sus operaciones y clasificarlos de acuerdo con el nivel de riesgo que representan.
- Aprobar políticas y reglas internas para el uso responsable de la IA, complementándolas con programas de capacitación dirigidos al personal.
- Revisar los contratos suscritos con los proveedores de estas tecnologías para definir las responsabilidades y los mecanismos de asignación de riesgos frente a posibles errores, fallas o daños derivados del funcionamiento de los sistemas de IA.
- Evaluar la necesidad de designar un Oficial de Inteligencia Artificial a partir de la contribución que la compañía espera de la IA al cumplimiento de sus objetivos estratégicos. Sobre esa base, analizar los usos actuales y previstos de la IA, sus riesgos y el nivel de madurez en la gestión de datos y plataformas digitales, para determinar si dicho rol resulta necesario para orientar una adopción responsable y alineada con los resultados esperados por la organización.
Contáctanos
- Carina Dávila, Directora Legal - Email: cdavila@bdo.com.pe
- Maria Luisa Pérez, Asesora Legal - Email: mperezb@bdo.com.pe