Webinar: inteligencia artificial en el Estado, cómo innovar de manera segura

Introducción

La inteligencia artificial (IA) ya no es un concepto del futuro: está presente en sistemas de salud, plataformas de atención ciudadana, análisis de datos públicos y procesos internos del Estado. Pero ante esta ola tecnológica, la gran pregunta no es si usaremos IA, sino cómo la usaremos sin poner en riesgo derechos, confianza ni equidad.

En el siguiente resumen te presentaremos los principios clave de la nueva regulación peruana sobre inteligencia artificial: una propuesta pionera en la región que prioriza la innovación responsable, la protección de derechos y la transparencia algorítmica.

Aquí te compartimos las 5 lecciones más importantes de este webinar y que debes conocer si buscas impulsar un laboratorio de innovación y transformación difgital o estás implementando proyectos con IA.

Lección 1. La IA no viene a reemplazar a las personas, sino a potenciarlas

Uno de los principios centrales de la norma es claro:

La IA es una herramienta de apoyo, no un reemplazo del ser humano.

Esto significa que su uso debe estar orientado a mejorar procesos, reducir tiempos y aumentar la eficiencia, sin perder de vista que las decisiones finales y las responsabilidades siempre recaen en personas naturales o jurídicas.

Lección 2. La supervisión humana siempre obligatoria

En ningún caso un sistema de IA puede actuar de forma completamente autónoma sin supervisión.

La normativa peruana establece que:

• Siempre debe haber una persona responsable del desarrollo, implementación y uso de la IA.
• Se deben garantizar los derechos fundamentales de las personas afectadas por decisiones automatizadas.
• El principio de rendición de cuentas no se transfiere a la máquina.

La automatización no puede reemplazar la ética pública ni la responsabilidad institucional.

Lección 3. Un enfoque por niveles de riesgo: no toda IA es igual

La regulación establece un sistema de clasificación por riesgo, para proteger a la ciudadanía sin frenar la innovación:

• 🔴 Prohibidos: sistemas de IA que suponen una amenaza grave a derechos humanos (vigilancia masiva, manipulación, discriminación algorítmica).
• 🟠 Riesgo alto: IA aplicada a áreas sensibles como salud, educación, justicia o programas sociales. Están permitidas, pero deben cumplir requisitos estrictos.
• 🟢 Riesgo aceptable: la mayoría de sistemas cotidianos, que pueden usarse cumpliendo la ley general sin cargas adicionales.

Además, los desarrolladores o entidades públicas pueden consultar oficialmente a la Secretaría de Gobierno y Transformación Digital para conocer la clasificación de su sistema.

Lección 4. Transparencia total: sabrás cuándo estás frente a una IA (y por qué decide)

La norma exige que:

• Las personas sean informadas de forma clara cuando están interactuando con una IA.
• Se expliquen su finalidad y sus funciones de manera sencilla.
• En decisiones automatizadas que afecten derechos, se brinden explicaciones comprensibles sobre los criterios utilizados.

La transparencia no es solo técnica. Es una herramienta para fortalecer la confianza ciudadana en el Estado.

Lección 5. IA pública, código público

Una de las medidas más innovadoras:

Toda IA desarrollada con fondos públicos debe publicar su código fuente en la Plataforma Nacional de Software Público.

Esta decisión busca:

• Evitar dependencias tecnológicas cerradas
• Facilitar la auditoría y reutilización por parte de otras entidades
• Promover un ecosistema de innovación abierta, colaborativa y segura

Conclusiones

Innovar con IA, pero con valores públicos

Este nuevo marco normativo marca un antes y un después.

El Perú ha optado por una visión donde la IA:

✅ Se pone al servicio del bienestar
✅ Se utiliza con supervisión humana y ética
✅ Se desarrolla con transparencia y código abierto
✅ Se adapta al nivel de riesgo de cada caso

La innovación en el Estado no puede ser ciega. Tiene que ser responsable, humana y alineada con el bien común.