Transparencia, privacidad y ética en la IA
El Reglamento de la Ley IA establece que el desarrollo y uso de la Inteligencia Artificial en el Perú debe ser claro, comprensible y respetuoso de los derechos fundamentales.
Esto significa que la IA no solo debe ser innovadora, sino también transparente, ética y protectora de la privacidad de todas las personas.
Transparencia algorítmica
- Si los sistemas se clasifican como riesgo alto se debe informar de manera previa, clara y sencilla al usuario para que comprenda cómo interactúa con el sistema o con el producto o servicio que usa IA, lo siguiente:
- Cuál es la finalidad o uso del sistema
- Cómo funcionan
- Qué decisiones pueden tomar
- Una forma de cumplir con la transparencia, es el etiquetado visible cuando un producto, servicio o contenido ha sido generado con IA.
- Cuando la IA impacta en derechos humanos, se debe ofrecer una explicación comprensible y en un lenguaje accesible para el usuario, de los criterios y factores que influyeron en los resultados.
Privacidad de datos personales
- Todos los sistemas de IA deben cumplir con la Ley de Protección de Datos Personales (Ley N.º 29733) y su reglamento.
- Entre las medias se encuentran:
- Minimizar la recolección de datos sensibles.
- Incorporar medidas de seguridad desde el diseño.
- Evitar tratamientos que vulneren la privacidad de los ciudadanos.
- Contar con una base legítima para el tratamiento de los datos personales mediante sistemas de IA (consentimiento, competencias de las entidades públicas, interés del interesado, entre otros)
Ética en la IA
- Desarrolladores, implementadores y usuarios deben actuar con probidad y responsabilidad. Esto implica:
- Conformar equipos diversos y multidisciplinarios.
- Respetar los derechos humanos y evitar sesgos discriminatorios.
- Considerar los impactos sociales y ambientales de la IA.
- Adoptar estándares internacionales y buenas prácticas para reducir errores y sesgos algorítmicos.