La Agencia de Acceso a la Información Pública (AAIP, por sus siglas), autoridad de aplicación de la Ley de Protección de Datos Personales ha elaborado y publicado la Guía para entidades públicas y privadas en materia de Transparencia y Protección de Datos Personales para una Inteligencia Artificial responsable (en adelante, la «Guía»). La Guía, que tiene como propósito asegurar un uso responsable de la inteligencia artificial (IA), está dirigida tanto a entidades públicas como privadas.
Esta iniciativa es parte del Programa de transparencia y protección de datos personales en el uso de la IA (en adelante, el «Programa») creado por la AAIP en el año 2023 a través de la Resolución 161/2023. El objetivo principal del Programa es impulsar procesos de análisis, regulación y fortalecimiento de capacidades estatales necesarias para acompañar el desarrollo y uso de la IA, tanto en el sector público como en el ámbito privado, garantizando el efectivo ejercicio de los derechos de la ciudadanía en materia de transparencia y protección de datos personales. Uno de los componentes del programa de trabajo de la AAIP consiste en el desarrollo de capacidades en los actores del sector público y privado para comprender los desafíos que implica la incorporación de la inteligencia artificial en los sistemas de toma de decisiones automatizadas, brindando herramientas para su abordaje en el marco de los principios éticos desarrollados por los instrumentos internacionales.
A continuación, se describen los aspectos más relevantes de la Guía.
Objetivos
- Profundizar las recomendaciones asociadas con la incorporación de los principios de transparencia y protección de datos personales de la guía llamada Recomendaciones para una inteligencia artificial fiable, producida por la administración pública nacional.
- Ofrecer lineamientos que ayuden al sector público y privado a incorporar la transparencia y protección de datos personales como dos dimensiones sustantivas y transversales en los proyectos de desarrollo tecnológico que implementen sistemas de inteligencia artificial, de modo que se garantice el ejercicio de los derechos de la ciudadanía.
- Brindar recomendaciones y pautas de responsabilidad proactiva para prevenir riesgos desde etapas tempranas y promover la integración de una inteligencia artificial responsable durante todo el ciclo de vida del sistema, de modo que se aseguren estándares básicos de protección.
Principales problemas y desafíos de la IA
La Guía identifica los siguiente problemas y desafíos principales en materia de IA:
- Sesgos y discriminación.
- Falta de calidad de los datos.
- Riesgo de violación de la privacidad.
- Riesgos de seguridad.
- Uso inadecuado de datos personal
- Fraude de identidad.
- Vigilancia sin consentimiento.
- Falta de transparencia.
Ciclo de vida de los sistemas de IA
La Guía propone recomendaciones aplicables a las distintas etapas del ciclo de vida de los sistemas de IA, a saber:
- Diseño del sistema: en esta etapa se planifica y diseña el sistema, considerando la selección y procesamiento de los datos de entrada, diseño del modelo algorítmico y entrenamiento del modelo.
- Verificación y validación: una vez ya definido el sistema, se procede a comprobar su correcto funcionamiento.
- Implementación: comprende poner el sistema en funcionamiento. Para esto, es necesario primero contar con la infraestructura donde irá montado.
- Operación y monitoreo: en esta etapa el sistema ya está en plena operatividad, abierto al uso y en constante monitoreo de su funcionamiento.
Recomendaciones para la etapa de diseño del sistema
- Invertir en investigación para conocer buenas prácticas, en formación de los equipos de trabajo y en sensibilización de los actores en general a fin de garantizar un buen nivel de comprensión de la IA.
- Evaluar el impacto del proyecto en la protección de datos personales desde el inicio, incluyendo riesgos e impactos adversos.
- Considerar la privacidad por diseño y por defecto para que sean objeto de tratamiento solo aquellos datos personales necesarios.
- Garantizar que la fuente de datos que alimentan los sistemas de IA sea lícita.
- Asegurar el tratamiento de datos personales aplicando técnicas de minimización, anonimización, cifrado, control de acceso, conservación y destrucción, entre otras.
- Determinar los plazos de conservación de los datos a recolectar.
- Controlar la calidad de datos y metadatos, aplicando medidas para garantizar que sean ciertos, exactos y actualizados.
- Garantizar la trazabilidad y auditabilidad de los sistemas de IA.
- Asegurar que los datos personales sean para la finalidad que motivaron su obtención.
- Promover la habilidad de explicar los sistemas y garantizar la transparencia algorítmica.
Recomendaciones para la etapa de verificación y validación
- Publicar un acta de compromiso ético del sistema.
- Evaluar si los algoritmos se encuentran alineados con los valores, principios y orientaciones establecidos.
- Calibrar la relevancia y precisión de los datos e identificar los sesgos, pertinencia, patrones y errores del modelo algorítmico y los resultados.
Recomendaciones para la etapa de implementación
- Evaluar la experiencia de usuario (UX) para asegurar el mayor nivel de accesibilidad y los estándares de usabilidad.
- Asegurar la información: protección de datos personales, transparencia, trazabilidad y auditabilidad
- Documentar resultados de las pruebas y medidas a tomar.
- Publicar una política de privacidad.
Recomendaciones para la etapa de operación y mantenimiento
- Actualizar e informar a la ciudadanía las características y versiones del sistema.
- Documentar el desempeño del sistema, realizar evaluaciones de impacto y tomar las acciones correctivas.
- Comunicar a la autoridad competente si existen incidentes éticos o de seguridad.
- Designar un delegado de protección de datos.
- Habilitar canales de comunicación para consultas y reclamos, procedimientos internos y respuestas en lenguaje comprensible para personas no expertas en IA, en especial en cuanto a la atención de los derechos de los titulares de datos.
Conclusión
La Guía impulsa un uso responsable de la IA de modo de garantizar el respeto de los derechos fundamentales de las personas. Al seguir las recomendaciones de la Guía, según la perspectiva de la AAIP, las organizaciones pueden no solo cumplir con las normativas vigentes sino también fomentar una mayor confianza en los sistemas automatizados.
El texto completo de la Guía puede ser consultado en este enlace.
Mariano Peruzzotti, CIPP/E, es miembro de la Education Advisory Board de la IAPP y copresidente de la delegación KnowledgeNet de Buenos Aires, Argentina.
