La inteligencia artificial (IA) no es un concepto nuevo, más el reciente avance de nuevas herramientas digitales impulsadas por la IA—resultado y parte del acelerado proceso de evolución de esta tecnología—ha generado encendidas discusiones en todo el mundo acerca de la necesidad de su reglamentación.
En Europa, el Consejo y el Parlamento Europeo alcanzaron un acuerdo político sobre la Ley de Inteligencia Artificial para crear un primer marco regulador para la IA, dando un paso significativo y convirtiendo Europa en un punto de referencia clave en este ámbito. Además, la firma de este acuerdo por parte de los países del bloque europeo ha despertado y apresurado otros gobiernos acerca de la necesidad de tomar medidas concretas para abordar los desafíos éticos, legales y sociales que plantea la inteligencia artificial.
En el contexto brasileño, estas discusiones han sido protagonizadas, en parte, por la Autoridad Nacional de Protección de Datos Personales (ANPD, por sus siglas) entidad que, durante la segunda mitad del 2023, emitió una serie de documentos, organizó seminarios y conferencias, y emitió comunicados oficiales relacionados con la regulación de la IA en el país.
Dentro de este compendio de documentos, se incluyen análisis exhaustivos de proyectos de ley, así como un estudio técnico para sustentar la convocatoria a comentarios por parte de la sociedad civil sobre la viabilidad de establecer y administrar un sandbox regulatorio para discutir cuestiones conexas a temas que involucran la protección de datos personales y la IA.
El Proyecto de Ley 2.338/2023
El análisis técnico del Proyecto de Ley 2.338/2023 hecho por la ANPD trae algunas perspectivas interesantes con relación a la reglamentación de la IA; este proyecto representa un esfuerzo concreto de los legisladores para establecer un marco normativo sólido que regule de manera efectiva el uso y desarrollo de la IA en Brasil.
En sus comentarios acerca de este proyecto de ley, la Autoridad Nacional de Protección de Datos Personales propone la creación de una estructura regulatoria integral con la ANPD como órgano central consultivo y regulador.
Trayendo las experiencias realizadas en la Unión Europea, la ANPD sugiere cuatro instancias distintas y complementarias, que deberán actuar de manera articulada y coordinada: (i) el organismo regulador central o autoridad competente; (ii) el Poder Ejecutivo, responsable por la elaboración de políticas públicas para el desarrollo de sistemas de IA; (iii) organismos reguladores sectoriales que actuarían en coordinación con el organismo regulador central; y (iv) el consejo consultivo, un organismo para asegurar la participación de la sociedad civil en los procesos de toma de decisiones de otras instancias.
Uno de los aspectos más relevantes enfatizados por la ANPD en sus comentarios acerca del Proyecto de Ley 2.338/2023 es la importancia de un enfoque centralizado para la regulación y orientación de la IA. La existencia de una autoridad reguladora única no solo garantizaría una orientación más clara y consistente para los diversos sectores implicados en el amplio espectro de la inteligencia artificial, sino que también contribuiría a minimizar las ambigüedades, interpretaciones contradictorias y preocupaciones sobre la privacidad y la protección de datos personales que puedan surgir en este contexto tan complejo y dinámico.
El sandbox regulatorio
En colaboración con el banco de desarrollo de América Latina y el Caribe (CAF, por sus siglas), la ANPD ha publicado un estudio técnico acerca de la posibilidad de coordinar un sandbox regulatorio para inteligencia artificial y protección de datos personales en Brasil.
Con base en este estudio técnico, la ANPD organizó una consulta pública para recibir aportes y comentarios de la sociedad civil y de entidades extranjeras sobre el desarrollo de un proyecto piloto para un sandbox regulatorio que trabajará con modelos que utilicen IA generativa y entrenen sus algoritmos con datos personales.
El proyecto pretende crear un ambiente controlado donde se realicen pruebas de tecnologías asociadas con la IA, permitiendo la implementación de innovaciones de forma segura y respetando los estándares brasileños de protección de datos personales, además de ayudar en la elaboración de regulaciones adaptables para que el gobierno brasileño sea capaz de afrontar los desafíos planteados por la IA.
Actualmente, el proyecto piloto se encuentra en la etapa de evaluación de todos los aportes y comentarios recibidos; la ANPD ha divulgado que recibió cerca de 71 contribuciones a raíz de la consulta pública. De ellos, 35 fueron de entidades privadas o grupos económicos; cinco del sector público; 10 de la sociedad civil; seis del mundo académico; y 15 de ciudadanos. De estos aportes, 66 provinieron de Brasil y 5 del exterior.
Mapa de temas prioritarios para 2024 a 2025
El 13 de diciembre de 2023, la ANPD anunció la primera edición de su Mapa de Temas Prioritarios (MTP) para el bienio 2024 a 2025, estableciendo los temas que tendrán prioridad para los efectos de estudios y planificación de las actividades de inspección para los próximos dos años.
El MPT eligió cuatro temas prioritarios para 2024 a 2025: derecho de los titulares de datos personales; tratamiento de datos personales de niños y adolescentes; inteligencia artificial y procesamiento de datos personales; y extracción de datos y agregadores de datos.
Estos temas prioritarios fueran definidos a partir de un mapa de riesgo y de severidad que tomó en cuenta el impacto que estos desafíos pueden tener en la sociedad civil brasileña, donde el uso de la inteligencia artificial y el tratamiento de datos personales ha recibido la puntuación máxima de relevancia en la escala adoptada por la ANPD.
Como resultado, el uso de la inteligencia artificial en sistemas de reconocimiento facial y su impacto en la privacidad de las personas fueron señalados como uno de los principales puntos de enfoque para la primera mitad de 2025.
Conclusiones
El Mapa de Temas Prioritarios, junto al análisis de proyectos de ley, organización de seminarios y eventos, y la coordinación del sandbox regulatorio, refleja el firme compromiso de la ANPD de consolidarse como uno de los principales protagonistas en el acalorado debate brasileño sobre la regulación de la IA, buscando siempre posicionarse como una entidad sólida y confiable capaz de colmar el vacío legislativo existente en torno a este tema. Además, las iniciativas implementadas por la ANPD en 2023 y a inicios de 2024 la colocan en una posición interesante para expandir sus actividades regulatorias e incluir también la gobernanza de la IA en su lista de actividades.
