Nota del editor: la IAPP mantiene una posición neutral en cuestiones de políticas. Publicamos artículos de opinión y análisis de colaboradores para ofrecer a nuestros miembros una amplia gama de puntos de vista en nuestros ámbitos.
La Dirección Provincial de Innovación Digital de la Provincia de Buenos Aires, la provincia argentina con mayor población del país publicó una serie de recomendaciones destinadas a orientar el uso adecuado de la inteligencia artificial generativa en el ámbito de la administración pública. Estas directrices están dirigidas a todo el personal, sin importar su tipo de contratación, que utilice o interactúe con estos sistemas en el desarrollo de sus funciones.
El propósito principal es mitigar riesgos y asegurar que la implementación de la IA Gen se realice de manera ética y alineada con la protección de los derechos humanos. Para ello, se establecen cuatro principios clave: el uso responsable, la supervisión humana, la capacitación continua y la evaluación de impacto.
A nivel internacional, estas directrices se alinean con marcos regulatorios como las recomendaciones de la UNESCO sobre la ética de la inteligencia artificial, el Reglamento de IA de la Unión Europea y las directrices de la OCDE. Estos organismos destacan la necesidad de garantizar transparencia, seguridad y respeto por los derechos fundamentales en el uso de la IA, principios que están reflejados en la normativa bonaerense.
Al mismo tiempo, están alineadas también con las recomendaciones anteriores de otros reguladores nacionales, incluyendo la Agencia de Acceso a la Información Pública, órgano de control de la Ley de Protección de Datos Personales.
Principales lineamientos para el uso de IA Gen:
- Acceso y uso autorizado: el personal solo podrá utilizar herramientas de IA Gen en el marco de sus funciones oficiales. El acceso estará restringido a empleados previamente autorizados, quienes deberán usar su correo institucional y contar con aprobación jerárquica formal. Se deberán implementar controles periódicos para verificar que el uso de estas herramientas se ajuste a los lineamientos establecidos.
- Ética y responsabilidad: se espera que el uso de estos sistemas se rija por valores como la responsabilidad, el compromiso, la confidencialidad y el respeto. Toda interacción con IA Gen debe realizarse con integridad y estar alineada con los principios de la administración pública. Además, se fomentará la creación de códigos de conducta específicos que refuercen estos valores dentro de cada organismo estatal.
- Transparencia: se recomienda utilizar plataformas de IA Gen que ofrezcan información clara sobre su funcionamiento, limitaciones y alcance. La interpretabilidad de los sistemas es clave para asegurar su uso adecuado. Siempre que sea posible, se deberá documentar el uso de IA Gen, especificando el propósito de su aplicación y los criterios utilizados en la toma de decisiones.
- Protección de datos y privacidad: la información procesada debe manejarse con estricta confidencialidad. Antes de introducir cualquier dato en estos sistemas, el personal deberá verificar las políticas de privacidad y minimizar la retención de datos sensibles. Siempre que sea posible, la información confidencial deberá ser anonimizada. Se implementarán auditorías regulares para evaluar el cumplimiento de las normativas de protección de datos.
- Seguridad de la información: queda terminantemente prohibido ingresar en los sistemas de IA Gen información que pueda comprometer la seguridad del Estado provincial. Cualquier incidente debe ser reportado de inmediato a las autoridades competentes. Además, se desarrollarán estrategias de ciberseguridad específicas para mitigar riesgos derivados del uso de IA Gen en entornos gubernamentales.
- Revisión y validación de resultados: toda información generada o modificada por IA Gen debe ser revisada por una persona competente antes de su uso oficial. Los contenidos deben considerarse preliminares hasta su validación, y en el caso de imágenes, audios o videos, se debe incluir una advertencia sobre su origen. En este sentido, se promoverán mecanismos de verificación cruzada para minimizar errores y posibles sesgos en los resultados obtenidos.
- Usos inadecuados y restricciones: está prohibido emplear IA Gen para actividades ilícitas, engañosas o que vulneren derechos. Asimismo, no se permite su uso con fines personales, para manipulación de información o para acceder a datos sin autorización. Las sanciones para el incumplimiento de estas restricciones serán claramente definidas y aplicadas según corresponda.
- Concientización y capacitación: es fundamental que el personal se mantenga informado sobre las mejores prácticas, limitaciones y posibles sesgos de la IA Gen, fomentando un uso crítico y consciente de estas tecnologías. Para ello, se impulsarán programas de formación continua y talleres prácticos que permitan a los empleados públicos comprender el alcance y las implicaciones del uso de IA Gen en sus respectivas áreas de trabajo.
- Monitoreo y evaluación continua: para garantizar que estas directrices sigan siendo efectivas y relevantes, se establecerá un sistema de monitoreo que permita evaluar periódicamente el impacto del uso de IA Gen en la administración pública. Se realizarán informes periódicos y se promoverá la colaboración con organismos internacionales para actualizar las regulaciones conforme evolucione el ecosistema de la inteligencia artificial.
Con estas medidas, la Provincia de Buenos Aires busca establecer un marco de gobernanza sólido y alineado con las mejores prácticas internacionales en materia de inteligencia artificial, promoviendo una implementación responsable, segura y beneficiosa para la sociedad. Las directrices no indican qué organismo tendrá a su cargo el control de su cumplimiento por parte de la administración pública provincial.
Diego Fernández es socio de la firma argentina Marval O’Farrell Mairal y es asimismo miembro del IAPP Advisory Board.
