Más allá de la detección: el enfoque emergente de Brasil hacia la gobernanza de los deepfakes

La Agencia Nacional de Protección de Datos de Brasil publicó el 29 de julio de 2026 la sexta edición de su serie “Radar Tecnológico”, dedicada en esta ocasión a los deepfakes. Para los lectores fuera de Brasil, la serie funciona como un espacio de análisis técnico de la autoridad sobre tecnologías emergentes y sus implicaciones para la protección de datos. Esta nueva edición examina cómo se crean y detectan los contenidos sintéticos, los usos legítimos y abusivos de la tecnología y las medidas que se están considerando para mitigar los riesgos asociados.

Aunque fue publicado por una autoridad de protección de datos, el Radar resulta relevante para cualquier organización que desarrolle, contrate o implemente sistemas capaces de generar medios sintéticos. La cuestión va mucho más allá de la privacidad y alcanza ámbitos como la ciberseguridad, la prevención del fraude, el diseño de productos, la gestión de riesgos de terceros y la confianza en las comunicaciones digitales. 

Determinar si un contenido es falso es solo una parte del problema. Las organizaciones también necesitan comprender cómo se originó un deepfake, de dónde proceden los datos subyacentes, qué sistemas se utilizaron o fueron comprometidos, qué actores maliciosos pudieron haber intervenido y, sobre todo, cómo responder al incidente. En otras palabras, la gobernanza de los deepfakes no puede reducirse a detectarlos una vez que ya hayan sido creados.

El Radar no crea nuevas obligaciones regulatorias ni establece un régimen jurídico autónomo para los deepfakes o los medios sintéticos. Su finalidad es educativa: demostrar que los riesgos asociados a los deepfakes surgen mucho antes de la generación del contenido y pueden persistir mucho después de su publicación.

Este análisis se produce en un momento en que el papel institucional de la ANPD en el entorno digital brasileño se encuentra en expansión. En mayo de 2026, los Decretos N.º^s 12.975 y 12.976 atribuyeron a la Agencia competencias para evaluar la actuación sistémica de las plataformas y supervisar obligaciones relacionadas, entre otros aspectos, con la prevención del fraude digital y con la generación o modificación mediante inteligencia artificial de contenido íntimo. El Radar, por sí mismo, no constituye regulación, pero forma parte de un movimiento institucional más amplio orientado al monitoreo y la respuesta frente a riesgos digitales.

El riesgo comienza con los datos

La ANPD describe los deepfakes como grabaciones de audio, fotografías y videos modificados o creados mediante inteligencia artificial con apariencia de autenticidad y capacidad para simular la identidad o las acciones de una persona. Sin embargo, esta definición no comprende todas las formas de manipulación audiovisual. Técnicas de edición como cortes, modificaciones de velocidad o superposición de audio también pueden producir contenidos falsos y convincentes sin recurrir a las técnicas de aprendizaje profundo habitualmente asociadas a los deepfakes.

Desde la perspectiva de la LGPD, el Radar analiza el ciclo de producción y circulación de los deepfakes a través de cinco etapas: recopilación, entrenamiento, generación, edición y distribución. A efectos analíticos, estas etapas pueden agruparse en tres fases más amplias: desarrollo y entrenamiento de los modelos; generación y edición del contenido; y difusión. Esta perspectiva basada en el ciclo de vida permite identificar riesgos y responsabilidades que pueden pasar inadvertidos cuando el análisis se concentra exclusivamente en el contenido final.

Durante la fase de entrenamiento, imágenes, grabaciones de voz, gestos, movimientos y patrones de comportamiento pueden recopilarse de redes sociales, sitios web, medios de comunicación y bancos de imágenes, o ser proporcionados directamente por los usuarios. En situaciones más graves, estos datos también pueden proceder de filtraciones u otras fuentes ilícitas.

El hecho de que un contenido esté disponible públicamente no legitima, por sí solo, su utilización para crear medios sintéticos. Las organizaciones deben considerar la finalidad perseguida, la base jurídica aplicable y lo que las personas representadas o afectadas podrían razonablemente esperar de dicho uso. Se requiere especial cautela cuando imágenes, voces u otros atributos físicos o conductuales se procesen con el propósito de identificar a una persona, ya que en esos casos pueden calificarse como datos biométricos y quedar sujetos al régimen de datos personales sensibles previsto en la LGPD.

En la etapa de creación del contenido, el análisis se desplaza hacia las circunstancias concretas en las que este fue generado: quién solicitó su creación, si la persona representada autorizó el uso de su imagen o voz y qué mecanismos ofrece la herramienta para impedir solicitudes fraudulentas, discriminatorias o de contenido sexual explícito.

La calificación de las partes como agentes de tratamiento y la atribución de responsabilidades no se derivan automáticamente del hecho de que el contenido haya sido solicitado por un usuario, especialmente cuando el proveedor determina la arquitectura del sistema, controla sus funcionalidades y conoce patrones recurrentes de uso indebido. En esos casos, deben examinarse las decisiones efectivamente adoptadas por cada participante respecto del tratamiento para determinar las funciones que desempeñan conforme a la LGPD. La responsabilidad civil, a su vez, requiere un análisis independiente conforme al régimen jurídico aplicable, incluida la existencia de un tratamiento ilícito o irregular, la producción de un daño y la relación de causalidad.

Una vez publicado el contenido, las plataformas, los sistemas de recomendación, los servicios de alojamiento y las redes publicitarias pueden ampliar rápidamente su alcance y dificultar el control de su circulación. La imagen, la voz y otros datos personales de la persona afectada pueden reproducirse en múltiples entornos, muchas veces fuera de su alcance y del control de las organizaciones involucradas. Por ello, aunque sea necesaria, la eliminación del archivo original después de una denuncia rara vez será suficiente para contener los efectos de su difusión.

De la desinformación electoral al fraude empresarial

En Brasil, el Radar destaca riesgos como la pornografía sintética no consentida, la desinformación electoral, la violencia política de género, las estafas financieras y la publicidad engañosa mediante el uso no autorizado de la imagen de figuras públicas.

Con las elecciones generales brasileñas previstas para octubre de 2026, estos riesgos adquieren una sensibilidad especial. Entre los posibles escenarios se encuentran declaraciones falsas atribuidas a candidatos, personajes sintéticos presentados como ciudadanos comunes e imágenes manipuladas utilizadas para intimidar o silenciar a mujeres que participan en la vida pública. Estos ejemplos muestran que los efectos de los deepfakes trascienden la privacidad de las personas representadas. También pueden deteriorar el debate público, debilitar los mecanismos de autenticación y erosionar la confianza en los registros visuales y sonoros.

En el entorno empresarial, la clonación de voz e imagen puede hacer mucho más convincentes los fraudes basados en la urgencia, la autoridad y la confianza. Una videollamada, un mensaje de voz o una solicitud aparentemente enviada por un ejecutivo puede utilizarse para autorizar pagos, modificar datos bancarios, restablecer credenciales u obtener información confidencial. Por tanto, las autorizaciones de pago, los cambios de información bancaria, el restablecimiento de credenciales y el acceso a sistemas no deberían depender exclusivamente del reconocimiento visual, de una voz conocida o de la comunicación a través de un canal habitual.

Las organizaciones también deben considerar los riesgos contractuales, regulatorios y reputacionales involucrados. Una empresa puede no haber creado directamente un deepfake y, aun así, ejercer influencia sobre el producto, su integración, la recomendación de contenidos o su monetización. La determinación del papel de cada parte conforme a la legislación de protección de datos dependerá de las decisiones efectivamente adoptadas y del grado de control ejercido sobre el tratamiento, y no únicamente de las denominaciones utilizadas en el contrato. La distribución contractual de riesgos puede regular las relaciones económicas entre las partes, pero no modifica, por sí sola, las funciones que estas desempeñan materialmente, ni elimina las obligaciones legales frente a los titulares de datos y las autoridades.

Implicaciones prácticas para las empresas

La ANPD también subraya que la detección de deepfakes dista de ser infalible. La compresión de archivos, la baja resolución, la aparición de nuevas técnicas de generación y el uso de conjuntos de datos de entrenamiento poco diversos pueden producir falsos positivos, falsos negativos y resultados desiguales entre distintos grupos. Por ello, depender de una única herramienta de detección difícilmente será suficiente. Para los programas de gobernanza de IA, la consecuencia es clara: la detección de deepfakes constituye un posible control, no una estrategia integral de gestión de riesgos.

La selección de controles adecuados comienza por comprender cómo se incorpora la tecnología a las operaciones de la organización. Las empresas necesitan saber qué datos se utilizan, dónde se almacenan, qué partes intervienen en el tratamiento y si los prompts, archivos cargados o contenidos generados pueden reutilizarse para mejorar o volver a entrenar los modelos. Sin esa visibilidad, el riesgo permanece difuso y resulta difícil evaluar de manera fiable la distribución de responsabilidades.

No existe una única respuesta de gobernanza adecuada para todos los casos de uso. Un avatar autorizado para capacitación interna no presenta el mismo nivel de riesgo que la clonación de voz utilizada para autenticación, la reproducción de imágenes de pacientes o la creación de contenido sintético que involucre a niños y adolescentes. La finalidad, la escala, las personas afectadas, el potencial de fraude o discriminación y la dificultad de reparar los daños deben influir en el nivel de escrutinio requerido.

Esta evaluación también debe extenderse a los procesos de contratación. Más allá del precio y de las funcionalidades, las organizaciones deberían comprender cómo fue entrenado el sistema, qué ocurre con los archivos y prompts enviados por los usuarios, si esos materiales pueden reutilizarse y qué mecanismos ofrece el proveedor para prevenir abusos, preservar evidencias y eliminar contenidos perjudiciales. 

Los contratos deberían reflejar estas condiciones y distribuir las obligaciones, los riesgos económicos y los mecanismos de respuesta de manera coherente con las funciones y el grado de control efectivamente ejercidos por cada parte. Sin embargo, dicha distribución contractual no sustituye el análisis de las responsabilidades legales aplicables, ni permite a las partes redefinir, únicamente mediante contrato, las funciones que materialmente desempeñan en relación con el tratamiento.

La misma lógica se aplica a las salvaguardas incorporadas al producto. Dependiendo del caso de uso, los controles apropiados pueden incluir medidas de autenticación, restricciones de funcionalidades, bloqueo de solicitudes abusivas, registro de operaciones y revisión humana. Las etiquetas, marcas de agua, firmas criptográficas y estándares de procedencia de contenidos pueden ayudar a identificar el origen de un archivo y su historial de edición, pero no permiten determinar, por sí solos, si el contenido es verdadero o falso. Su eficacia depende de su integración con mecanismos de impugnación y procedimientos de respuesta frente al fraude y otras formas de abuso.

El Radar no ofrece, ni podría razonablemente ofrecer, una solución completa a los desafíos planteados por los deepfakes. Su valor reside en desplazar la atención desde el contenido sintético considerado de forma aislada hacia las decisiones y los sistemas que hacen posible su creación y circulación.

Para las empresas que operan en Brasil, esto supone abordar el problema antes de que se produzca una denuncia, cuando todavía es posible adoptar decisiones deliberadas sobre datos, proveedores, funcionalidades del producto y salvaguardas, en lugar de reaccionar únicamente después de que el daño se haya propagado. La conclusión más amplia es que la gobernanza de los deepfakes comienza antes de su detección, mediante decisiones sobre datos, diseño de productos, terceros, controles y mecanismos de respuesta que determinarán si el riesgo puede prevenirse, rastrearse y contenerse.