La Agencia Española de Protección de Datos (AEPD) ha
impuesto la primera sanción en España —y también la primera de Europa— por la
creación y difusión de imágenes falsas generadas con inteligencia artificial
(IA) y de carácter sexual.
En concreto:
- La
multa es de 2.000 euros, que se redujeron a 1.200 euros por
pago voluntario.
- El
caso está vinculado a hechos ocurridos en septiembre de 2023 en la
localidad de Almendralejo (Badajoz).
- Un
menor utilizó una app de IA para “desnudar” virtualmente a una compañera
del instituto y luego compartió la imagen por redes sociales o grupos de
mensajería.
- La
AEPD consideró que había un “tratamiento de datos personales sin
consentimiento” al superponer el rostro de la víctima sobre el cuerpo de
otra persona mediante IA.
¿Por qué importa?
Este caso no es solo un hecho aislado, sino que marca un
precedente importante:
- Es
la primera vez que una autoridad de protección de datos en la Unión
Europea sanciona por un “deepfake” sexual no consentido.
- Establece
que la generación de imágenes falsas mediante IA que afectan a la
intimidad, integridad y datos personales de alguien se puede sancionar
bajo la normativa de protección de datos.
- Afecta
a menores —en este caso las víctimas y también los implicados lo eran—, lo
cual añade una dimensión de vulnerabilidad que hace el asunto aún más
serio.
¿Qué se sancionó exactamente?
En términos sencillos:
- La
app utilizada permitía tomar la foto de una persona (vestida) y mediante
IA generar otra imagen en la que su rostro aparecía sobre un cuerpo
desnudo.
- Esa
imagen fue distribuida, compartida, lo que agravó el daño a la víctima y
amplificó la vulneración de su intimidad.
- La
AEPD abrió un expediente por esta actuación como un “tratamiento ilícito
de datos personales” (sin base legal para usar esos datos) y dictó la
sanción. Antena3+1
Algunas preguntas que surgen
- ¿Por
qué la multa es “solo” 2.000 euros (y finalmente 1.200)? Muchos expertos
lo consideran poco ejemplarizante, teniendo en cuenta lo grave del
daño, especialmente cuando hay menores implicados.
- ¿Hasta
qué punto la normativa actual es suficiente para abordar los nuevos retos
que plantea la IA? Este caso demuestra que sí se puede sancionar bajo la
legislación de protección de datos, pero también evidencia que los vacíos
legales aún existen.
- ¿Qué
impacto real tendrá en futuros casos similares? Se espera que la AEPD y
otras autoridades empiecen a actuar de forma más frecuente ante deepfakes
no consentidos.
¿Qué implica para ciudadanos y jóvenes?
Para un público general, esto significa lo siguiente:
- Privacidad
digital: Aunque una imagen sea “falsa” (fabricada con IA), sigue
siendo un uso de tus datos (rostro, imagen) sin consentimiento, lo cual
puede tener consecuencias jurídicas.
- Conciencia
sobre el uso de apps de IA: Aplicaciones que “desnudan” virtualmente o
alteran la imagen de alguien son peligrosas y pueden constituir delito o
infracción administrativa.
- Protección
de menores: Los jóvenes deben saber que compartir o manipular este
tipo de imágenes no es un simple “error de adolescentes”, sino un asunto
serio que puede acarrear sanciones y daños duraderos para las víctimas.
- Importancia
del consentimiento: El uso de la imagen de otra persona requiere su
consentimiento. Si se hace sin él, especialmente manipulando con IA, se
viola su derecho a la intimidad.
- Antecedente
para futuras regulaciones: Se abre una línea de jurisprudencia y
regulación que puede afectar a muchos ámbitos: redes sociales, apps de IA,
tratamiento de imágenes, etc.
Conclusión
La sanción de 2.000 euros impuesta por la AEPD por la
creación y difusión de un deepfake sexual de una menor marca un hito en la protección
de datos en la era de la IA. Aunque la cuantía pueda parecer modesta, lo
relevante es el principio: la alteración de imágenes con IA que vulneran la
intimidad de alguien sin su consentimiento puede tener consecuencias legales.
Esto debería servir de llamada de atención para
adolescentes, familias, educadores y desarrolladores: la IA no está exenta de
responsabilidad. Las imágenes falsas, los “montajes”, el compartir sin
consentimiento… todo tiene implicaciones en el mundo real.
0 Comentarios