La Agencia Española
de Protección de Datos (AEPD) ha multado con 2.000 euros a los padres de un
menor de edad que usó una herramienta de inteligencia artificial para crear una
imagen falsa de una de sus compañeras desnuda. Se trata de la primera resolución
de este tipo que se impone en España y, aunque los datos presentes en la
notificación pública están anonimizados, la Agencia ha confirmado que deriva de
los hechos sucedidos en Almendralejo en 2023.
En septiembre de
aquel año, varias menores de un instituto de la localidad pacense denunciaron
que imágenes que las mostraban sin ropa estaban circulando en los teléfonos de
sus compañeros de clase. Más tarde se conoció que estaban creadas con una app
llamada ClothOff, basada en inteligencia artificial, actualmente cerrada y
cuyos creadores se enfrentan a un proceso judicial en EEUU por un caso similar.
La herramienta se basa en la cara de la víctima para generar una imagen de ella sin ropa, teniendo en cuenta detalles como su complexión o tono de piel. Las familias de las menores denunciaron el gran realismo de las imágenes falsas. El caso español también avanzó por la vía penal, terminando en una condena de un año de libertad vigilada y un curso de formación para los acusados, que en el momento de los hechos tenían entre 12 y 14 años.
La resolución de la
AEPD revela que la institución decidió investigar de oficio lo sucedido, a raíz
de las publicaciones en medios de comunicación. “Los hechos consistían en la
manipulación de imágenes con inteligencia artificial para asociar rostros reales
de un grupo de personas a cuerpos desnudos que no les correspondían. Estas
imágenes manipuladas fueron difundidas por sus autores a través de redes
sociales, un grupo de mensajería, y, según la información publicada, también en
portales de internet como Only fans y diversas páginas pornográficas”, explica
el organismo.
La AEPD pudo acceder
a la identidad de los presuntos autores gracias a la información facilitada por
la Fiscalía. Tras un análisis, el regulador decidió imponer la citada multa de
2.000 euros a los “progenitores y, por lo tanto, representantes legales” de uno
de los menores implicados. Estos han optado por acogerse a las dos reducciones
posibles para este tipo de sanciones, asunción de responsabilidad y pronto
pago, de un 20% cada una. La cifra final de la multa ha sido, por tanto, de
1.200 euros.
El regulador de
privacidad recuerda que la imagen de una persona es un dato personal y que los
hechos se refieren a la difusión de imágenes manipuladas con IA de menores, que
“cuentan con una protección reforzada en el ámbito de la protección de sus datos”.
La AEPD, en cambio,
no profundiza en esta resolución en la responsabilidad de los creadores de la
aplicación ClothOff, dedicada específicamente a generar imágenes de mujeres
desnudas sin su consentimiento. En el caso estadounidense, la víctima que ha
llevado el caso a los tribunales cita expresamente lo sucedido en Almendralejo
para justificar la afectación mundial que ha tenido esta herramienta.
En otra resolución
por unos hechos posteriores a este, la AEPD se vio obligada a archivar una
denuncia similar debido a la imposibilidad de identificar al responsable de la
difusión de una imagen de desnudo integral de una alumna de un instituto.
“Es una pandemia de violencia tremenda a la que hay que combatir con estrategias políticas, grupos de trabajo y protocolos eficaces de protección a las víctimas”, denunció en Al Adib, divulgadora y educadora sexual, quien hizo pública la denuncia del grupo de madres pacenses a través de sus redes sociales después de que se difundieron imágenes falsas de sus hijas (El Dia, texto do jornalista Carlos del Castillo)
Sem comentários:
Enviar um comentário