Los deepfakes

[28041901-4-Claudia-338]

Buenas tardes a todos,

He estado reflexionando sobre los deepfakes y cómo pueden ser un problema. Los deepfakes son contenidos audiovisuales manipulados mediante inteligencia artificial para alterar la realidad, haciendo que parezca que alguien ha dicho o hecho algo que nunca ha ocurrido. Esto se puede usar para el entretenimiento, pero también para  difundir desinformación, manipular la opinión pública o dañar la reputación de individuos. Por lo tanto, ¿cómo podemos regular el uso de deepfakes sin comprometer la libertad de expresión?

Les adjunto el link de la web donde he obtenido información: https://www.incibe.es/aprendeciberseguridad/deepfakes

Espero atenta a sus opiniones,

Claudia Guillamet - Participante Línea 4 - Garantizar unos medios de comunicación libres y plurales en la UE.

[22005765-4-Vega-507]

Buenas noches delegad@s y miembros del programa;

Es cierto que no todos los deepfakes son creados malintencionadamente, pero yo me voy a centrar en aquellos generados sin consentimiento y son extremadamente dañinos. Erosionan la confianza en los medios de comunicación y en las plataformas digitales, distorsionando la realidad y sobrepasando la línea entre contenidos real y manipulado.

Respondiendo a la pregunta planteada por Claudia, creo que los deepfakes que manipulan la información y buscan alterar lo auténtico, deberían de ser ilegales. Aún así me he informado y la legislación ya está comenzando a abordar las amenazas de los deepfakes, y las empresas de ciberseguridad están desarrollando continuamente nuevos algoritmos de detención. Estos analizan el vídeo y muestran las distorsiones que se crean en el proceso de falsificación. De esta forma podemos saber que tipo de contenido estamos consumiendo.

Espero atentamente vuestras propuestas y opiniones. Muchas gracias.
Vega Brun Lope. IES Pirineos, Jaca.

[29016847-4-Adrián-20]

Buenas tardes delegados y miembros del programa,

La Unión Europea ha tomado varias medidas para abordar los problemas asociados a los deepfakes y la desinformación en línea. Una de las principales iniciativas es la Ley de Inteligencia Artificial (IA), que establece directrices específicas para el uso responsable de la IA, regulando tecnologías como los deepfakes para evitar su uso malintencionado. Esta ley forma parte del esfuerzo más amplio de la UE para regular la IA y proteger a los ciudadanos de los riesgos derivados de su uso.

Además, la UE ha implementado el Código de Prácticas contra la Desinformación, que busca combatir la propagación de contenidos falsos, incluidos los deepfakes, en plataformas digitales. Este código establece principios para que las plataformas en línea gestionen de manera más efectiva el contenido engañoso, protegiendo así la integridad de la información disponible para los usuarios.

Asimismo, me gustaría resaltar que la colaboración entre plataformas tecnológicas, empresas de ciberseguridad y gobiernos es crucial. Las empresas que desarrollan algoritmos de detección de deepfakes están haciendo progresos significativos, como bien ha dicho la delegada Vega, pero es necesario fomentar una mayor cooperación entre estos sectores para que las tecnologías de detección sean más accesibles y efectivas. Esta colaboración podría ayudar a reducir los riesgos que los deepfakes suponen, mejorando la transparencia y la seguridad en las plataformas digitales.

Les adjunto los links de donde he adquirido la información:
https://www.europarl.europa.eu/topics/es/article/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial
https://authme.com/es/blog/combating-deepfake/

Espero atentamente vuestras opiniones.

Adrián Pino - Comisión 4 - Garantizar unos medios de comunicación libres y plurales en la UE.

[41008994-4-Hugo-314]

Buenas tardes delegados y miembros del programa,

Los Deepfakes como definía Claudia son piezas visuales, auditivas o audiovisuales que simulan la realidad y que consiguen generar falsas imágenes y/o voces de personas. Es una tecnología que se basa en la inteligencia artificial que logra, con una apariencia hiperrealista, simular acciones realizadas por parte de dichas personas.

Ya en 2023 el Congreso de los Diputados español propuso la Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial, esta propuesta de el Grupo Parlamentario Plurinacional SUMAR expone que los avances de la inteligencia artificial ofrece multitud de oportunidades a la vez que genera retos y problemas. En julio de 2021 el Parlamento Europeo publicó un informe en el cual enumeraba los riesgos asociados a esta técnica y se estimó que entre el 90 y 95 por ciento de los Deepfakes pueden ser catalogados como pornografía.
Por ello esta propuesta de ley propuso que se añadiesen nuevos apartados al artículo 157, estos exponen que la difusión de imágenes, vídeos o audios generados a través de sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial sin la previa autorización o consentimiento expreso de la persona o personas objeto, salvo que incluyan de forma clara y sobresaliente una advertencia de su condición de imagen generada artificialmente por inteligencia artificial se consideraría una infracción grave.

Asimismo, se considerarán injurias las acciones que, sin autorización y con ánimo de menoscabar el honor, fama, dignidad o la propia estimación de una persona, recreen mediante sistemas automatizados, software, algoritmos o inteligencia artificial para la pública difusión su imagen corporal o audio de voz.
Igualmente la calumnia y la injuria se reputarán hechas con publicidad cuando se propaguen por medio de la imprenta, la radiodifusión o por cualquier otro medio de eficacia semejante. Salvo previa autorización expresa de la persona o personas afectadas, las simulaciones de imágenes, vídeos o audios de voz de estas generados a través de sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial que fueran difundidos a través de redes sociales serán consideradas como injurias hechas con publicidad.

Respondiendo a la pregunta planteada por Claudia, creo que este tipo de actividades debe ser entendido como una nueva y peligrosa forma de violencia sexual y por tanto penado.

Les adjunto los links de donde he adquirido la información:

https://www.congreso.es/public_oficiales/L15/CONG/BOCG/B/BOCG-15-B-23-1.PDF
https://www.europarl.europa.eu/RegData/etudes/STUD/2021/690039/EPRS_STU(2021)690039_EN.pdf
https://mascalvet.com/deepfake-y-legislacion-retos-y-proposicion-de-ley-organica/

Espero atento a sus opiniones,

Hugo Martínez - Comisión 4 - Garantizar unos medios de comunicación libres y plurales en la UE.

[MOD-Miguel-4]

Queridos delegad@s y honorables miembros de la presidencia,

Gracias a todos por compartir vuestras opiniones. Coincido con Claudia en que los deepfakes son una tecnología con un gran potencial, pero a la vez con serias implicaciones. En particular, el riesgo de ser utilizados para difundir desinformación y manipular la opinión pública es una amenaza clara para la democracia y la libertad de información .

Me gustaría añadir a lo que menciona Vega, que la confianza en los medios de comunicación es esencial para que los ciudadanos puedan tomar decisiones informadas. Cuando los deepfakes distorsionan la realidad, se pone en peligro esta confianza y, la estabilidad social y política por consecuencia.

Ya existen múltiples medidas legislativas que intentan contrarrestar esta amenaza, como el trabajo de las empresas de ciberseguridad para detectar estas manipulaciones. Sin embargo, aún queda mucho por hacer en cuanto a la regulación y la sensibilización de los usuarios sobre este tipo de contenidos, por lo que propongo:
- Crear de un sistema de etiquetado claro para identificar contenidos que hayan sido manipulados�, incluyendo advertencias o etiquetas visibles para que los usuarios sepan si un contenido es un deepfake, de manera similar a cómo se etiquetan los anuncios o los contenidos patrocinados.
- Fomentar campañas de sensibilización sobre los riesgos de los deepfakes y cómo pueden afectar la percepción pública�, incluyendo programas educativos en escuelas y plataformas de redes sociales�.
- Establecer un código ético para los creadores de contenido online� para promover la responsabilidad en el uso de tecnologías como los deepfakes, y asegurar que estas no se utilicen con fines dañinos o engañosos.

Coincido también con Adrián en que la colaboración entre los sectores privado, público y tecnológico es crucial. Sin embargo, ¿cómo podemos asegurar que la legislación y las tecnologías de detección sean suficientes y no terminen limitando la libertad de expresión en el proceso?

Por último, Hugo menciona un punto importante: la relación entre los deepfakes y la violencia, especialmente cuando se utilizan para difundir contenidos sexuales no consentidos. Este es un tema que debe abordarse con urgencia en la legislación. ¿Qué opináis sobre la necesidad de adaptar las leyes existentes para incluir este tipo de violencia digital de forma más clara?

Espero vuestras opiniones.

Miguel García Sánchez
Comisión 4 - Equipo Presidencia Sesión Autonómica de Andalucía, Ceuta y Melilla