Última revisión:
¿Qué es un deepfake (ultrafalsificación)? Definición, ley y obligaciones
Un deepfake (ultrafalsificación) es una imagen, un sonido o un vídeo generado o manipulado por una IA que se parece a una persona, un lugar o un suceso reales y puede confundirse con algo auténtico. En Europa, el AI Act obliga a indicar que ese contenido es artificial. En Francia, el artículo 226-8 del Código Penal castiga su difusión sin consentimiento y sin mención.
La palabra «deepfake» une «deep learning» y «fake». El AI Act, en su versión en español, habla de «ultrasuplantación». El artículo 3, punto 60, del Reglamento (UE) 2024/1689 (AI Act) se refiere a una imagen o un contenido de audio o vídeo generado o manipulado por IA que se asemeja a personas, objetos, lugares, entidades o sucesos existentes y que puede parecer erróneamente auténtico. Un texto solo queda fuera de esta definición. El artículo 50, apartado 4, obliga a los responsables del despliegue, es decir, a las empresas que usan la herramienta, a indicar que el contenido ha sido generado o manipulado por una IA. Para una obra manifiestamente artística, creativa, satírica o ficticia, la obligación se limita a una mención que no obstaculice el disfrute de la obra. Esta regla se aplica desde el 2 de agosto de 2026. El derecho penal francés se basa en el consentimiento. Desde la ley de 21 de mayo de 2024 para asegurar y regular el espacio digital (ley SREN), el artículo 226-8 del Código Penal castiga con un año de prisión y 15 000 euros de multa a quien ponga en conocimiento del público o de un tercero un contenido generado por un tratamiento algorítmico que represente la imagen o las palabras de una persona sin su consentimiento, si no resulta evidente que es artificial o si no se hace mención expresa de ello. Las penas pasan a dos años y 45 000 euros cuando se utiliza un servicio de comunicación pública en línea. El artículo 226-8-1 se refiere a los contenidos de carácter sexual: dos años y 60 000 euros, y tres años y 75 000 euros en línea.
Ejemplo concreto
A finales de enero de 2024, la policía de Hong Kong recibió la denuncia de un fraude en la oficina local de una multinacional, identificada después como la ingeniería británica Arup. Un empleado de finanzas había realizado 15 transferencias, por 200 millones de dólares de Hong Kong (unos 25 millones de dólares estadounidenses), a cinco cuentas bancarias. Había asistido a una videoconferencia en la que parecían estar presentes el director financiero y varios compañeros. Según la policía, todos los participantes salvo él eran reproducciones fabricadas a partir de vídeos y sonidos públicos. Arup confirmó en mayo de 2024 que se habían utilizado voces e imágenes falsas.
Preguntas frecuentes
¿Qué es un deepfake?
Es una imagen, un sonido o un vídeo generado o manipulado por una IA para imitar a una persona, un lugar o un suceso reales, hasta el punto de poder confundirse con algo auténtico. El derecho europeo lo denomina «ultrasuplantación» en su versión en español (AI Act, artículo 3, punto 60).
¿Es ilegal un deepfake en Francia?
No en sí mismo. El artículo 226-8 del Código Penal se refiere a la difusión de un contenido generado por IA que representa la imagen o las palabras de una persona sin su consentimiento, cuando no resulta evidente que es artificial o no se menciona. Un año de prisión y 15 000 euros de multa, dos años y 45 000 euros en línea. Los contenidos sexuales dependen del artículo 226-8-1, más severo.
¿Cuál es la diferencia entre deepfake y ultrasuplantación?
Ninguna en el fondo. «Deepfake» es la palabra corriente; «ultrasuplantación» es el término de la versión en español del AI Act. El Código Penal francés habla de «contenido generado por un tratamiento algorítmico» y, para los montajes clásicos, de «montaje».
¿Debe una empresa indicar que un contenido está generado por IA en su comunicación?
Sí cuando constituye una ultrasuplantación. El artículo 50 del AI Act obliga a los responsables del despliegue a indicar que la imagen, el sonido o el vídeo ha sido generado o manipulado por una IA, con una mención más discreta para las obras manifiestamente artísticas o satíricas. La regla se aplica desde el 2 de agosto de 2026. Las directrices de la Comisión sobre el artículo 50 precisan los casos cubiertos.
¿Cómo proteger a la empresa de un fraude del CEO mediante deepfake?
Con procedimientos, no con la vista. Exija doble validación y una llamada de verificación a un número conocido para toda transferencia o cambio de datos bancarios solicitado a distancia. En el caso Arup, un empleado realizó 15 transferencias tras una videoconferencia en la que todos los demás participantes eran reproducciones.
Ver también
Para profundizar
Artículo 226-8 del Código Penal francés, Légifrance (en vigor desde el 23 de mayo de 2024)
Fuentes
- Reglamento (UE) 2024/1689 (AI Act), artículo 3 punto 60 (definición de ultrasuplantación) y artículo 50 apartado 4, EUR-Lex. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
- Reglamento (UE) 2026/1744 «Ómnibus digital sobre IA», EUR-Lex. https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:32026R1744
- Código Penal francés, artículo 226-8, en vigor desde el 23 de mayo de 2024, Légifrance. https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000049571542
- Código Penal francés, artículo 226-8-1 (creado por la Ley n.º 2024-449 de 21 de mayo de 2024), Légifrance. https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000049567458
- Ley n.º 2024-449 de 21 de mayo de 2024 para asegurar y regular el espacio digital, Légifrance. https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000049563368
- Multinational loses HK$200 million to deepfake video conference scam, Hong Kong police say, Hong Kong Free Press, 5 de febrero de 2024. https://hongkongfp.com/2024/02/05/multinational-loses-hk200-million-to-deepfake-video-conference-scam-hong-kong-police-say/
- Deepfake fraud costs engineering giant Arup £20m, Computing, mayo de 2024. https://computing.co.uk/news/4209651/deepfake-fraud-costs-engineering-giant-arup-gbp20m