El filósofo Jean Baudrillard dedicó buena parte de su obra a explorar la idea de simulacro: la representación que sustituye a la realidad hasta el punto de volverse más real que ella misma. Escribía en la era analógica, cuando falsificar requería esfuerzo, medios y talento. Hoy, con unos pocos clics, cualquier persona puede generar un vídeo en el que alguien dice lo que nunca dijo, hace lo que nunca hizo o aparece donde nunca estuvo. La tecnología deepfake ha convertido el simulacro en un producto de consumo masivo. Y eso tiene consecuencias directas sobre la seguridad pública, la convivencia y la confianza en las instituciones.
En este artículo explicamos qué son los deepfakes, cuáles son sus principales amenazas para la seguridad, cómo está respondiendo la legislación y qué papel pueden jugar las administraciones locales en la prevención de sus efectos más dañinos.
El simulacro hecho tecnología
El término deepfake surge de la combinación de dos palabras inglesas: deep learning (aprendizaje profundo) y fake (falso). Se refiere a contenidos audiovisuales generados o manipulados mediante inteligencia artificial con el objetivo de hacer creer que son reales. La tecnología utilizada, basada en redes neuronales generativas, ha experimentado una evolución tan acelerada que lo que hace apenas cinco años requería equipos especializados y semanas de trabajo, hoy puede realizarse en minutos con aplicaciones accesibles desde cualquier teléfono inteligente.
Pero no todo el uso de esta tecnología es malicioso. El doblaje cinematográfico, la animación o la restauración de material histórico se benefician de las mismas capacidades técnicas. Sin embargo, como sucede con tantas innovaciones, la misma herramienta que puede mejorar la vida de las personas puede también ser utilizada para dañarlas. Y en el caso de los deepfakes, el potencial de daño es extraordinariamente amplio.
El Laboratorio de Innovación de Europol publicó en 2024 el informe Facing Reality? Law Enforcement and the Challenge of Deepfakes, resultado de un proceso de análisis estratégico en el que participaron más de 80 expertos policiales de los estados miembros de la Unión Europea. La conclusión era nítida: de entre todas las tendencias tecnológicas emergentes, los deepfakes se identificaron como una de las más preocupantes de cara a 2030, tanto por su impacto potencial sobre los ciudadanos como por los desafíos que plantean a las fuerzas y cuerpos de seguridad.
Tres amenazas, una misma tecnología
El espectro de usos maliciosos de los deepfakes puede agruparse en tres grandes ámbitos de amenaza para la seguridad pública.
El fraude económico y la suplantación de identidad constituyen hoy el ámbito en el que el impacto ya es más cuantificable. A principios de 2024, un empleado financiero de la empresa de ingeniería Arup, en su oficina de Hong Kong, autorizó quince transferencias que sumaban 25 millones de dólares tras participar en una videoconferencia con lo que creyó eran el director financiero y varios colegas de la compañía. Todos eran recreaciones generadas por inteligencia artificial. No se trató de un ciberataque convencional basado en la intrusión de sistemas: fue ingeniería social aumentada tecnológicamente, y resultó devastadoramente eficaz. Casos similares, a escala mayor o menor, se han reproducido en empresas de todo el mundo. En julio de 2024, la voz del CEO de Ferrari fue clonada con IA para intentar ordenar una transferencia millonaria a sus ejecutivos financieros. Solo la perspicacia de un empleado que realizó una pregunta que la inteligencia artificial no pudo responder impidió el fraude. El balance global de pérdidas por fraude con deepfakes alcanzó los 929 millones de euros en 2025, el triple que el año anterior, según datos publicados en febrero de 2026 por la empresa del sector de la ciberseguridad surfshark.
La desinformación y la amenaza a la democracia representan tal vez el riesgo más difícil de cuantificar, pero no el menos grave. En enero de 2024, días antes de las primarias presidenciales de New Hampshire, los votantes demócratas del estado recibieron llamadas telefónicas en las que la voz del presidente Biden les instaba a reservar su participación para las elecciones de noviembre. Biden nunca grabó ese mensaje. En 2023, días antes de las elecciones parlamentarias de Eslovaquia, circuló un audio en el que el líder del partido progresista, Michal Šimečka, parecía confesar que planeaba manipular los resultados y subir el precio de la cerveza. La proximidad con el día de las elecciones impidió desmentirlo a tiempo y el candidato perdió por escaso margen. Algunos analistas señalan aquel audio como el primer caso documentado de unas elecciones influenciadas de forma decisiva por contenido generado artificialmente. El problema no es solo que la mentira se difunda sino el hecho que, una vez instalada la duda, incluso los documentos auténticos pueden ser desacreditados con la misma facilidad.
La violación de la privacidad y la dignidad personal es la tercera gran categoría de amenaza y la que afecta de manera más directa a las personas en su vida cotidiana. La creación y difusión de contenido sexual falso en el que el rostro de una persona real es insertado sin su consentimiento en material pornográfico ha crecido exponencialmente, con un impacto devastador sobre la reputación, la salud mental y la vida social de las víctimas, mayoritariamente mujeres. Según un informe realizado por Save the children y publicado en julio de 2025, uno de cada cinco jóvenes en España afirma haber sido víctima de deepfakes durante su infancia o adolescencia.
La respuesta regulatoria: entre la urgencia y la insuficiencia
La respuesta legislativa a los deepfakes se está produciendo, pero los expertos coinciden en que la velocidad de la regulación no está igualando la velocidad de la tecnología. A nivel europeo, el Reglamento de Inteligencia Artificial de la UE (AI Act), aprobado en 2024 y en vigor de forma gradual entre 2025 y 2026, establece en su artículo 50 la obligación de identificar claramente los contenidos generados por IA, incluyendo las ultrafalsificaciones. No obstante, buena parte de los especialistas consideran que los deepfakes están regulados de manera muy defectuosa en dicho reglamento y alertan sobre sus implicaciones prácticas. La Digital Services Act (DSA), otro reglamento europeo aprobado en 2022, obliga a las plataformas a retirar con rapidez los contenidos falsos que vulneren derechos fundamentales, pero su efectividad depende de la capacidad de detección y de los mecanismos de denuncia disponibles.
A nivel estatal, España aprobó en marzo de 2025 la tipificación como delito de los deepfakes de contenido sexual, en el marco de una reforma del Código Penal que también penaliza el grooming. Se trata de una iniciativa pionera en Europa que sanciona a quienes difundan, exhiban o cedan la imagen o voz de una persona generada o modificada mediante sistemas de inteligencia artificial sin su consentimiento y con ánimo de menoscabar su integridad moral.
En cualquier caso, la regulación jurídica, siendo necesaria, no es suficiente. La naturaleza transfronteriza del problema —es sencillo generar y distribuir un deepfake desde cualquier lugar del mundo— limita la eficacia de las legislaciones nacionales y exige una armonización internacional que todavía está lejos de ser una realidad.
Prevención, alfabetización digital y respuesta local
En la misma lógica que articula buena parte del trabajo en seguridad y convivencia, la respuesta más eficaz a los deepfakes no puede basarse exclusivamente en la reacción punitiva. La prevención, la formación y la capacidad crítica de la ciudadanía son herramientas fundamentales que, además, tienen un anclaje natural en el mundo local.
La alfabetización mediática y digital emerge como uno de los instrumentos más valiosos. Saber identificar las señales que delatan un contenido manipulado no elimina el riesgo, pero reduce la vulnerabilidad. En el ámbito empresarial, el caso de la empresa WPP demuestra que la formación de los equipos puede ser decisiva: el intento de estafa que sufrieron en 2024, en el que se suplantó mediante deepfake a su CEO en una reunión por videollamada, fue frustrado gracias al estado de alerta y la formación de los empleados, un desenlace muy distinto al de Arup que comentábamos al principio de este artículo.
Más allá de la formación, el diseño de protocolos de verificación es una medida de sentido común que muchas organizaciones todavía no han implementado. Establecer canales alternativos de confirmación antes de ejecutar transferencias o tomar decisiones sensibles, acordar palabras clave de verificación entre equipos o exigir la confirmación por vía distinta a la que inicia la solicitud son medidas de bajo coste y alto impacto. En 2024, más del 80% de las empresas reconocía no disponer de protocolos específicos para hacer frente a ataques basados en inteligencia artificial.
Las administraciones locales, por su proximidad a la ciudadanía y su capacidad de acción en los ámbitos educativo, comunitario y de seguridad, están en una posición privilegiada para liderar esta respuesta preventiva. Los cuerpos de policía local pueden incorporar el fenómeno de los deepfakes a sus programas de formación ciudadana, del mismo modo que han incorporado la ciberseguridad o la prevención de estafas telefónicas. Los centros educativos son otro espacio clave: dotar al alumnado de herramientas para leer críticamente el entorno digital no solo protege frente a los deepfakes, sino que contribuye a construir una ciudadanía más crítica frente a la desinformación en todas sus formas.
Desde el FEPSU entendemos que los retos de la seguridad no esperan a que la legislación los alcance. La velocidad con la que la tecnología transforma nuestras sociedades exige que las administraciones, y especialmente aquellas más cercanas a la ciudadanía, desarrollen capacidades de anticipación y prevención. En ese camino, la formación, la cooperación entre instituciones y el compromiso con una ciudadanía informada y crítica son, hoy por hoy, las mejores herramientas con las que contamos.
