Los deepfakes plantean, en la actualidad, una seria amenaza. Estas creaciones, que implican la manipulación realista de imágenes y videos, están teniendo un impacto significativo en diversos ámbitos, incluyéndose como armamento de guerra y para distorsionar la percepción pública de los conflictos. De hecho, según datos recopilados por el Foro Económico Mundial, los ataques de deepfake se disparan anualmente un 900%. La Oficina Federal de Investigación de Estados Unidos (FBI) ya advirtió este verano de su creciente uso con fines delictivos, especialmente, para llevar a cabo estafas y extorsiones. En muchos de los casos, los delincuentes crean grabaciones manipuladas, que difunden en foros y webs pornográficas, con el objetivo de exigir a las víctimas un dinero por eliminarlas.
Pero su uso va mucho más allá. En el conflicto entre Rusia y Ucrania, existen muchos ejemplos de cómo los deepfakes se han utilizado con el objetivo de intentar distorsionar la realidad. Concretamente, unos ciberdelincuentes rusos publicaron un video falso del presidente de Ucrania, Volodymyr Zelensky, ordenando la rendición de los soldados ucranianos ante las fuerzas rusas. Este se convirtió en el primer uso de desinformación con deepfake como arma en un conflicto militar.
Según Francisco Valencia, director general de Secure&IT “los deepfakes se han convertido en una herramienta muy peligrosa en el contexto de las guerras, donde la desinformación puede tener consecuencias catastróficas, debido a las reacciones que puede provocar”. También insiste en que este tipo de manipulación tiene el potencial de socavar la confianza pública y perjudicar mucho el discurso público de los afectados.
De manera similar, en el conflicto entre Israel y Hamás, la inteligencia artificial se está utilizando como “arma” en la guerra de la desinformación, para generar de forma masiva noticias falsas. Desde que se produjo el asalto de milicianos de Hamás en el sur de Israel, y a pesar de la extensa cobertura mediática que ha recibido el conflicto, las redes sociales están siendo inundadas de rumores y noticias falsas.
Con la tecnología que se utiliza en la actualidad, es cada vez más difícil diferenciar entre fake news y hechos reales. De hecho, algunas televisiones y periódicos se han hecho eco de ellas dándolas por válidas e, incluso, llegado a difundirlas. Es el caso de un vídeo que, supuestamente, muestra un helicóptero del ejército israelí siendo derribado por un soldado de Hamás. Sin embargo, estas imágenes pertenecen al videojuego Arma 3 desarrollado por los estudios Bohemia Interactive.
En este sentido, Francisco Valencia, recalca que la respuesta a esta amenaza requiere tecnologías de detección avanzadas, colaboración internacional y una mayor conciencia sobre los riesgos asociados.
Consejos para detectar un deepfake
Detectar un deepfake puede ser difícil, ya que las tecnologías detrás de ellos están mejorando constantemente. Sin embargo, hay algunos aspectos que pueden ayudar a identificarlos: