Cómo prevenir y detectar ataques deepfakes

Cómo prevenir y detectar ataques deepfakes

Los expertos advierten que con el creciente poder de «aprendizaje» de la inteligencia artificial, los juegos profundos se están volviendo cada vez más sofisticados, lo que obliga a los científicos a mejorar las herramientas de detección. Cómo prevenir y detectar ataques deepfakes.

Discursos manipulados, vídeos o imágenes falsas… Sin duda, las palabras perspicaces se están extendiendo por las redes sociales a una velocidad vertiginosa. Incluye una técnica basada en inteligencia artificial en la que se apilan las películas, lo que permite reemplazar rostros y así obtener efectos especiales.

A veces, la tecnología se usa con propósitos «nobles» (como un video falso de Trump publicado recientemente por Solidarité SIDA) o para hacer sonreír a los usuarios, pero más a menudo también se usa para desacreditar a una figura pública en particular, manipular la opinión pública o incluso difundir desinformación. Empecemos de cero: ¿cómo hacer un deepfake?

Hay dos métodos principales que se usan comúnmente para crear contenido falso. Una de las principales causas es utilizar la sincronización (especialmente los movimientos de los labios) con el habla de otras personas. Sin embargo, este es un ataque malicioso ya que solo se modifica una pequeña parte del video original. En segundo lugar, las diferentes expresiones faciales del actor (puedes definirlo como un titiritero) se aplican a la cara original del objetivo (el muñeco). Luego se modifican los movimientos generales de la cara y la cabeza. Pero en los últimos meses, ha surgido otro tipo de técnica que sorprende y preocupa a los expertos: si bien no la comprendemos del todo, implicará crear imágenes completamente diferentes de manera artificial, especialmente utilizando rostros inéditos.

Por ejemplo, en el caso típico de sincronización de labios, la IA procesa la voz de audio de entrada, cuyo objetivo principal es mover los labios. Luego se le pedirá a la IA entrenada que haga este trabajo a partir de un nuevo casete de audio cuya imagen no existe y luego se generará.

¿Cómo podemos protegernos de los ataques deepfake? Actualmente, la legislación nacional está comenzando a abordar los riesgos que plantean los contenidos deepfake (tanto videos como imágenes). Por ejemplo, el estado de California ha propuesto dos proyectos de ley que legalizarían algunos aspectos de la falsificación profunda, como prohibir el uso de imágenes sintéticas de personas para crear pornografía (sin el consentimiento del editor). .) y la prohibición de manipular las imágenes de los candidatos políticos 60 días antes de las elecciones. Afortunadamente, varias compañías de seguridad cibernética están constantemente desarrollando algoritmos de detección cada vez más eficientes que pueden analizar imágenes de video y detectar pequeñas distorsiones que a menudo ocurren durante la «manipulación».

Por ejemplo, en este punto, los compositores de deepfake crean una cara 2D que luego se distorsiona para que coincida con la perspectiva 3D original del video. Y como dicen los expertos, la dirección de tu nariz suele ser una pista clave muy reveladora.

Por el contrario, dado que los videos deepfake aún se encuentran en sus primeras etapas, puede observar algunas características específicas para identificarlos como falsos:

• Ligero cambio de un disparo a otro.
• Variaciones del color de la piel de la persona original.
• Sin parpadeo extraño o parpadeo de ojos.
• Boca fuera de sincronización con la voz
• Movimiento espasmódico

Por ejemplo, en una película de Mark Zuckerberg, puedes ver que esto es falso porque algunos movimientos faciales no son naturales; Además, al comienzo de la película, la oreja izquierda tiene movimientos extraños y la nariz no convence del todo.

Finalmente, si estás interesado en distintos ámbitos relacionados con Informática y comunicaciones en Curso del instalador contamos con certificados que te ayudan a formarte como profesional. Si quieres conocer más sobre los requisitos de los cursos y qué aprenderás tras finalizarlo, puedes verlo entrando aquí.

Teresa Renero San Miguel.