Investigadores de IA de Facebook han encontrado una nueva forma de identificar deepfakes

La nueva tecnología de Facebook AI Research y la Universidad Estatal de Michigan permite detectar deepfakes diseñados a partir de nuevos modelos generativos.

Te puede interesar
Deepfakes: Los oscuros orígenes de los videos falsos y su potencial para causar estragos en línea

En la multitud de rostros anteriores, algunos son verdaderos y otros son deepfakes, es decir, imágenes manipuladas por inteligencia artificial. Pero, ¿cómo diferenciarlos? Investigadores de Facebook AI Research (FAIR) se han asociado con la Universidad Estatal de Michigan (MSU) para diseñar un nuevo enfoque para la detección.

Las soluciones ya existen, pero solo pueden detectar deepfakes diseñados a partir de modelos que la IA ya ha encontrado durante su fase de aprendizaje. El método de Facebook permite diseccionar literalmente la imagen a través de una técnica de ingeniería inversa. Para ello, las imágenes pasan por una red que estima características específicas, es decir, el equivalente a la red de estimación de huellas dactilares. Estos son patrones sutiles pero únicos, dejados en cada imagen producida por un modelo generativo particular. La red de estimación se basa en las propiedades de una huella digital, incluida su magnitud, naturaleza repetitiva, rango de frecuencias y respuesta de frecuencia simétrica.

Al estimar estas huellas dactilares, será posible predecir las características - o hiperparámetros - del modelo que se utilizó para diseñar un conjunto de deepfakes. Y trazando las similitudes entre los modelos de un conjunto de deepfakes, es posible saber si una serie de imágenes provienen de la misma fuente.

Para probar este método, el equipo de investigación de MSU reunió un conjunto de 100.000 deepfakes generados a partir de 100 modelos generativos disponibles públicamente.

Xiaoming Liu, profesor de ciencias de la computación en la MSU que participó en el proyecto dijo en un comunicado: "Nuestro método facilitará la detección y el rastreo de deepfakes en entornos reales donde la propia imagen de deepfake es a menudo la única información con la que los sistemas de detección necesitan trabajar. » 

Recuerda que existen otras técnicas para detectar deepfakes. Por ejemplo, investigadores de la Universidad Estatal de Nueva York pueden detectarlos a través de los reflejos de la luz en la retina de los ojos del sujeto. Otros investigadores han sido capaces de eliminar los deepfakes gracias a los movimientos incoherentes de la cara. Estas herramientas son más que necesarias para combatir estas fotos y vídeos falsos que cada vez contribuyen más a la desinformación y al ciberacoso.

Fuente: Facebook

Publicar un comentario

0 Comentarios