Lanzamiento de análisis del Laboratorio de Innovación de Europol

• El informe de la Agencia de la Unión Europea para la Cooperación Policial  (Europol) encuentra que la tecnología deepfake podría convertirse en una herramienta básica para el crimen organizado

• Los avances recientes en inteligencia artificial significan que la detección y prevención de deepfakes debe ser la máxima prioridad de las fuerzas del orden

Oipol operando en la Unión Europea | Documento, comunicación y foto de Europol, abril 28 de 2022 | Traducción y edición Oipol, abril 29 de 2022 – El Laboratorio de Innovación de Europol ha publicado el día 28 de abril su primer informe en el marco de su función de Observatorio, titulado ‘ ¿Hacer frente a la realidad? La aplicación de la ley y el desafío de los deepfakes ‘. El informe, que extrae sus conclusiones sobre la base de una extensa investigación documental y consultas en profundidad con expertos en aplicación de la ley, proporciona una descripción detallada del uso delictivo de la tecnología deepfake, junto con los desafíos que enfrentan las fuerzas del orden para detectar y prevenir el uso nefasto de esta.

El informe incluye varios ejemplos contemporáneos que muestran el uso potencial de deepfakes en delitos graves como: fraude de CEO, manipulación de pruebas y producción de pornografía no consentida . 

Los avances en inteligencia artificial y la disponibilidad pública de grandes bases de datos de imágenes y videos significan que el volumen y la calidad del contenido deepfake están aumentando, lo que facilita la proliferación de delitos que aprovechan la tecnología deepfake. Por lo tanto, los organismos encargados de hacer cumplir la ley deben ser conscientes de las falsificaciones profundas y su impacto en el futuro trabajo policial.

Recomendaciones para abordar los usos delictivos de deepfakes

Gran parte del contenido deepfake creado en la actualidad es identificable a través de métodos manuales que se basan en analistas humanos que identifican signos reveladores en imágenes y videos deepfake. Sin embargo, esta es una tarea que requiere mucha mano de obra y que no se puede llevar a cabo a escala. En consecuencia, el informe argumenta que los organismos encargados de hacer cumplir la ley deberán mejorar las habilidades y tecnologías a disposición de los agentes, si quieren seguir el ritmo del uso delictivo de las falsificaciones profundas. 

Los ejemplos de estas nuevas capacidades van desde el despliegue de salvaguardias técnicas y organizativas contra la manipulación de videos hasta la creación de software de detección de falsificación profunda que utiliza inteligencia artificial. 

¿Enfrentando la realidad? La aplicación de la ley y el desafío de las falsificaciones profundas

‘ ¿Hacer frente a la realidad? La aplicación de la ley y el desafío de las falsificaciones profundas es el primer informe producido a través de la función de Observatorio del Laboratorio de Innovación de Europol. La función de Observatorio del Laboratorio de Innovación de Europol supervisa los desarrollos tecnológicos que son relevantes para la aplicación de la ley e informa sobre los riesgos, amenazas y oportunidades de estas tecnologías emergentes.

El informe lanzado el día 28 de abril de 2022 proporciona una descripción detallada del uso delictivo de la tecnología deepfake, incluido, reiteramos, su uso potencial en delitos graves como el fraude, la manipulación de pruebas y la producción de pornografía no consentida. El documento, que está publicado aquí (en idioma inglés) también explica los desafíos que enfrentan las fuerzas del orden para detectar y prevenir el uso nefasto de deepfakes. Muestra que las fuerzas del orden, los proveedores de servicios en línea y otras organizaciones deben desarrollar sus políticas, como además invertir en soluciones de detección y prevención de la desinformación. Por otro lado, el análisis de Europol señala la necesidad de llevar adelante acciones para que los legisladores también se adapten a la realidad tecnológica cambiante.

Al contribuir a este informe, los profesionales encargados de hacer cumplir la ley ayudaron a identificar una serie de desafíos que tendrán que enfrentar en la próxima década. En particular, identificaron riesgos asociados con la transformación digital, la adopción, el despliegue de nuevas tecnologías, el abuso de tecnologías emergentes por parte de delincuentes, la adaptación a nuevas formas de trabajo y mantener la confianza ante un aumento de la desinformación. Los hallazgos de este informe se basan en una extensa investigación documental y una consulta profunda con expertos en aplicación de la ley, a través de actividades de previsión estratégica. Estos métodos de previsión estratégica y escenarios son uno de los medios por los que el Laboratorio de Innovación de Europol investiga y se prepara para el impacto potencial de las nuevas tecnologías en la aplicación de la ley.

Acerca del Laboratorio de Innovación de Europol

El Laboratorio de Innovación de Europol tiene como objetivo identificar, promover y desarrollar soluciones innovadoras concretas en apoyo del trabajo operativo de los Estados miembros de la Unión Europea (UE). Estos ayudarán a los investigadores y analistas a aprovechar al máximo las oportunidades que ofrecen las nuevas tecnologías para evitar la duplicación de trabajo, crear sinergias y aunar recursos. 

Las actividades del Laboratorio de Innovación están directamente vinculadas a las prioridades estratégicas establecidas en la Estrategia Europol 2020+, que establece que la Agencia de la Unión Europea para la Cooperación Policial  (Europol)  estará a la vanguardia de la innovación y las investigaciones policiales.

Citar esta publicación: Europol (2022), ¿Hacer frente a la realidad? La aplicación de la ley y el desafío de las falsificaciones profundas, un informe del observatorio del Laboratorio de Innovación de Europol, Oficina de Publicaciones de la Unión Europea, Luxemburgo.