Merge pull request #2 from jiep/dragonjar

Merge to master
jiep · Aug 30, 2022 · 5347929 · 5347929
2 parents 34ec540 + b10cfc6
commit 5347929
Show file tree

Hide file tree

Showing 28 changed files with 35 additions and 20,290 deletions.
diff --git a/README.md b/README.md
@@ -1,61 +1,65 @@
 # Introducción al Adversarial Machine Learning
 
-[Taller de Adversarial Machine Learning](./docs/Introducción_al_Adversarial_Machine_Learning.pdf)  para las [XV Jornadas STIC CCN-CERT](https://www.ccn-cert.cni.es/xvjornadas).
+[Charla de Adversarial Machine Learning](TBD) para [DragonJAR 2022](https://www.dragonjarcon.org).
 
   <p align="center">
-    <img alt="XV Jornadas STIC CCN-CERT" src="./docs/xv-jornadas-ccn-cert.png" data-canonical-src="./docs/xv-jornadas-ccn-cert.png" width="100%" />
+    <img alt="DragonJAR 2022" src="./img/cons/dragonjar-2022.png" data-canonical-src="./img/cons/dragonjar-2022.png" width="100%" />
   </p>
 
 ## ¿Qué es el Adversarial Machine Learning?
 
-Rama del machine learning que trata de averiguar los ataques que puede sufrir un modelo en la presencia de un adversario malicioso y cómo protegerse de ellos.
+El [Adversarial Machine Learning](https://en.wikipedia.org/wiki/Adversarial_machine_learning) es la rama del machine learning que trata de averiguar los ataques que puede sufrir un modelo en la presencia de un adversario malicioso y cómo protegerse de ellos.
 
 ### Taxonomía de ataques
 
 El Adversarial Machine Learning establece que existen 4 tipos de ataque que pueden sufrir los modelos de ML.
 
   <p align="center">
-    <img alt="Taxonomía" src="./docs/taxonomia.png" data-canonical-src="./docs/taxonomia.png" width="50%" />
+    <img alt="Taxonomía" src="./img/attacks/taxonomia.png" data-canonical-src="./img/attacks/taxonomia.png" width="50%" />
   </p>
 
-* Extracción (o robo) de modelo: permiten a un adversario robar los parámetros de un modelo de machine learning.
+* **Extracción (o robo de modelos)**: permiten a un adversario robar los parámetros de un modelo de machine learning.
   <p align="center">
-    <img alt="Ataques de extracción" src="./docs/extraccion.png" data-canonical-src="./docs/extraccion.png" width="50%" />
+    <img alt="Ataques de extracción" src="./img/attacks/extraccion.png" data-canonical-src="./img/attacks/extraccion.png" width="50%" />
   </p>
 
-* Inversión: tienen como objetivo invertir el flujo de información de un modelo de machine learning. Permiten a un adversario tener un conocimiento del modelo que no pretendía ser compartido de forma explícita.
+* **Inversión**: tienen como objetivo invertir el flujo de información de un modelo de machine learning. Permiten a un adversario tener un conocimiento del modelo que no pretendía ser compartido de forma explícita.
   <p align="center">
-    <img alt="Ataques de inversión" src="./docs/inversion.png" data-canonical-src="./docs/inversion.png" width="50%" />
+    <img alt="Ataques de inversión" src="./img/attacks/inversion.png" data-canonical-src="./img/attacks/inversion.png" width="50%" />
   </p>
 
-* Envenenamiento: buscan corromper el conjunto de entrenamiento haciendo que un modelo de machine learning reduzca su precisión. Pueden añadir puertas traseras en el modelo.
+* **Envenenamiento**: buscan corromper el conjunto de entrenamiento haciendo que un modelo de machine learning reduzca su precisión. Pueden añadir puertas traseras en el modelo.
   <p align="center">
-    <img alt="Ataques de envenenamiento" src="./docs/envenenamiento.png" data-canonical-src="./docs/envenenamiento.png" width="50%" />
+    <img alt="Ataques de envenenamiento" src="./img/attacks/envenenamiento.png" data-canonical-src="./img/attacks/envenenamiento.png" width="50%" />
   </p>
 
-* Evasión: un adversario inserta una pequeña perturbación (en forma de ruido) en la entrada de un modelo de machine learning para que clasifique de forma incorrecta (ejemplo adversario).
+* **Evasión**: un adversario inserta una pequeña perturbación (en forma de ruido) en la entrada de un modelo de machine learning para que clasifique de forma incorrecta (ejemplo adversario).
   <p align="center">
-    <img alt="Ataques de evasión" src="./docs/evasion.png" data-canonical-src="./docs/evasion.png" width="50%" />
+    <img alt="Ataques de evasión" src="./img/attacks/evasion.png" data-canonical-src="./img/attacks/evasion.png" width="50%" />
   </p>
 
 ## Herramientas empleadas
 
 * [Adversarial Robustness Toolkit (ART)](https://adversarial-robustness-toolbox.readthedocs.io/en/latest): es una librería opensource de Adversarial Machine Learning que permite comprobar la robustez de los modelos de machine learning. Está desarrollada en Python e implementa ataques y defensas de extracción, inversión, envenenamiento y evasión. ART soporta los frameworks más populares: Tensorflow, Keras, PyTorch, MxNet, ScikitLearn, entre muchos otros). Además, no está limitada al uso de modelos que emplean imágenes como entrada, sino que soporta otros tipos de datos como audio, vídeo, datos tabulares, etc.
 
   <p align="center">
-    <img alt="Logo de ART" src="./docs/art_logo.png" data-canonical-src="./docs/art_logo.png" width="30%" />
+    <img alt="Logo de ART" src="./img/tools/art_logo.png" data-canonical-src="./img/tools/art_logo.png" width="30%" />
   </p>
 
 * [Counterfit](https://github.com/Azure/counterfit) es una CLI escrita en Python y desarrollada por Microsoft. Desarrollada para auditorías de seguridad sobre modelos de ML. Implementa algoritmos de evasión de caja negra. Se basa en los ataques de las herramientas ART y [TextAttack](https://github.com/QData/TextAttack).
 
   <p align="center">
-    <img alt="Logo de Counterfit" src="./docs/counterfit_logo.png" data-canonical-src="./docs/counterfit_logo.png" width="40%" />
+    <img alt="Logo de Counterfit" src="./img/tools/counterfit_logo.png" data-canonical-src="./img/tools/counterfit_logo.png" width="40%" />
   </p>
 
 ## Notebooks
 
 > Todos los notebooks se pueden ejecutar más rápidamente empleando una GPU. 
 > Se recomienda el uso de [Colab](https://colab.research.google.com), que permite emplear GPUs de forma gratuita y no tener que instalar nada en el equipo.
+>
+> <p align="center">
+>    <img alt="Logo de Google Colab" src="./img/colab/colab.jpg" data-canonical-src="./img/colab/colab.jpg" width="40%" />
+> </p>
 
 La carpeta `notebooks` contiene 5 notebooks que cubren ataques de extracción, inversión, envenenamiento y evasión en ART.
 
@@ -75,14 +79,23 @@ En el mismo directorio, se encuentra el fichero `counterfit.md`, que muestra có
 
 2. Importar todos los notebooks de este repositorio usando la pestaña `GitHub`, copiando la url de este repositorio.
   <p align="center">
-    <img alt="Importar notebooks" src="./docs/importar-repos.png" data-canonical-src="./docs/importar-repos.png" width="75%" />
+    <img alt="Importar notebooks" src="./img/colab/importar-repos.png" data-canonical-src="./img/colab/importar-repos.png" width="75%" />
   </p>
 
 3. Cambiar el entorno de ejecución a `GPU`. Se realiza desde el menú `Entorno de ejecución` > `Cambiar entorno de ejecución`. Esto acelera la ejecución de los notebooks.
   <p align="center">
-    <img alt="Cambiar entorno de ejecución a GPU" src="./docs/cambiar-entorno-ejecucion.png" data-canonical-src="./docs/cambiar-entorno-ejecucion.png" width="40%" />
+    <img alt="Cambiar entorno de ejecución a GPU" src="./img/colab/cambiar-entorno-ejecucion.png" data-canonical-src="./img/colab/cambiar-entorno-ejecucion.png" width="40%" />
   </p>
 
 ## Crédito
 
-Los notebooks de inversión y envenenamiento se basan en los [ejemplos y notebooks proporcionados]() por ART. 
+Los notebooks de inversión y envenenamiento se basan en los [ejemplos](https://github.com/Trusted-AI/adversarial-robustness-toolbox/tree/main/examples) y [notebooks](https://github.com/Trusted-AI/adversarial-robustness-toolbox/tree/main/notebooks) proporcionados por ART. 
+
+# Ediciones anteriores
+
+* [Taller de Adversarial Machine Learning](./presentations/CCN-CERT_2021_Introducción_al_Adversarial_Machine_Learning.pdf)  para las [XV Jornadas STIC CCN-CERT](https://www.ccn-cert.cni.es/xvjornadas).
+
+  <p align="center">
+    <img alt="XV Jornadas STIC CCN-CERT" src="./img/cons/xv-jornadas-ccn-cert.png" data-canonical-src="./img/cons/xv-jornadas-ccn-cert.png" width="100%" />
+  </p>
+
diff --git a/docs/taxonomia.png b/docs/taxonomia.png
diff --git a/docs/en/Evasion.png → img/attacks/en/Evasion.png b/docs/en/Evasion.png → img/attacks/en/Evasion.png
diff --git a/docs/en/Extraction.png → img/attacks/en/Extraction.png b/docs/en/Extraction.png → img/attacks/en/Extraction.png
diff --git a/docs/en/Inference.png → img/attacks/en/Inference.png b/docs/en/Inference.png → img/attacks/en/Inference.png
diff --git a/docs/en/Poisoning.png → img/attacks/en/Poisoning.png b/docs/en/Poisoning.png → img/attacks/en/Poisoning.png
diff --git a/docs/en/attacks-deep-learning-systems.png → ...acks/en/attacks-deep-learning-systems.png b/docs/en/attacks-deep-learning-systems.png → ...acks/en/attacks-deep-learning-systems.png
diff --git a/docs/en/blue-red-art.png → img/attacks/en/blue-red-art.png b/docs/en/blue-red-art.png → img/attacks/en/blue-red-art.png
diff --git a/docs/en/taxonomy-v2.png → img/attacks/en/taxonomy-v2.png b/docs/en/taxonomy-v2.png → img/attacks/en/taxonomy-v2.png
diff --git a/docs/en/taxonomy.png → img/attacks/en/taxonomy.png b/docs/en/taxonomy.png → img/attacks/en/taxonomy.png
diff --git a/docs/envenenamiento.png → img/attacks/envenenamiento.png b/docs/envenenamiento.png → img/attacks/envenenamiento.png
diff --git a/docs/evasion.png → img/attacks/evasion.png b/docs/evasion.png → img/attacks/evasion.png
diff --git a/docs/extraccion.png → img/attacks/extraccion.png b/docs/extraccion.png → img/attacks/extraccion.png
diff --git a/docs/inversion.png → img/attacks/inversion.png b/docs/inversion.png → img/attacks/inversion.png
diff --git a/img/attacks/taxonomia.png b/img/attacks/taxonomia.png
diff --git a/docs/cambiar-entorno-ejecucion.png → img/colab/cambiar-entorno-ejecucion.png b/docs/cambiar-entorno-ejecucion.png → img/colab/cambiar-entorno-ejecucion.png
diff --git a/img/colab/colab.jpg b/img/colab/colab.jpg
diff --git a/docs/importar-repos.png → img/colab/importar-repos.png b/docs/importar-repos.png → img/colab/importar-repos.png
diff --git a/img/cons/dragonjar-2022.png b/img/cons/dragonjar-2022.png
diff --git a/docs/xv-jornadas-ccn-cert.png → img/cons/xv-jornadas-ccn-cert.png b/docs/xv-jornadas-ccn-cert.png → img/cons/xv-jornadas-ccn-cert.png
diff --git a/docs/art_logo.png → img/tools/art_logo.png b/docs/art_logo.png → img/tools/art_logo.png
diff --git a/docs/counterfit_logo.png → img/tools/counterfit_logo.png b/docs/counterfit_logo.png → img/tools/counterfit_logo.png