Professional Documents
Culture Documents
Limitaciones y Nuevas Fronteras de Deep Learning (DSW)
Limitaciones y Nuevas Fronteras de Deep Learning (DSW)
Limitaciones y Nuevas Fronteras de Deep Learning (DSW)
ly/PodcastDSW
Cristian Cartagena Matos
Graduated in Mining Engineering
https://www.facebook.com/CristianCartagenaMatos/
https://www.linkedin.com/in/cristiancartagenamatos/
VOLUNTARIA DEL GRUPO DE ESTUDIO DE DEEP
LEARNING
www.linkedin.com/in/yahaira-flores/
Grupo de Estudio de Deep Learning
JHOSIMAR GEORGE ARIAS FIGUEROA
Deep Learning Researcher
https://jhosimar.com/
https://www.linkedin.com/in/jariasf/ jariasf03@gmail.com
Tema : "Limitaciones y
Nuevas Fronteras de
Deep Learning"
estos super-human
2017
problemas con la IA?
level performance on speech recognition
Disponibilidad de
Robustez Interpretabilidad datos
Computación y
Eficiencia
Sesgo y equidad Razonamiento
Robustez
Large Scale Visual Recognition Challenge
(ILSVRC)
perro
gato
carro
...
Large Scale Visual Recognition Challenge
(ILSVRC)
La brecha entre el desarrollo y despliegue de la
IA
Cómo desarrollamos la IA Cómo desplegamos la IA
Robustez
Accuracy
Cerdo: 91%
Perro: 3%
CNN
Gato: 2%
...
Ejemplos adversarios
Cerdo
Ejemplos adversarios
+ 0.005
Cerdo Ruido
Ejemplos adversarios
+ 0.005
=
Cerdo Ruido ?
Ejemplos adversarios
+ 0.005
=
+ =
CNN Tigre
Fase de entrenamiento
Training dataset: ImageNet
De ImageNet a ImageNet-
C
CNN Cocodrilo
Fase de prueba
Testing dataset: ImageNet-C
Variaciones Naturales
p(x)
¿Cómo se “genera” el conjunto de
datos?
x1 ~ p(x)
p(x)
¿Cómo se “genera” el conjunto de
datos?
x1 ~ p(x) x2 ~ p(x)
p(x)
¿Cómo se “genera” el conjunto de
datos?
x1 ~ p(x) x2 ~ p(x)
x3 ~ p(x)
p(x)
¿Cómo se “genera” el conjunto de
datos?
x1 ~ p(x) x2 ~ p(x)
x4 ~ p(x) x3 ~ p(x)
p(x)
¿Cómo se “genera” el conjunto de
datos?
x~
p(x)
¿Cómo se “genera” el conjunto de
datos?
x~
p(x)
Conjunto de datos de prueba
¿Cómo se “genera” el conjunto de
datos?
x~
p(x)
Independientes e idénticamente distribuidos (i.i.d) Conjunto de datos de prueba
Clasificación sobre el conjunto de
datos
Clasificación sobre el conjunto de
datos
Clasificación sobre el conjunto de
datos
Clasificación sobre el conjunto de
datos
ptrain(x,y) = ptest(x,y)
Out-of-distribution
(OOD)
ptrain(x,y)
Out-of-distribution
(OOD)
ptrain(x,y)
ptest(x,y)
Out-of-distribution
(OOD)
ptrain(x,y)
ptrain(x,y) ≠ ptest(x,y)
ptest(x,y)
ImageNet-C: Perturbaciones sobre
ImageNet
rodajas de sandia
sandía jugosa
sandía amarilla
...
¿Qué hay en esta
imagen?
¿Por qué no la sandía roja?
Tendemos a no pensar en el
contenido de esta imagen
como una sandía roja.
CNN
Vestido
Ceremonia
CNN
Mujer
Boda
CNN
Evento
Disfraz
CNN
Rojo
Arte
Modelo de
Salida
Aprendizaje
M odelos de caja
negra
Salida
BLACK BOX
Modelo de Machine
Learning
Modelos que no explican sus predicciones de una manera que los humanos puedan entender
Clasificación de cáncer de
piel
Maligno
?
Benigno
Maria
Clasificación de cáncer de
piel
Dermatólogo
Clasificación de cáncer de
piel
Modelo de
Aprendizaje
Dermatólogo
Clasificación de cáncer de
piel
Modelo de
Maligno
Aprendizaje
Dermatólogo
Clasificación de cáncer de
piel
¿Por
qué?
Modelo de
Maligno
Aprendizaje
Dermatólogo
Clasificación de cáncer de
piel
¿Por
qué?
Maligno
Modelo
Black Box
explicable
Dermatólogo
LOBO HUSKY
Clasificación: Lobo o
Husky?
Clasificación: Lobo o
Husky?
Modelo de
Aprendizaje
Clasificación: Lobo o
Husky?
Modelo de
Lobo
Aprendizaje
Clasificación: Lobo o
Husky?
Modelo de
Husky
Lobo
Aprendizaje
Predicted: lobo
True: lobo
Predicted: lobo
True: lobo
Predicted: lobo Predicted: husky
True: lobo True: husky
Predicted: lobo Predicted: husky
True: lobo True: husky
Predicted: lobo Predicted: husky Predicted: lobo
True: lobo True: husky True: lobo
Predicted: lobo Predicted: husky Predicted: lobo
True: lobo True: husky True: lobo
Predicted: lobo Predicted: husky Predicted: lobo
True: lobo True: husky True: lobo
Predicted: lobo
True: husky
Predicted: lobo Predicted: husky Predicted: lobo
True: lobo True: husky True: lobo
Predicted: lobo
True: husky
Predicted: lobo Predicted: husky Predicted: lobo
True: lobo True: husky True: lobo
Predicted: lobo
True: lobo
"Why Should I Trust You?" Explaining the Predictions of Any Classifier, Ribeiro et al, KDD'16
Explicando el clasificador de
imágenes
Predicted: lobo
True: lobo
"Why Should I Trust You?" Explaining the Predictions of Any Classifier, Ribeiro et al, KDD'16
Explicando el clasificador de
imágenes
"Why Should I Trust You?" Explaining the Predictions of Any Classifier, Ribeiro et al, KDD'16
Explicando el clasificador de
imágenes
"Why Should I Trust You?" Explaining the Predictions of Any Classifier, Ribeiro et al, KDD'16
Predicted: lobo Predicted: husky Predicted: lobo
True: lobo True: husky True: lobo
Clase 2
CNN
...
Clase 1000
Transfer
Learning Clase 1
Clase 2
CNN
...
Clase 1000
Transfer
Learning Clase 1
Clase 2
CNN
...
Clase 1000
Pesos
entrenados
Clase 1
CNN
Clase 2
Red
preentrenada
Self-supervised
Learning
Supervised learning
Dog
Cat
(x,y)
Dog
Cat
x y
Supervised learning
Dog
Cat
(x,y)
Dog
Anotación
Manual
Cat
x y
Supervised learning
Dog
Cat
Modelo de
(x,y) Aprendizaje
Salida
Dog
Anotación
Manual
Cat
x y
Semi-supervised learning
Dog
Anotación Cat
Manual
x y
Datos etiquetados
Semi-supervised learning
Dog
Anotación Cat +
Manual
x y
(x) Modelo de
Salida
Aprendizaje
x
Self-supervised learning
x
Self-supervised learning
Dog
Cat
Dog
Anotación
Automática
Cat
x y
Self-supervised learning: Pretext
Task
Datos no etiquetados
Downstream
CNN Task
Datos etiquetados
Datos no etiquetados
CNN Pretext
Task
Downstream
CNN Pretext CNN Task
Task
Transferencia de Conocimiento
A B C
D E
F G H
ion Learning by Context Prediction, Doersch
et al., 2015
Self-supervised learning:
Parches
A B C
D E
F G
Unsupervised Visual Representation Learning by Context Prediction, Doersch
et al., 2015
Self-supervised learning:
Parches
A B C
D E
F G
Unsupervised Visual Representation Learning by Context Prediction, Doersch
et al., 2015
Self-supervised learning:
Parches
Query:
AlphaGO
Computing Power - GPT-
3 ● Se necesitarían 355 años para entrenar a
GPT-3 en un Tesla V100
Tensor Decomposition
Quantization
Fuente: The state of Computer Vision and AI: we are really, really far away
¿Qué tan cerca está la inteligencia artificial del
sentido común de un niño pequeño?
¿Hay más árboles que animales? ¿Cuál es la forma del objeto más cercano
al cilindro grande?
+
deep learning symbolic reasoning
Razonamiento visual
3 cosas
grandes!
3 cosas 3 esferas de
metal!
grandes!
¿Igual? Si!
3 cosas 3 esferas de
metal!
grandes!
¿Igual? Si!
3 cosas 3 esferas de
metal!
grandes!
Visual Perception
Logic
Reasoning
Disponibilidad de
Robustez Interpretabilidad datos
Computación y
Eficiencia
Sesgo y equidad Razonamiento
Facebook
https://www.facebook.com/MLDLMeetupAQP/
LinkedIn
https://www.linkedin.com/company/ml-dl-meetup-aqp/
Youtube
https://www.youtube.com/channel/UCZymp9hXtXiGm4RigjLUScA
Comunidad de
M achine Learning Twitter
y Deep Learning
https://twitter.com/MLDLMeetupAQP
Arequipa
Difundir las áreas de Machine Learning y Deep Learning
http://bit.ly/PodcastDSW