---
  presentation
  theme: beige.css
  slideNumber: true
  width: 1024
  height: 768
---

<!-- slide -->  
## Aprendizado de Máquina

#### Autoencoders e transfer learning
#### Prof. Ronaldo Cristiano Prati
[ronaldo.prati@ufabc.edu.br](mailto:ronaldo.prati@ufabc.edu.br)  

Bloco A, sala 513-2


<!-- slide -->  
### Redes profundas

- A "profundidade" das redes profundas é apenas parte do seu sucesso.
- O excelente desempenho em algumas tarefas se deve a outras duas características:
  - Autoencoders
  - Transferência de aprendizado

<!-- slide -->  
### Redes autocodificadoras
- Redes autocodificadoras (autoencoders) criam uma representação adjacente ao conjunto de dados de forma não supervisionada (ou auto-supervisionada)

- Permite o aprendizado de representações mais concisas

<!-- slide -->  
### Redes autocodificadoras

- Características identificadas durante o aprendizado são úteis para uso posterior em tarefas de aprendizado supervisionado.

- Transformações são aplicadas na entrada de acordo com dois tipos de funções:
  - Função de extração de características
  - Função de reconstrução

<!-- slide -->  
### Encoder

- **Função de extração de características (encoder)** mapeia o conjunto de treinamento para uma representação latente.

- Mapeia o espaço de dimensão $m$ para um espaço de dimensão $k$

$$ h = R^m \rightarrow R^k$$

<!-- slide -->  
### Decoder

- **Função de reconstrução (decoder)** mapeia a representação produzida por h de volta para o espaço original.
- Mapeia o espaço de dimensão $k$ de volta para o espaço de dimensão $m$
$$ r = R^k \rightarrow R^m$$

<!-- slide -->  
### Autoencoders

![](autoencoder.png)


<!-- slide -->  
### Treinamento
- Um autoencoder é treinado para reproduzir na sua saída a própria entrada.

- O objetivo do treinamento é definir parâmetros em $h$ e $r$ tal que o erro de reconstrução seja minimizado.

- Pode ser treinada usando backpropagation com gradiente descendente, com o cuidado de substituir os valores-alvo desejados pela própria entrada

<!-- slide -->  
### Treinamento

- Possibilidade: pesos atados (tied weights)

- Há pares de matrizes de pesos em posições simétricas na rede, uma é a transposta da outra!
  - menos parâmetros para otimizar;
  - previne soluções degeneradas.

<!-- slide -->  
### subcompletas x supercompletas

- Se a representação latente em uma autocodificadora tem dimensão K:
  - $k < m$: undercomplete autoencoder;
  - $k > m$: overcomplete autoencoder.

- A escolha de K determina  a quantidade de unidades da camada intermediária central, que tipo de informação o autoencoder pode aprender acerca da distribuição de entrada.


<!-- slide -->  
### Caso $k  < m$ (bottleneck)

- **Objetivo:** aprender uma representação compacta do conjunto de dados.

- Exemplo:
  - Considere como entrada o conjunto de disciplinas do BC&T, podemos criar uma camada $K$ com o número de cursos pós-BC&T que tentaria codificar qual é o curso que o aluno pretende seguir.

<!-- slide -->  
### Caso $K  < D$ (bottleneck)
![](bottle.png)  

<!-- slide -->  
### Caso $k  > m$
- **Objetivo:** encontrar características da entrada para posteriormente serem apresentadas a um classificador linear (SVM, k-NN, etc).
- Problema potencial no treinamento: autocodificadora apenas copia os $m$ bits da entrada para $m$ unidades na camada central.
- aprende a função identidade, i.e. $f(x) = x$, deixando de usar $k-m$ unidades nessa camada.

<!-- slide -->
#### Autoencoder com filtragem de ruído
- **Ideia básica:** fazer com que a representação aprendida seja robusta a ruídos nos dados.
- Aplicar alterações aleatórias em cada exemplo de treinamento antes de apresentá-lo à rede.
- Alternativas:
  - com probabilidade p, atribuir zero a um atributo do exemplo.
  - perturbar cada componente de x por meio de um ruído gaussiano aditivo.

<!-- slide -->
#### Autoencoder com filtragem de ruído

![](noise.png)


<!-- slide -->
#### Contrastive Autoemcoder
- **Ideia básica:** Ideia básica: adicionar uma penalização à função de perda para penalizar representações indesejadas.
- similar a regularização

$$J(\theta) = \frac{1}{2m}\sum_{i=i}^m (h_\theta(x^i) - x^i)^2 + \lambda \|\frac{\partial h_\theta(x)}{\partial x} \| $$

<!-- slide -->
#### Sparse Autoencoder

- **Objetivo:** fazer com que apenas uma pequena quantidade de unidades da camada oculta seja ativada para cada padrão de entrada.
- A esparsidade pode ser obtida por meio de "*dropout*": mantendo apenas as $k$ unidades mais ativas e tornando todas as demais unidades iguais a zero.

<!-- slide -->
#### Sparse Autoencoder

<img src="sparse.png" width=600>

<!-- slide -->
#### Autoencoder - aplicações

Redução da dimensionalidade

<div id="left">

![](pca.png)

PCA

</div>

<div id="right">

![](encoder.png)

Autoencoder
</div>

<!-- slide -->
#### Autoencoder - aplicações

- Geração de conceitos
- 10M vídeos do YouTube, 1 frame por vídeo (200x200)
- A rede aprendeu os conceitos de face humana e de face de gatos.
![](cartoon.png)



<!-- slide -->
### Transfer Learning

- Em redes profundas, as primeiras camadas de uma rede neural são as mais difícies (demoradas) de treinar
- Normalmente requerem muitos exemplos
- Entretanto, elas são geralmente responsáveis por aprender características simples.



<!-- slide -->

- primeira camada de uma convnet para classificação de imagens

![](image9.png)

<!-- slide -->
### Transfer Learning

- Camadas mais profundas devem capturar características que são mais particulares ao problema específico

- Essas camadas são mais simples (rápidas) de treinar, uma vez que ajustar o peso delas tem um impacto maior no resultado final


<!-- slide -->
### Transfer Learning

- Configuraçẽos famosas e vencedoras de competições são difíceis de treinar do zero
  - Datasets grandes
  - Muitas iterações
  - Necessitam de alto poder computacional
  - E experimentação para ajustar os parâmetros

<!-- slide -->
### Transfer Learning

- Entretanto, os atributos básicos (linhas, formas) aprendidas em estágios anteriores podem ser úteis em outros contextos

- O resultado do treinamento são as matrizes de pesos (números) que são facilmente armazenados

<!-- slide -->
### Transfer Learning

- **Ideia:** armazenar o peso de redes pré-treinadas, e re-treinar apenas as camadas específicas para a aplicação

- Isso é chamado de **transferência de aprendizado**


<!-- slide -->
### Transfer Learning

![](tl1.png)

<!-- slide -->
### Transfer Learning

![](tl2.png)


<!-- slide -->
### Transfer Learning

- A adição de camadas pré-treinadas em um data set específico também é chamada de "ajuste-fino" (fine-tunning).
- Existem várias opções em "quanto" e "até que camada" fazer o ajuste fino.
  - Devemos treinar só a última camada?
  - Mais de uma?
  - Ajustar os pesos da rede inteira ou só das camadas retreinadas?

<!-- slide -->
### Guidelines

- Apesar de não existir um regra única, existem alguns guidelines:  
- Quanto mais similir os novos dados são do problema, menos ajuste fino é necessário.
  - Usar uma parte de uma rede treinada no ImageNet para classificar entre pessoas e gatos pode requerer pouco ajuste, uma vez que o features relevantes já teriam sido aprendidas

<!-- slide -->
### Guidelines

- Quanto mais dados houver sobre o problema específico, mais a rede se benificiará de um ajuste mais longo e profundo.
  - Se você tiver somente 100 gatos e 100 pessoas nos dados específicos, você provavelemente faria um peque ajusto. Se tivermos 10.000 de cada, um maior ajuste poderia ser utilizado.

<!-- slide -->
### Guidelines

- Se os dados são de domínio substancialmente diferentes que os dados originais, transfer learning pode ser de pouca valia.

  - Por exemplo, uma rede treinada para reconhecimento de escrita  em pode ser pouco útil para diferenciar gatos de humanos.