Questão de Tecnologia da Informação · FGV STN 2024 (nº 9)

O conceito-chave aqui é como algumas redes neurais lidam com informações que aparecem em uma sequência (como palavras em uma frase ou dados de temperatura ao longo do tempo). Redes neurais comuns podem "esquecer" o que aconteceu no início de uma sequência muito longa, um problema chamado desvanecimento do gradiente. A questão busca uma rede que foi criada especificamente para lembrar informações importantes por muito tempo dentro dessas sequências.

(A) Incorreta: CNNs (Redes Neurais Convolucionais) são mais usadas para processar dados com estrutura espacial, como imagens, e não são projetadas primariamente para lidar com dependências de longo prazo em sequências temporais ou para resolver o desvanecimento do gradiente nesse contexto.
(B) Correta: LSTMs (Long Short-Term Memory) são uma arquitetura de rede neural recorrente (RNN) que utiliza "células de memória" e "portões" (gates) para controlar o fluxo de informações, permitindo que a rede retenha dados importantes por longos períodos, superando efetivamente o problema do desvanecimento do gradiente em sequências longas.
(C) Incorreta: SVMs (Support Vector Machines) são algoritmos de aprendizado de máquina tradicionais, não redes neurais, e não são projetados para processar sequências com dependências de longo prazo ou para lidar com o desvanecimento do gradiente.
(D) Incorreta: RNNs (Redes Neurais Recorrentes) são, de fato, projetadas para dados sequenciais. No entanto, as RNNs padrão sofrem do problema do desvanecimento do gradiente em sequências longas, fazendo com que "esqueçam" informações passadas. A questão pede uma rede que supera esse problema, e não a que o possui. Esta é a armadilha, pois RNNs lidam com sequências, mas não resolvem o problema descrito de forma intrínseca.
(E) Incorreta: MLPs (Perceptrons Multicamadas) são redes neurais feedforward básicas que não possuem memória interna para lidar com a ordem dos dados em uma sequência ou para manter informações por longos períodos.