Questão de Ciência de Dados e Banco de Dados · CEBRASPE SUSEP 2025 (nº 58)

O transformer processa a sequência inteira em paralelo (todos os tokens ao mesmo tempo, via mecanismo de atenção), enquanto RNN/LSTM processam um token por vez, em ordem — o que limita o paralelismo e dificulta capturar dependências muito distantes. O ganho real do transformer é paralelização e melhor captura de dependências longas, não "menor custo computacional".

• Correta: Errado. A atenção do transformer tem custo que cresce com o quadrado do tamanho da sequência ($O(n^2)$), então o item erra ao afirmar "com menor custo computacional" — o transformer é mais paralelizável e captura melhor dependências longas, mas não é mais barato nesse sentido.

Como ficaria certo: No PLN, os modelos baseados em arquitetura transformer superaram as RNN e LSTM principalmente pela capacidade de processar sequências em paralelo e capturar dependências mais longas com maior eficiência de treinamento.