Questão de Ciência de Dados · FGV CVM 2024 (nº 12)

Word Embeddings são representações numéricas de palavras, onde cada palavra é mapeada para um vetor de números reais (um array de floats) em um espaço de baixa dimensionalidade, capturando relações semânticas e sintáticas entre elas.

• (A) Incorreta: TF-IDF (Term Frequency-Inverse Document Frequency) é uma técnica que mede a importância de uma palavra em um documento em relação a uma coleção de documentos, mas não gera vetores de baixa dimensionalidade que capturam o significado das palavras como o word2vec.
• (B) Incorreta: Tokens são as unidades mínimas de texto (palavras, pontuações) após a quebra do texto. Eles são o input para a criação das representações, não a representação vetorial em si.
• (C) Incorreta: N-gramas são sequências contíguas de N itens (palavras ou caracteres) de uma amostra de texto. São usados para capturar contexto local, mas não são a representação vetorial de baixa dimensionalidade das palavras gerada por word2vec.
• (D) Incorreta: Bag-of-Words (BoW) é um modelo de representação de texto que descreve a ocorrência de palavras em um documento, ignorando a ordem. Ele representa documentos como vetores de contagens de palavras, não palavras individuais como vetores de baixa dimensionalidade com significado semântico, como os gerados pelo word2vec. Armadilha: BoW representa textos como vetores, mas não atende aos critérios de "baixa dimensionalidade" no sentido semântico e "representações das palavras" individuais geradas por um modelo pré-treinado como word2vec.
• (E) Correta: O texto descreve exatamente a definição de word embeddings: "representar os textos [...] no formato de vetores reais de baixa dimensionalidade, calculados a partir das representações das palavras obtidas de um modelo de linguagem pré-treinado utilizando a técnica word2vec". Word2vec é uma das técnicas mais conhecidas para gerar word embeddings.