Questão nº 81

Questão de Ciência de Dados · FGV TCE-PA 2024 (nº 81)

FGV2024Auditor de Controle Externo - Administrativa - Ciência de DadosCiência de Dados
Gabarito: Bver comentário ↓

Modelos de aprendizagem de máquina são, em geral, avaliados com métricas que indicam os quão poderosos e relevantes eles são. Entre exemplos de métricas de avaliação utilizadas para modelos de classificação binária, podemos citar:
• Taxa de precisão (razão entre verdadeiros positivos e o total dos verdadeiros positivos e falsos positivos);
• Taxa de sensibilidade (razão entre verdadeiros positivos e o total dos verdadeiros positivos e falsos negativos, também conhecida por recall); e
• Escore F1 (F1-score, também chamado de F-measure), que relaciona as taxas de precisão e de sensibilidade.
Suponha a existência de um modelo de classificação binária cuja taxa de precisão é de 90,00% e cuja taxa de sensibilidade é de 75,00%. Utilize aproximação de duas casas decimais.
O escore F1 referente a esse modelo é

Resposta comentada

Gabarito Alternativa B

O Escore F1 é uma métrica que combina a Precisão (quantos dos itens que o modelo classificou como positivos são realmente positivos) e a Sensibilidade (quantos dos itens realmente positivos o modelo conseguiu identificar), usando a média harmônica para dar um peso maior a valores mais baixos, garantindo que o modelo seja bom em ambos os aspectos.

  • Precisão (P) = 90% = 0.90
  • Sensibilidade (Recall - R) = 75% = 0.75

A fórmula do Escore F1 é: F1=2×P×RP+RF1 = 2 \times \frac{P \times R}{P + R}

Calculando:
F1=2×0.90×0.750.90+0.75F1 = 2 \times \frac{0.90 \times 0.75}{0.90 + 0.75}
F1=2×0.6751.65F1 = 2 \times \frac{0.675}{1.65}
F1=2×0.409090...F1 = 2 \times 0.409090...
F1=0.818181...F1 = 0.818181...

Arredondando para duas casas decimais, temos 0.8182 ou 81.82%.

Comentário das alternativas:

  • (A) Incorreta: O valor não corresponde ao cálculo do F1-score.
  • (B) Correta: O cálculo do F1-score utilizando a fórmula da média harmônica para os valores de precisão (0.90) e sensibilidade (0.75) resulta em 81,82%.
  • (C) Incorreta: O valor não corresponde ao cálculo do F1-score.
  • (D) Incorreta: Esta alternativa representa a média aritmética simples entre Precisão e Sensibilidade ((0.90+0.75)/2=0.8250(0.90 + 0.75) / 2 = 0.8250 ou 82,50%). A pegadinha da banca está aqui: o F1-score utiliza a média harmônica, não a média aritmética, porque a média harmônica penaliza mais fortemente quando uma das métricas (Precisão ou Sensibilidade) é muito baixa, exigindo que o modelo seja bom em ambos os aspectos para ter um F1-score alto.
  • (E) Incorreta: O valor não corresponde ao cálculo do F1-score.

Fonte: FGV TCE-PA 2024 Auditor de Controle Externo - Administrativa - Ciência de Dados (Caderno Tipo 1). Reproduzida para fins de estudo.

Continue estudando

Estudar é izi

Pratique milhares de questões como esta, de graça, com explicação e gamificação no Quizinho.

Estudar de graça no Quizinho