Questão nº 81
Questão de Ciência de Dados · FGV TCE-PA 2024 (nº 81)
Modelos de aprendizagem de máquina são, em geral, avaliados com métricas que indicam os quão poderosos e relevantes eles são. Entre exemplos de métricas de avaliação utilizadas para modelos de classificação binária, podemos citar:
• Taxa de precisão (razão entre verdadeiros positivos e o total dos verdadeiros positivos e falsos positivos);
• Taxa de sensibilidade (razão entre verdadeiros positivos e o total dos verdadeiros positivos e falsos negativos, também conhecida por recall); e
• Escore F1 (F1-score, também chamado de F-measure), que relaciona as taxas de precisão e de sensibilidade.
Suponha a existência de um modelo de classificação binária cuja taxa de precisão é de 90,00% e cuja taxa de sensibilidade é de 75,00%. Utilize aproximação de duas casas decimais.
O escore F1 referente a esse modelo é
- A41,42%.
- B81,82%. (alternativa correta)
- C82,15%.
- D82,50%.
- E82,84%.
Resposta comentada
Gabarito Alternativa B
O Escore F1 é uma métrica que combina a Precisão (quantos dos itens que o modelo classificou como positivos são realmente positivos) e a Sensibilidade (quantos dos itens realmente positivos o modelo conseguiu identificar), usando a média harmônica para dar um peso maior a valores mais baixos, garantindo que o modelo seja bom em ambos os aspectos.
- Precisão (P) = 90% = 0.90
- Sensibilidade (Recall - R) = 75% = 0.75
A fórmula do Escore F1 é:
Calculando:
Arredondando para duas casas decimais, temos 0.8182 ou 81.82%.
Comentário das alternativas:
- (A) Incorreta: O valor não corresponde ao cálculo do F1-score.
- (B) Correta: O cálculo do F1-score utilizando a fórmula da média harmônica para os valores de precisão (0.90) e sensibilidade (0.75) resulta em 81,82%.
- (C) Incorreta: O valor não corresponde ao cálculo do F1-score.
- (D) Incorreta: Esta alternativa representa a média aritmética simples entre Precisão e Sensibilidade ( ou 82,50%). A pegadinha da banca está aqui: o F1-score utiliza a média harmônica, não a média aritmética, porque a média harmônica penaliza mais fortemente quando uma das métricas (Precisão ou Sensibilidade) é muito baixa, exigindo que o modelo seja bom em ambos os aspectos para ter um F1-score alto.
- (E) Incorreta: O valor não corresponde ao cálculo do F1-score.
Fonte: FGV TCE-PA 2024 Auditor de Controle Externo - Administrativa - Ciência de Dados (Caderno Tipo 1). Reproduzida para fins de estudo.