Questão nº 118
Questão de Contábil-Financeira · CEBRASPE PF 2025 (nº 118)
No que se refere a processamento de linguagem natural, árvores de decisão e Python, julgue os itens que se seguem.
Considere que um algoritmo de árvore de decisão utilize entropia como medida de impureza para realizar as divisões dos dados em diferentes nós da árvore. Considere ainda que a entropia seja máxima quando a distribuição das classes é perfeitamente equilibrada e mínima quando todos os exemplos pertencem a uma única classe. Nesse caso, em uma partição contendo 100 exemplos classificados em três categorias A, B e C, a entropia da partição é maior no cenário em que há 33 exemplos de cada classe do que no cenário em que há 90 exemplos da classe A, 5 da classe B e 5 da classe C, mesmo que o número total de exemplos na partição seja o mesmo em ambos os casos.
Resposta comentada
O conceito-chave é que a entropia mede a "bagunça" ou impureza de uma partição: ela é máxima quando as classes estão perfeitamente equilibradas (máxima incerteza) e mínima (zero) quando todos os exemplos são de uma única classe (certeza total). A fórmula é , onde é a proporção de cada classe — o número total de exemplos não importa, só as proporções.
- Correta: Certo. No cenário 33/33/34, as proporções são quase iguais (), gerando entropia próxima do máximo teórico (). No cenário 90/5/5, as proporções são 0,9, 0,05 e 0,05, gerando entropia muito menor (). Como 1,585 > 0,569, a primeira partição tem entropia maior.
Fica de olho: a banca adora inverter a lógica dizendo que "a entropia é maior quando há mais exemplos no total" ou que "90/5/5 tem entropia maior porque a classe A domina" — mas a entropia não depende do tamanho da amostra, apenas da distribuição de proporções; quanto mais desequilibrada a distribuição, menor a entropia.
Fonte: CEBRASPE PF 2025 Perito Criminal Federal - Contábil-Financeira. Reproduzida para fins de estudo.