Questão nº 163
Questão de Inteligência Artificial · CEBRASPE TCU 25 AUFC 2025 (nº 163)
Segundo relatório da McKinsey de 2024, 78% das organizações entrevistadas afirmam já usar IA em pelo menos uma função de negócio.
Apesar do entusiasmo, essa inserção de tecnologia disruptiva implica sérios riscos, como imprecisão dos resultados, quebra de privacidade e violação de propriedade intelectual. Esses riscos são tão evidentes que, segundo o mesmo estudo, cerca de 27% dos entrevistados afirmam que 100% dos resultados da IA generativa são revisados por humanos antes do uso. Ainda, o relatório aponta que não há uma propensão a abordar riscos relacionados à precisão ou explicabilidade dos resultados da IA.
No que se refere a ética, transparência e responsabilidade no uso de IA, julgue os próximos itens.
Explicabilidade e interpretabilidade tratam do desafio de entender como os modelos de aprendizado de máquina funcionam, devido especialmente à natureza de “caixa-preta” de muitos modelos, que pode tornar difícil ou impossível a capacidade de explicar uma previsão ou decisão.
Resposta comentada
Explicabilidade é a capacidade de um modelo de IA explicar como chegou a um resultado (ex.: "rejeitei o empréstimo porque a renda declarada é baixa"). Interpretabilidade é o quanto um humano consegue entender o funcionamento interno do modelo (ex.: um modelo de regressão linear é interpretável; uma rede neural profunda não). Ambos os conceitos existem justamente porque muitos modelos são "caixas-pretas": entram dados, sai uma resposta, mas ninguém sabe o que aconteceu no meio — e isso gera riscos de decisões erradas ou injustas sem explicação.
- Correta: Certo. A definição do item descreve exatamente o problema da "caixa-preta": a dificuldade de entender o funcionamento interno e, por consequência, de explicar previsões ou decisões tomadas por modelos de aprendizado de máquina.
Fica de olho: A banca pode inverter os termos: dizer que "explicabilidade é entender o funcionamento interno do modelo" e "interpretabilidade é explicar uma decisão específica" — na prática, os dois se confundem, mas o item certo costuma tratá-los como desafios irmãos, não como sinônimos perfeitos. Outra pegadinha comum: afirmar que "modelos simples (como árvores de decisão pequenas) são sempre explicáveis" — até eles podem virar caixas-pretas se forem grandes demais ou tiverem muitas regras.
Fonte: CEBRASPE TCU 25 AUFC 2025 Auditor Federal de Controle Externo - Área de Controle Externo / Orientação: Auditoria de Tecnologia da Informação. Reproduzida para fins de estudo.