Questão nº 165
Questão de Inteligência Artificial · CEBRASPE TCU 25 AUFC 2025 (nº 165)
Segundo relatório da McKinsey de 2024, 78% das organizações entrevistadas afirmam já usar IA em pelo menos uma função de negócio.
Apesar do entusiasmo, essa inserção de tecnologia disruptiva implica sérios riscos, como imprecisão dos resultados, quebra de privacidade e violação de propriedade intelectual. Esses riscos são tão evidentes que, segundo o mesmo estudo, cerca de 27% dos entrevistados afirmam que 100% dos resultados da IA generativa são revisados por humanos antes do uso. Ainda, o relatório aponta que não há uma propensão a abordar riscos relacionados à precisão ou explicabilidade dos resultados da IA.
No que se refere a ética, transparência e responsabilidade no uso de IA, julgue os próximos itens.
Explicabilidade diz respeito às propriedades internas do modelo de IA que permitem compreender como ele funciona.
Resposta comentada
Explicabilidade é a capacidade de um modelo de IA ser compreendido por humanos, mas ela se divide em duas formas: a explicabilidade global (entender as regras gerais do modelo) e a explicabilidade local (entender por que uma decisão específica foi tomada). O que o item descreve é apenas uma dessas formas, e não o conceito completo.
- Correta: Errado. O item restringe o conceito ao dizer que explicabilidade diz respeito "às propriedades internas do modelo", mas isso é só a interpretabilidade (como o modelo funciona por dentro), enquanto a explicabilidade também inclui explicações externas (como gerar justificativas para uma decisão específica, mesmo sem abrir a caixa-preta).
Como ficaria certo: Explicabilidade diz respeito à capacidade de um modelo de IA fornecer explicações compreensíveis para humanos sobre suas decisões, seja por propriedades internas (interpretabilidade) ou por métodos externos que geram justificativas.
Fonte: CEBRASPE TCU 25 AUFC 2025 Auditor Federal de Controle Externo - Área de Controle Externo / Orientação: Auditoria de Tecnologia da Informação. Reproduzida para fins de estudo.