Questão nº 164
Questão de Inteligência Artificial · CEBRASPE TCU 25 AUFC 2025 (nº 164)
Segundo relatório da McKinsey de 2024, 78% das organizações entrevistadas afirmam já usar IA em pelo menos uma função de negócio.
Apesar do entusiasmo, essa inserção de tecnologia disruptiva implica sérios riscos, como imprecisão dos resultados, quebra de privacidade e violação de propriedade intelectual. Esses riscos são tão evidentes que, segundo o mesmo estudo, cerca de 27% dos entrevistados afirmam que 100% dos resultados da IA generativa são revisados por humanos antes do uso. Ainda, o relatório aponta que não há uma propensão a abordar riscos relacionados à precisão ou explicabilidade dos resultados da IA.
No que se refere a ética, transparência e responsabilidade no uso de IA, julgue os próximos itens.
Há discriminação algorítmica quando um sistema de IA usa, para uma tomada de decisão, sem justificativa válida, a informação de que alguém pertence a um grupo social (ou características que funcionam como proxies), de modo a gerar desvantagens sistemáticas para esse grupo em contextos em que esse critério não deveria influenciar a decisão.
Resposta comentada
O conceito central é que viés algorítmico (ou discriminação algorítmica) ocorre quando o sistema usa uma característica protegida (como raça, gênero, idade) ou um "proxy" (uma variável que funciona como substituta, tipo CEP para renda) para tomar uma decisão que prejudica sistematicamente um grupo, sem que essa característica tenha relação legítima com o objetivo da decisão. Em outras palavras: o algoritmo trata pessoas diferentes de forma desigual por um motivo injusto e irrelevante para o contexto.
- Correta: Certo. A definição apresentada descreve exatamente o que é discriminação algorítmica: uso de grupo social ou proxies, sem justificativa válida, gerando desvantagem sistemática em contextos onde esse critério é irrelevante.
Fica de olho: A banca pode inverter a lógica dizendo que "não há discriminação se o sistema usa apenas dados objetivos, como renda ou histórico de crédito" — mas isso é falso, pois esses dados podem ser proxies de raça ou gênero, configurando discriminação indireta. Outra pegadinha comum é afirmar que "discriminação algorítmica só existe se houver intenção do programador" — na prática, o viés pode ser não intencional, vindo dos dados de treinamento.
Fonte: CEBRASPE TCU 25 AUFC 2025 Auditor Federal de Controle Externo - Área de Controle Externo / Orientação: Auditoria de Tecnologia da Informação. Reproduzida para fins de estudo.