Questão nº 53
Questão de Gestão de TI · FCC PMSP Analista TIC 2025 (nº 53)
A prefeitura de um grande município está aumentando o uso de Inteligência Artificial (IA), Machine Learning (ML) e Internet das Coisas (IoT) para modernizar a gestão urbana. Essas tecnologias são utilizadas na automação de processos administrativos, monitoramento de tráfego, alocação de recursos e otimização de serviços públicos. Uma equipe de analistas promoveu um debate para discutir os desafios éticos e técnicos associados a essas tecnologias e concluiu que:
- Aa utilização de algoritmos de IA na gestão urbana elimina vieses e erros humanos, garantindo decisões mais objetivas e imparciais.
- Ba IoT melhora a eficiência dos serviços públicos e, por ser baseada em sensores automatizados, reduz significativamente os riscos de segurança cibernética ou invasões de privacidade.
- Cmodelos de ML tornam-se progressivamente autônomos e, uma vez treinados, não precisam ser revisados, pois suas previsões e decisões se aprimoram automaticamente, o que contribui para uma gestão pública realmente eficiente.
- Da aplicação de IA na gestão pública pode reproduzir padrões discriminatórios presentes nos dados históricos usados para treinamento, tornando necessário um monitoramento contínuo para evitar viés algorítmico. (alternativa correta)
- Ecomo os algoritmos são treinados com grandes volumes de dados históricos estruturados e não estruturados, os sistemas baseados em ML garantem neutralidade e imparcialidade nas políticas públicas.
Resposta comentada
Gabarito Alternativa D
A Inteligência Artificial (IA) e o Machine Learning (ML) são sistemas que aprendem a tomar decisões e fazer previsões a partir de grandes volumes de dados. O problema é que, se esses dados históricos já contêm preconceitos ou desigualdades sociais, a IA pode aprender e reproduzir esses padrões discriminatórios, um fenômeno chamado viés algorítmico.
(A) Incorreta: A IA não elimina vieses e erros humanos; ela pode, na verdade, reproduzir e até amplificar os vieses presentes nos dados de treinamento, além de introduzir novos tipos de erros.
(B) Incorreta: A IoT, ao conectar múltiplos dispositivos e coletar dados sensíveis, aumenta a superfície de ataque e, consequentemente, os riscos de segurança cibernética e invasões de privacidade, em vez de reduzi-los.
(C) Incorreta: Modelos de ML precisam de revisão, monitoramento e, muitas vezes, retreinamento contínuos para garantir sua eficácia, adaptar-se a novas realidades e evitar a degradação de desempenho ou a introdução de novos vieses; eles não se aprimoram automaticamente sem supervisão.
(D) Correta: Esta alternativa aborda diretamente o problema do viés algorítmico, onde a IA aprende e reproduz preconceitos existentes nos dados históricos, exigindo supervisão humana constante para garantir justiça e equidade nas decisões públicas.
(E) Incorreta: O volume de dados, por si só, não garante neutralidade ou imparcialidade. Se os dados históricos contêm vieses, a IA os aprenderá e reproduzirá, comprometendo a justiça das políticas públicas. A armadilha aqui é a crença de que "grandes volumes de dados" automaticamente levam à neutralidade, ignorando a qualidade e os vieses inerentes a esses dados.
Fonte: FCC PMSP Analista TIC 2025 Analista de Planejamento e Desenvolvimento Organizacional - Tecnologia da Informação e Comunicação (Caderno Tipo 001). Reproduzida para fins de estudo.