Questão de Legislação de TIC · FCC PMSP Analista TIC 2025 (nº 29)

Quando sistemas de Inteligência Artificial (IA) tomam decisões que afetam as pessoas, como controlar o tráfego ou planejar rotas, é essencial que possamos entender como essas decisões foram tomadas (explicabilidade) e verificar se elas são justas e corretas (auditabilidade). Isso garante transparência e responsabilidade, protegendo os direitos dos cidadãos.

(A) Correta: Garantir que as decisões automatizadas sejam explicáveis (ou seja, que se possa entender a lógica por trás delas) e auditáveis (que se possa rastrear e verificar o processo decisório) é fundamental para a transparência, a responsabilidade e a confiança nos sistemas de IA. Sem isso, torna-se impossível contestar decisões injustas, identificar vieses ou atribuir responsabilidade em caso de erro, o que é um pilar para a proteção dos direitos dos cidadãos em um contexto de decisões automatizadas.

(B) Incorreta: Restringir o uso de IA apenas a aplicações que não envolvam dados pessoais é uma medida excessivamente limitante e muitas vezes inviável para otimizar a mobilidade urbana, que frequentemente se beneficia da análise de padrões de deslocamento (mesmo que anonimizados ou agregados). O desafio não é evitar dados pessoais, mas sim gerenciá-los eticamente e legalmente, garantindo privacidade e segurança.

(C) Incorreta: Priorizar a redução de custos operacionais em detrimento de preocupações éticas é uma abordagem que viola os princípios fundamentais de qualquer implementação tecnológica responsável, especialmente quando afeta a vida dos cidadãos. O equilíbrio entre inovação e direitos exige que a ética seja um pilar, não um custo a ser minimizado. Armadilha da banca: Embora a redução de custos seja sempre um objetivo, ela jamais pode sobrepor-se às questões éticas e legais, que são a base para a aceitação e legitimidade da tecnologia.

(D) Incorreta: Implementar sanções financeiras severas a todas as empresas que coletam dados dos usuários é uma medida punitiva e genérica, não um desafio ético ou legal principal a ser priorizado. Embora sanções sejam importantes para o cumprimento da lei, a questão central é estabelecer as bases éticas e legais para a coleta e uso de dados, e não apenas punir indiscriminadamente.

(E) Incorreta: Centralizar o controle dos algoritmos em uma única autoridade municipal é uma questão de governança e estrutura organizacional, não diretamente o principal desafio ético e legal relacionado à natureza das decisões da IA. Embora a governança seja importante, ela não resolve por si só os problemas de viés, privacidade, explicabilidade ou responsabilidade inerentes aos algoritmos.