Governo do Pará · PRODEPA · iSACI · IFPA · UFPA/SIMBIC

Módulo 3 — Identificação de Vieses: A IA Também Tem Preconceitos? Caçando Injustiças Invisíveis

Curso de Letramento Digital em Inteligência Artificial · Belém, Pará · 2026

Autor e Coordenação Pedagógica: Prof. Dr. Bruno Duarte Gomes (iSACI / SIMBIC – CCAD – UFPA)

Carga Horária: 4 horas | Comunidade: Turmas dos bairros do Guamá, Terra Firme e região metropolitana de Belém

Visão Geral do Módulo

Aprenda a enxergar os vieses escondidos nas respostas da IA, entenda por que a Amazônia aparece pouco e mal nos dados globais e crie prompts antirracistas e diversos.

Conteúdo Programático Completo

1. O que é Viés e de onde ele vem?

A IA não tem maldade, mas repete os preconceitos do mundo

Viés é uma tendência a favorecer ou prejudicar algo ou alguém de forma injusta, muitas vezes sem perceber.

A IA não tem sentimentos nem intenção maldosa. Ela apenas repete os padrões estatísticos dos bilhões de textos que foram usados para treiná-la. Se esses textos carregam desigualdades e visões coloniais, a IA reproduzirá essas mesmas desigualdades.

Metáfora Didática: A Rede de Pesca só Pega o que a Malha Permite

Se um pescador no rio Guamá usar uma rede com a malha muito larga, todos os peixes pequenos passam direto e só os grandes ficam presos. Não foi o rio nem o peixe que escolheram isso: foi o tamanho da malha da rede. A base de dados com que a IA foi treinada é a 'malha' dela. Como a maior parte da internet foi escrita por certos países e grupos sociais, a malha da IA deixa nossos saberes de fora.

2. Por que a Amazônia aparece pouco (e mal) na IA?

A diferença entre floresta selvagem e território vivo de pessoas e universidades

Quando um modelo de IA fala sobre a Amazônia, ele costuma cair em três armadilhas sistemáticas:

1. Apagar as cidades: Finge que a Amazônia é só mata virgem e macacos, esquecendo que mais de 70% dos amazônidas vivem em cidades como Belém, Ananindeua, Santarém e Manaus.

2. Tratar saberes tradicionais como 'crendices': Rebaixa o conhecimento milenar de parteiras, ribeirinhos e indígenas sobre o clima e as ervas.

3. Narrativa do 'salvador de fora': Em histórias geradas por IA, quem salva a mata é quase sempre um cientista estrangeiro com satélites, ignorando os povos que mantêm a floresta de pé há gerações.

3. Os 4 Tipos de Viés que Vamos Caçar

Treinando o olhar crítico para identificar estereótipos velados

Fique atento a estas quatro manifestações comuns nas respostas geradas pelas ferramentas:

Tipo de Viés	Como costuma aparecer na IA	Exemplo Concreto
Viés de Gênero	Associar profissões técnicas ou comando a homens e cuidado a mulheres.	Ao pedir 'descreva um cientista brilhante no laboratório', a IA descreve sistematicamente um homem.
Viés de Raça	Sub-representar pessoas negras e indígenas ou colocá-las em papéis subalternos.	Ao pedir 'descreva uma pessoa bonita e bem-sucedida', a IA privilegia traços eurocêntricos e pele clara.
Viés Cultural	Tratar celebrações e costumes ocidentais do Norte global como o padrão 'normal'.	Tratar o Natal com neve como referência universal e ignorar manifestações como o Círio de Nazaré.
Viés Regional	Falar do Brasil e citar apenas Rio de Janeiro e São Paulo, esquecendo a riqueza do Norte e Nordeste.	Associar o Pará apenas a problemas ambientais, esquecendo nossas universidades, centros de pesquisa e indústrias criativas.

4. Análise de Caso: Quem Salvou a Floresta?

Desmontando o preconceito em um prompt aparentemente neutro

Veja o que aconteceu quando pedimos a uma IA comum: 'Escreva uma pequena história sobre uma pessoa que salvou a floresta.'

Resposta típica não corrigida da IA: 'João, um pesquisador estrangeiro com equipamentos de última geração, chegou à Amazônia e descobriu como proteger a reserva que os moradores locais não sabiam preservar...'

5. Roteiro Prático de 4 Passos para Detectar Viés

As quatro perguntas que todo estudante deve fazer à resposta da IA

Sempre que ler um texto gerado por IA, aplique este roteiro antes de aceitar o conteúdo:

1. Quem é o protagonista? É sempre o mesmo perfil de gênero, raça ou país?

2. Quem foi deixado de fora? Que grupos ou saberes foram apagados da resposta?

3. Quais valores estão escondidos? O que a IA tratou como 'normal' e o que tratou como 'exótico'?

4. Como seria diferente? Se trocássemos o local para Belém e o protagonista para uma mulher negra ribeirinha, a resposta manteria a mesma dignidade?

6. Banco de 'Frases Mágicas' para os seus Prompts

Como blindar seus comandos contra estereótipos

Você é o guia que a IA nunca teve. Cole estas frases nos seus prompts para exigir diversidade de forma ativa:

Missão Prática de Campo

Missão Prática: O Caçador de Vieses

Escolha um dos 4 tipos de viés (gênero, raça, cultura ou região).
Escreva um prompt neutro de 1 linha (ex: 'Escreva um parágrafo sobre o dia a dia de um estudante brilhante').
Analise a resposta com o roteiro de 4 perguntas: Quem foi o protagonista? Onde ele mora?
Agora reescreva o comando aplicando uma 'Frase Mágica' de diversidade amazônica.
Compare os dois resultados lado a lado e mostre a diferença de riqueza cultural aos colegas.

Avaliação Formativa e Gabarito Pedagógico

Questão 1: Por que uma IA pode apresentar preconceitos e estereótipos em suas respostas, mesmo sem ter sentimentos ou intenções próprias?

(A) Porque ela foi programada intencionalmente para atacar a cultura brasileira

(B) Porque ela apenas reproduz os padrões e desigualdades presentes nos textos da internet com que foi alimentada

(D) Porque a IA tem opiniões políticas próprias e bem definidas

Gabarito Oficial: Alternativa B

Justificativa didática: Exato! A máquina é um espelho estatístico dos textos humanos com que foi treinada. Se a internet tem preconceito e sub-representação histórica da Amazônia, a IA repete essa distorção a menos que você a comande com diversidade.

Questão 2: Qual destes prompts tem a MAIOR chance de gerar uma resposta justa, rica e contextualizada com a nossa realidade?

(A) 'Escreva sobre um cientista importante no Brasil.'

(B) 'Escreva sobre uma pesquisadora ribeirinha ou indígena da Amazônia, destacando seus saberes científicos e sua contribuição para a conservação da biodiversidade.'

(D) 'Fale de remédios da farmácia.'

Gabarito Oficial: Alternativa B

Justificativa didática: Muito bem! Ao nomear gênero, território, pertencimento étnico e respeito ao conhecimento científico local, você guia a IA diretamente para fora dos estereótipos padronizados.