O treinamento de algoritmos pode ocorrer através da inserção ou repetição de dados, muitas vezes fornecidos pela população em geral.

QUESTÃO 39

O treinamento de algoritmos pode ocorrer através da inserção ou repetição de dados, muitas vezes fornecidos pela população em geral. Esses dados podem incluir textos, rótulos e anotações que podem não ser verificados ou validados, o que pode introduzir preconceitos na IA. Se, historicamente, dados mostram que alunas se inscrevem menos em cursos de Ciência da Computação, um chatbot treinado com esses dados pode acabar recomendando cursos de humanidades para estudantes do sexo feminino, reforçando uma tendência anterior.

Fonte: HEGGLER, J. M.; SZMOSKI, R. M.; MIQUELIN, A. F. As dualidades entre o uso da inteligência artificial na educação e os riscos de vieses algorítmicos. Educ. Soc., Campinas, v. 46, e289323, 2025.

Sobre o processo de treinamento de algoritmos e a introdução de vieses, analise as afirmativas a seguir:

I. O treinamento de algoritmos é imune a vieses, pois se baseia em um grande volume de dados, o que neutraliza eventuais preconceitos individuais.

II. O processo de rotulagem de informações por humanos é uma fonte potencial de viés, pois as pessoas podem selecionar informações de maneira tendenciosa.

III. Um algoritmo pode ser treinado para evitar o uso de uma característica sensível como "raça", mas ainda assim produzir resultados discriminatórios se outras variáveis (proxies) estiverem correlacionadas com essa característica.

IV. O uso de dados históricos no treinamento pode levar à perpetuação de estereótipos e desigualdades sociais preexistentes, como a sub-representação de gênero em certas áreas do conhecimento.

É correto o que se afirma em:

Alternativas

Alternativa 1 - I e II, apenas.

Alternativa 2 - I e III, apenas.

Alternativa 3 - II e IV, apenas.

Alternativa 4 - II, III e IV, apenas.

Alternativa 5 - I, III e IV, apenas.