A aplicação da Inteligência Artificial na vida cotidiana tem se intensificado, trazendo diversas facilidades e soluções para problemas complexos.

QUESTÃO 36

A aplicação da Inteligência Artificial na vida cotidiana tem se intensificado, trazendo diversas facilidades e soluções para problemas complexos. No entanto, o artigo alerta para os riscos de vieses e discriminações que podem ser gerados pelos sistemas de IA, caso não haja um cuidado adequado na sua concepção e treinamento. Um desses casos envolveu um sistema de gestão de saúde nos Estados Unidos.

​CORTIZ, Diogo. O Design pode ajudar na construção de Inteligência Artificial humanística? 2019. 9 f. Artigo apresentado no 17º Ergodesign & USIHC 2019, PUC-Rio, Rio de Janeiro, RJ, 11-13 dez. 2019.

Com base no caso prático do sistema de gestão de saúde mencionado no artigo, assinale a alternativa que descreve corretamente o problema identificado:

Alternativas

Alternativa 1 - O sistema foi corretamente projetado, mas os dados utilizados para seu treinamento continham informações falsas, levando a decisões erradas.

Alternativa 2 - O sistema foi desenhado para priorizar pacientes com doenças crônicas, mas falhou ao não alocar tratamentos especiais para nenhum grupo de pacientes.

Alternativa 3 - O problema do sistema era que ele não conseguia identificar padrões de mudanças sutis na saúde dos pacientes, o que impedia um diagnóstico precoce.

Alternativa 4 - O software apresentava um comportamento de discriminação racial, privilegiando pacientes negros em detrimento de brancos na alocação de atendimentos.

Alternativa 5 - A discriminação ocorreu porque o sistema baseava suas decisões na tendência de gastos futuros, e pacientes negros historicamente tinham gastos menores no sistema de saúde.