Quando ouvimos falar em inteligência artificial (IA), geralmente tendemos a pensar em um grande número de benefícios que vão desde simples rotinas em casa até tomadas de decisões que podem economizar milhões de reais para uma empresa.
Mas será que essas decisões podem evoluir para algo que limite o acesso aos serviços a determinados grupos por conta de sua forma de agir, pensar, sua raça ou gênero?
O que é chat GPT e IA?
Chat GPT é um modelo de linguagem natural baseado em inteligência artificial que pode ser usado para criar sistemas de chatbots capazes de manter conversas naturais com os usuários. O GPT significa “Generative Pre-training Transformer” (Transformador Pré-Treinado Generativo) e é uma tecnologia de ponta em processamento de linguagem natural.
A inteligência artificial (IA) é um campo da ciência da computação que busca criar sistemas que possam realizar tarefas que geralmente exigem inteligência humana, como reconhecimento de voz, reconhecimento de imagens, tomada de decisões, entre outras. O chat GPT é um exemplo de como a IA pode ser usada para criar chatbots mais avançados, capazes de compreender e responder a perguntas e interações mais complexas.
Embora a tecnologia GPT tenha benefícios em áreas como tradução automática, resumos de texto, análise de sentimentos e chatbots, também pode refletir preconceitos raciais em suas saídas.
Os sistemas de IA, como o GPT, são treinados em grandes conjuntos de dados de texto, e a qualidade dos resultados depende da qualidade desses dados de treinamento. Quando os dados de treinamento são tendenciosos, discriminatórios ou refletem preconceitos, o sistema de IA pode perpetuar essas desigualdades em suas saídas.
Vários estudos mostraram que o GPT pode refletir preconceitos raciais em seus resultados, como a associação automática de termos como “negro” com palavras negativas, enquanto “branco” é frequentemente associado a palavras positivas. Além disso, os modelos de linguagem de IA, como o GPT, também podem reforçar estereótipos e marginalizar grupos minoritários ao apresentar informações imprecisas ou incompletas.
Como combater esse preconceito tecnológico?
Para combater o racismo na tecnologia GPT e outras tecnologias de IA, é importante que os desenvolvedores treinem esses sistemas com dados inclusivos e não tendenciosos e que implementem uma série de práticas e medidas que promovam a igualdade racial. Isso pode incluir a identificação e correção de dados tendenciosos, o monitoramento e a avaliação contínua da precisão e equidade dos resultados, a inclusão de uma equipe diversa e inclusiva no desenvolvimento e implementação de tecnologias de IA, bem como a transparência e responsabilidade na tomada de decisões de IA.
Casos relevantes onde o algoritimo teve viés racista:
O Twitter foi acusado de utilizar um algoritmo racista. A polêmica começou quando usuários da rede social identificaram que o algoritmo parecia favorecer pessoas brancas. Os usuários passaram a fazer testes onde colocaram imagens de homens brancos e negros, e em todos os formatos a imagem do homem branco sempre fica em destaque. Em um desses testes montaram um imagem com o rosto de 11 homens negros e um branco, e mesmo assim o corte focou no único homem branco.
Em nota oficial, o Twitter informou que foram feitos diversos testes antes do lançamento do novo modelo de software e que não foi encontrada nenhuma evidência de preconceito racial ou de gênero, e que terá que fazer mais análises. E informou também que abriria o código do trabalho para que mais pessoas pudessem revisá-lo.
O caso do Twitter não é um caso isolado. Em 2015, por exemplo, um usuário do Google descobriu que ao pesquisar na plataforma Google Fotos a palavra ‘gorila’, aparecia a imagem de seus amigos negros. Esse fato fez o Google pedir desculpas e apagar do buscador o gorila.
Mas por que a inteligência artificial dessas plataformas transmitem essas mensagens racistas?
A maioria das pessoas que estão por trás da criação dos algoritmos são brancas e isso acaba influenciando seu funcionamento. Ao serem construídos em cima de um banco de dados que reflete uma sociedade injusta, os algoritmos também acabam tomando decisões discriminatórias.
Mas afinal, o que fazer?
A conclusão é que não existe um passo a passo exato, ou uma lista de ações definitivas. Muitas vezes, o viés no comportamento ou no julgamento resulta de processos cognitivos sutis e ocorre em um nível abaixo da percepção consciente de uma pessoa.
É preciso um amplo entendimento de que existem pessoas diversas e que nem todos os grupos sociais estão realmente incluídos no mercado. As ações afirmativas, a médio e longo prazo, devem ser capazes de levar a diversidade para as camadas mais estratégicas da organização, influenciando mais tomadas de decisão, diversificando fontes de informação e promovendo momentos para que todos compartilhem suas histórias.
A Iniciativa Empresarial pela Igualdade Racial é uma revolução na gestão da diversidade e inclusão racial no Brasil, constituindo-se em uma ferramenta essencial para as empresas comprometidas com essa pauta. A Iniciativa Empresarial pela Igualdade Racial é um movimento formado por empresas e instituições comprometidas com a promoção da inclusão racial e a superação do racismo. O universo Iniciativa representa mais de R$ 1,3 trilhão em faturamento, mais de 800 mil pessoas e alcance global.
Finalidade: a superação do racismo no ambiente corporativo e em toda a sua cadeia de valor.
Faça parte e conheça mais!
Instagram: https://www.instagram.com/iniciativaoficial/
