No blog do Sakamoto
O que acontece quando uma tecnologia nova, como a Inteligência Artificial, encontra algo antigo e ainda presente, como o nosso racismo?
Essa questão, colocada neste Dia da Consciência Negra, pode parecer boba considerando que está em curso um genocídio de jovens, negros e pobres nas periferias das cidades e que a violência contra a mulher negra segue aumentando, indo no sentido contrário da violência contra a mulher branca, que segue diminuindo. Mas não é. E pode estar reforçar essa mesma violência, aumentando a injustiça e reforçando o racismo de forma aparentemente invisível.
Considerando que máquinas são programadas por pessoas, que fazem parte de sociedades em que o preconceito e a violência contra pessoas negras é estrutural e dita as relações sociais, o racismo é inserido nas rotinas de programas que teriam como objetivo facilitar a vida humana. A consequência disso é um preconceito mais difícil de ser questionado porque passa a ser travestido de razão e técnica. Afinal, não são pessoas, mas máquinas que tomaram uma decisão – como se a máquina tivesse chegado àquela conclusão por vontade própria.
Há um debate em curso que parece ficção científica: as máquinas podem ”evoluir” a ponto de ganharem consciência (seja isso o que isso for) e, hipoteticamente, se voltarem contra nós. Como o cenário desolador de destruição global causado pela Skynet, na série ”O Exterminador do Futuro”. Muita gente grande se engajou nesse debate, incluindo os fundadores do Facebook e da Tesla.
O ponto é que esse medo, ao que tudo indica, é coisa de homem branco entediado.
Já tinha travado esse debate aqui antes e vale a pena retomá-lo. Afinal, se isso acontecer um dia, afetando a vida dos moradores ricos do Vale do Silício, terá sido muito tempo depois das minorias em direitos já terem suas vidas transformadas em inferno pós-apocalíptico pelas máquinas, obedecendo a padrões programados pelos grupos e setores que governam a humanidade. Ou seja, pelos próprios homens brancos.
Um sistema digital de cálculo de risco de seguros, por exemplo, tende a ser programado para dar avaliações diferenciadas para um homem branco e uma mulher negra. O mesmo vale para questões de segurança pública, ou seja, considerando que a quantidade de negros entre as pessoas encarceradas é maior que sua participação na sociedade (clara consequência de um processo estrutural racista), uma inteligência artificial pode ser programada para usar essa informação a fim de gerar ”processos mais efetivos de controle de criminalidade”. Ou seja, calculando que determinada pessoa tem mais chance de voltar a cometer um crime que outra.
Cria-se uma estimativa baseada não na vida daquele indivíduo, mas num suposto perfil ao qual ele faz parte. Perfil esse que, não raro, inclui pessoas que foram vítimas de racismo policial e que tiveram condenações injustas. E, envolve, claro, altas doses de preconceito na escolha dos parâmetros usados para a inclusão de informações. Nesse caso, a Inteligência Artificial, que já é usada para ajudar a Justiça a tomar decisões, tem um vício de origem, pois é carregada com dados de uma realidade repleta de racismo e, portanto, tende a reproduzi-la. Ou alguém acredita que a máquina vai, por conta própria, ter a consciência de ”consertar” o mundo a partir dos dados e metadados entregues e passar a ser mais justa que os humanos? O grande escritor de ficção científica Isaac Asimov se remexe no túmulo.
Com isso, a Inteligência Artificial pode estar atuando a partir do efeito (vigilância maior de bairros de maioria negra em busca de suspeitos, que é o que já acontece) e não das causas, entre elas um sistema que ignora as vulnerabilidades sociais do grupo em questão e as condições que levaram alguns de seus membros ao crime.
Isso quando o sistema digital não é, em si, racista. Nos Estados Unidos, um programa desenvolvido para identificar possíveis reincidências criminais e usado em tribunais de parte do país age de modo racista, como mostrou um levantamento feito pela agência de notícias ProPublica. Os jornalistas analisaram dados de 7 mil presos e verificaram que o programa aponta que a chance de cometer novo crime é maior entre negros do que entre brancos. A vida real, contudo, contradiz o programa: dos negros classificados como de ”alto risco”, 44,9% não reincidiram, índice que cai para 23,5% nos casos de brancos. Enquanto isso, 28% dos negros que receberam o rótulo de ”baixo risco” social voltaram a cometer crimes. O número é de 47,7% quando se tratava de réus brancos.
Isso somado ao aprofundamento da violação da privacidade, a programas que permitem reconhecimento facial e à utilização de modelos matemáticos, podemos construir uma sociedade semelhante à do filme Minority Report, protagonizado por Tom Cruise, em que crimes são impedidos e os envolvidos presos preventivamente.
Mas, nela, negros pobres seria sistematicamente mais punidos porque o sistema obedeceria às ordens dadas por brancos ricos, em um processo feito à sua imagem e semelhança.
A partir do momento em que redes complexas usam bases de dados existentes, já programadas com nosso racismo, mas também xenofobia, homofobia, transfobia, enfim, para desenvolver-se, pode-se esperar que ela vai reproduzir essas práticas.
Um sinal do que seria isso aconteceu quando a Microsoft foi forçada a desativar um chat bot projetado por ela, para conversar com usuários no Twitter, acionado por inteligência artificial. Como ele aprendia a partir das trocas na rede, acabou por dar declarações racistas.
Uma sociedade em que inteligência artificial seja usada para organizar a vida cotidiana baseada em como nossa sociedade é hoje, mas sem mediação humana, pode apenas aprofundar a crueldade com a qual tratamos os grupos que tem seus direitos sistematicamente excluídos e são alvo do ódio e da intolerância. Normalmente, negros e pobres.
Antes dos avanços em Inteligência Artificial criarem qualquer ser digital supremo, consciente de si mesmo e com desejos totalitários, ela vai mudar a vida de muita gente. Para melhor e para pior, pois a culpa não é da tecnologia, mas do uso que os humanos fazem dela.
Se não fizermos esse debate, que parece coisa de filme, mas é real e está em nosso dia a dia, corremos o risco de elevar o nosso racismo a um novo grau de perversidade. Do qual será difícil sair.
–
Foto: Agência Brasil
