A tecnologia é reflexo da sociedade, e nada tem gerado mais discussão nesse campo do que a ética dos algoritmos e a Inteligência Artificial (IA). Danielle Torres, sócia-diretora da KPMG no Brasil e mestranda em Analytics no Instituto de Tecnologia da Geórgia (Estados Unidos), resolveu focar no estudo sobre IA com um histórico. Como uma das primeiras executivas trans do país, ela busca entender o viés por trás da computação.
O que Danielle acredita é que o assunto permeia a agenda ambiental, social e de governança (ESG), uma vez que reflete o comportamento da sociedade e a inclusão, como em processos seletivos. A riqueza de experiência pessoal e profissional da executiva extrapola rótulos e mostra multidimensionalidade. Recentemente ela publicou sua autobiografia “Sou Danielle – Como Me Tornei a Primeira Executiva Trans do Brasil” (Ed. Planeta) na qual conta sua jornada pessoal, incluindo o acolhimento na KPMG, empresa onde já trabalhava antes do momento de sua transição de gênero. Mas ela insiste: apesar de existir orgulho nessa trajetória, isso não a define.
Além de comandar a área de diversidade e inclusão na consultoria, Danielle Torres é especialista contábil, membro do Tópico Técnico Global de Contratos de Seguros da companhia e líder do tópico técnico de Seguros no Brasil. A seguir, ela fala um pouco de como os estudos sobre os algaritmos pode colaborar na pauta da diversidade das empresas, e de que forma sua experiência ajuda em todo este processo.
NETZERO: Há relatos de que a Inteligência Artificial traz uma carga de preconceito. Os algoritmos ainda são feitos por humanos.
DANIELLE TORRES: Sim, mas chega em um momento em que os humanos não mais a compreendem. A gente entende duas dimensões, ou, quando muito, uma terceira dimensão de tamanho. Os algoritmos trabalham simultaneamente com 20, 40 dimensões, e nós não conseguimos mais interpretar. Começamos a ter inferência do que está acontecendo, a percepção de vieses, se o algoritmo pode ser homofóbico, transfóbico. Mas é difícil demais olhar uma equação tão complexa e prever.
A IA não está mais isolada, ela está em tudo. Minha própria profissão está afetada por isso, não se pode mais colocar como uma área de conhecimento desconectada do social. Na hora em que a gente pensa em governança, social e meio ambiente, isso passa pela Inteligência Artificial. Estamos hoje em um momento de transição.
Você é uma executiva com anos de experiência em gestão, inclusive em ESG. Entretanto, é comum as pessoas focarem apenas na sua transição de gênero?
Quando falamos de pessoas trans, a gente fala de estereótipos, isso já advém da própria cultura. As histórias do cinema, da ficção e de pessoas trans contemporâneas caminham muito juntas, e é sempre baseado na transição. Mas a transição é algo tão pequeno em mim, é insignificante na minha vida. O senso coletivo é que isso é de extrema importância, e muitas vezes as pessoas me resumem: não sou uma pessoa, sou uma transição. É uma curiosidade invasiva. Todo meu esforço literário e de fala é para desconstruir isso. E já foi pior, eu não peguei tanto a fase em que pessoas trans iam em programas de TV e as pessoas só falavam sobre a sexualidade delas. Mas ainda me vejo muito [resumida a ser] sobre a transição.
Onde você acha que está o centro das atenções, onde pega o algoritmo?
Vamos falar sobre violência, ainda mais em um país no qual a pessoa trans é marginalizada. É uma marca horrorosa na comunidade trans, mas existe uma preferência em se falar sobre violência. Toda vez que sai alguma notícia, e infelizmente é frequente, ficamos revoltados. Mas o seu algoritmo só pega a violência, e isso é um viés. Por que o conteúdo que viraliza é sempre da violência? Ainda queremos esse espaço, é uma realidade. Acabamos muitas vezes nem levando a pauta para outros assuntos.
Isso a incomoda?
Não, já aprendi que é assim. Eu simplesmente dialogo. Pessoa trans tem um drama, faz parte de nossa vida. Mas a gente precisa contar outras histórias também. Não tem como incomodar mais. Simplesmente é. Mas ainda me entristece um pouco ver isso.
Como isso se encaixa na agenda ESG de empresas como a KPMG?
Na jornada. Eu vejo organizações, vou em empresas que me falam que o assunto já está com maturidade e nós somos todos iguais.
Pode ser que na política da empresa esteja escrito que todos os funcionários são equitativos. Mas não é o fato de escrever que muda uma realidade social que a antecede. Organizações são recortes da sociedade. Tem o preconceito escrachado, que é muito visível. Geralmente não é este que impede o desenvolvimento da diversidade. É o preconceito inconsciente, que forma a visão de mundo. Não vai adiantar escrever na política. Quando penso em diversidade, penso em quais são as medidas efetivamente inclusivas, que fazem com que essas pessoas cheguem em lideranças.
Precisamos ter mais pessoas trans em posição de liderança. Geralmente falamos em empregabilidade básica, em um quadro de 90% das pessoas trans marginalizadas. Mas alguém tem que falar em liderança. Se não tratarmos toda a dimensão, como vamos evoluir? Não vamos mudar o preconceito com regras, a gente muda com a convivência, com o diálogo e com a inserção. Muitas vezes não é por falta de capacidade; a pessoa não consegue dar o próximo passo porque não tem chance.
Como isso pode ser mudado?
Diálogo e convivência. Especialmente a convivência. Eu sou extremamente estudiosa, então é óbvio que acredito no valor da educação. Mas olhando o preconceito, não sei se tem tanta relação direta com o grau de estudo e o social. Jovens tendem a ser menos preconceituosos, mas, às vezes, temos posição de “gatekeepers”. Acho que temos de pensar nisso, e o que geralmente muda não é só estudar. Ainda mais no mundo atual, em que a gente consome só da nossa bolha.
É um grande revés, nós só consumimos o que já sabemos, e qualquer coisa que agride a nossa verdade, descartamos. É o paradoxo da inclusão. Como promove? Convivendo. Como convive? Incluindo.
Mas é um problema estrutural, não existe solução simples ou uma palavra mágica. Não significa que não precisa fazer nada. Especificamente, precisamos pensar em recrutamento, seleção de profissionais. Como podemos garantir o mantra de que é tudo por mérito?
A Inteligência Artificial poderia ser utilizada neste contexto?
É uma realidade, muitos processos de seleção são feitos por algoritmos, e muitas vezes são o contrário [do mérito]. A IA é altamente escalável – uma vez que compreende padrão, ela faz com base nisso e aplica sempre igual. Não é assim que funciona. Tudo deriva de equação matemática de ponderação: uma vez que isso seja escalado, a gente demora muito tempo para perceber que o sistema produz marginais.
A Inteligência Artificial não aprende sozinha, ela aprende em uma base geral, e já não tem minorias. A probabilidade é o algoritmo aplicar um comportamento exclusivo, se não classificar corretamente, ele dispensa. É um tema muito complexo e é preciso um especialista em ética, não só um cientista de dados.
Até um ponto em que a IA adquirir consciência?
A pergunta da consciência não é mais relevante. Mesmo modelos baseados em diálogo não são consciência. É um instrumento matemático que gera respostas perceptíveis para nós.
Quando a gente atribuir consciência às máquinas, talvez aconteça a ruptura social que não vimos ainda. Será que essa vai ser a nossa bolha final? Consumindo os sentimentos apenas que nos agradam? Já temos tecnologias simples com IA, com diálogo de baixíssima complexidade. Tem gente que passa o dia brigando com robô.
Emocionalmente falando, somos basicamente os mesmos humanos, evoluímos muito pouquinho. Somos os mesmos e vivemos como nossos pais. A hora que tivermos um choque com uma Inteligência Artificial onipresente, o que mais me preocupa é o que acontecerá do ponto de vista social. Estamos vendo isso acontecer há mais de 12 anos já, com a rede social ditando o comportamento. Passamos por ondas revolucionárias de tecnologia. Não nos cabe julgar, mas apenas observar e aprender sobre elas.
Deixe um comentário