Algorítmos, machine learning, big data, inteligência artificial estão cada vez mais presentes em nossas vidas. Mesmo que não percebemos, eles nos ajudam a tomar decisões, como, qual caminho seguir, qual filme assistir, o que comer, além de monitorar nossa saúde. Seja através da Internet, aplicativos, dispositivos vestíveis ou assistêntes de vozes, como a Alexa, Siri, Cortana. E com grandes coorporações não é diferente, elas também utilizam machine learning para tomar decisões baseadas em números e lucro.

Mas o que é Machine Learning?

Machine Learning são algorítmos autônomos que evoluem e aprendem sozinhos analisando grandes quantidades de dados. O próprio algorítmo calcula e decide a melhor forma de fazer uma tarefa. Isso pode incluir jogar xadrez, dirigir um carro, reconhecer um rosto, considerando N fatores diferentes.

E como vários programadores trabalham ao longo do tempo adicionando essas considerações no algoritimo, é bem comum que ele evolua e se torne tão complexo ao ponto de não saberem explicar como ele funciona e toma as decisões.

E como redes sociais podem ser racistas?

Redes sociais lucram dinheiro mostrando propagandas para seus usários, pra isso, é importante que eles passem o maior tempo possível online. Então o algorítmo recebe essa tarefa, manter as pessoas conectadas, como ele vai fazer isso? O proprío algorítmo irá decidir analisando o comportamento dos usuários. Se posts de pessoas brancas geram mais interações (curtidas, comentários, compartilhamentos), o algoritimo irá mostra-los mais.

Isso também acontece com notícias falsas , pessoas feias e pobres, padrões de beleza. Pois, lembre-se, o objetivo do algorítmo é manter as pessoas conectadas, não julgar o que é certo ou errado.

It has been watching us

E o algoritmo conhece as pessoas melhor do que elas mesmos, pois ele tem registrado todas curtidas, comentários, vídeos assistidos, tempo em cada página, posts ignorados desde o momento em que elas criam uma conta.

Por mais que as pessoas digam que apoiem a diversidade, igualdade e respeito, ele sabe que elas inconscientemente interage mais com vídeos de gatinhos, receitas, memes, regimes autoritários, teorias da conspiração ou etc.

E sabendo disso, ele vai criar um feed personalizado pra cada pessoa, dependendo de seu humor, horário do dia, curtidas e buscas pra manté-las o máximo de tempo possível conectadas, e claro, mostrando uma propaganda a cada 3 publicações.

Qual a melhor forma de resolver isso?

Eu, por exemplo, gosto de ver vídeos de guitarristas; deveria então o algorítmo se preocupar em me mostrar 50% de guitarristas brancos e 50% de guitarristas pretos? Permitir que as pessoas escolham a preferência do conteúdo que elas querem ver, mesmo que isso afete sua percepção da realidade? Devemos nos esforçar a interagir com mais contéudos de pessoas pretas para burlar o algorítmo e fazer com que elas ganhem mais espaço? Seja como for, isso só irá mudar quando as redes sociais reverem seu modelo de negócio e as pessoas se conscientizarem de que esse problema existe.

Conclusão

Sabendo disso, gostaria de perguntar, o algorítmo que é racista ou ele apenas reflete o racismo oculto da nossa sociedade? Pois assim como no mundo offline, as pessoas pretas, e outras minorias, não tem tanto espaço na internet. Mas não é porque iss já acontece que deveria ser aceito em qualquer esfera, online ou offline.

Diferente do mundo lá fora, onde existe política, votações, leis e um passado histórico de segregação, a Internet não tem fronteiras e deveria ser um espaço de igualdade entre todos. Grandes serviços são feitos por grandes empresas e elas são as únicas responsáveis por manter esses algorítmos e estão mais propensas a mudar quando vêem seu lucro ou reputação ameaçados, por isso é importante as pessoas falem sobre isso e as pressionem pra mudar.

Referências

Se você se interessou por essas questões eu gostaria muito de recomendar algumas coisas onde isso é discutido mais profundamente. Os livros 21 Lições Para o Século 21 e Homo Deus do Yuval Harari, que são meus favoritos, o incrível documentário da Netflix O Dilema das Redes Sociais, também o podcast Your Undivided Attention em inglês e o perfil da Nina da Hora no Instagram, que é uma cientista e ativista e fala muito sobre isso.