Não é segredo para quase ninguém que grandes modelos de linguagem como o GPT, tecnologia por trás do popular ChatGPT da OpenAI, valeu-se da vasta produção textual humana disponível na internet para extrair as características que compõem um texto correto, gramática e semanticamente. Porém, poucos param para se perguntar como a “inteligência artificial” apresenta-se com um linguajar tão polido e evita, a todo custo, tocar em temas sensíveis como crimes, pornografia e violência de todo e qualquer gênero. A internet está recheada desse tipo de conteúdo, mas o ChatGPT parece misteriosamente ignorá-los em sua análise estatística da produção cultural humana.
O processo é simples: a “inteligência artificial” precisa do apoio de uma inteligência natural para dizer-lhe o que pode e o que não pode ser dito. E dada a escala da análise feita por um modelo como o GPT-4 e da quantidade de saídas que pode gerar, são necessárias várias dessas inteligências naturais.
Para quem não entendeu a ironia, falamos aqui de seres humanos. Trabalhadores muito mal pagos que absorvem todo o “horror” que permeia a rede mundial de computadores, fazendo com que o ChatGPT entregue apenas positividade aos seus usuários. Fomos lembrados da existência desses profissionais – labelers ou “rotuladores” numa tradução livre – em recente matéria do jornal The Wall Street Journal (“Cleaning Up ChatGPT Takes Heavy Toll on Human Workers“, 24/07/2023).
No texto, um dos trabalhadores, Alex Kairu, do Quênia, descreve sua experiência como “a pior que já tive trabalhando numa empresa”. Empresas como a OpenAI ou a Meta, dona do Facebook, terceirizam seu trabalho para empresas que atuam em países do Leste africano – e outras regiões pobres do mundo – onde trabalhadores como Kairu passam horas interagindo com textos e imagens que caem nas categorias “abuso infantil, incesto, bestialidade, tráfico infantil, escravidão sexual” entre outras formas de violência. Para isso, ganham pouco menos de US$2,00 por hora.
Esse tipo de trabalho sustenta não apenas os grandes modelos de linguagem e os geradores de imagem que começaram a aparecer aos montes desde o ano passado, mas também sustentam a moderação das redes sociais que a transformam num mundo virtual em todos os sentidos da palavra. Não apenas digital, mas ausente de violência e “pensamentos negativos”.
A realidade por trás de avanços tecnológicos na área de aprendizagem de máquina são reveladoras. Primeiramente, não extinguem trabalho, como muitos anunciam, mas criam novos trabalhos que necessitam de menos treinamento para sua execução, ao exemplo das máquinas a vapor do início da Revolução Industrial. Revelam que o valor desses modelos vem do trabalho humano, reforçando as ideias econômicas apresentadas por Karl Marx e David Ricardo ainda no século XIX. E finalmente expõe o capitalismo como o que é: uma máquina de moer gente.
O trabalho de labelers e moderadores é um verdadeiro programa de tortura psicológica, em escala industrial, que deixaria os torturadores de Laranja Mecânica envergonhados. O resultado é certamente impressionante, mas o abismo entre o que recebem os trabalhadores que sustentam o ChatGPT e o que recebem os acionistas da OpenAI talvez nunca tenha sido tão grande na história dos empreendimentos capitalistas. Por um lado, a exploração em certos aspectos é cada vez mais brutal e, por outro, o valor especulativo das empresas de tecnologia eleva os capitalistas a um patamar inimaginável.
Ao compreendermos esse aspecto propositadamente ocultado das “inteligências artificiais”, surgem novas perguntas. A primeira, mais filosófica: estariam essas inteligências verdadeiramente próximas da inteligência humana, se são enviesadas para evitar “pensamentos ruins”? A segunda, mais prática: se há pessoas impedindo que esses modelos emitam textos e imagens contendo violência e pornografia, o que mais ficou de fora? Será que esses modelos podem falar honestamente sobre os crimes do imperialismo? Para isso, precisariam ser inteligentes o suficiente para entender que honestidade e imparcialidade não são a mesma coisa.
