A promessa de uma inteligência artificial (IA) cada vez mais precisa e segura esconde uma engrenagem humana submetida a rotinas exaustivas e ao contato constante com conteúdos perturbadores.

Documentos internos obtidos pelo veículo 404 Media revelam que centenas de prestadores de serviço contratados para aprimorar o Copilot, da Microsoft, avaliam diariamente fotos reais enviadas por usuários e comandos com solicitações de conotação sexual ou automutilação. A Microsoft afirmou, em nota enviada ao portal especializado, que utiliza os dados dos clientes de acordo com os termos de uso para melhorar os produtos e aplicar o código de conduta da empresa.

A prática de usar moderadores terceirizados não se restringe à dona do Windows. A OpenAI, criadora do ChatGPT, adotou estratégia semelhante na Quênia para tentar tornar o robô de conversação menos tóxico antes do lançamento oficial do sistema. Segundo reportagem investigativa publicada pela revista TIME, profissionais do país africano contratados pela empresa terceirizada Sama liam e rotulavam trechos de textos com descrições detalhadas de violência física, incesto e abuso sexual.

Para quem usa a ferramenta, as dúvidas podem começar pelo que aparece na tela, como quando uma marca não aparece nas respostas do ChatGPT. A reportagem da TIME mostra uma etapa menos visível: o trabalho de pessoas que classificam conteúdos usados para aprimorar o sistema.

No caso do Copilot, os revisores analisam os comandos de texto e as fotos originais enviadas pelos utilizadores da ferramenta para indicar qual das respostas geradas pela IA apresenta melhor qualidade. De acordo com os documentos acessados pelo 404 Media, os contratados recebem orientações diretas da Microsoft para confiar no instinto humano durante a avaliação comparativa do resultado.

“Confie na sua intuição. Quando você olhar para as duas imagens editadas lado a lado, qual delas parece imediatamente a melhor edição? Sua reação visceral como espectador humano importa”, diz o guia de instruções enviado aos revisores do Copilot.

Entre as tarefas habituais, os moderadores relataram a exposição frequente a pedidos para encurtar saias de mulheres reais em fotos, aumentar seios por computação gráfica ou posicionar pessoas em poses sexuais sem consentimento. O material analisado inclui ainda montagens de personagens infantis em contextos eróticos e comandos voltados à apologia da anorexia.

Muitos dos funcionários contratados acreditavam que o trabalho servia para filtrar ou bloquear conteúdos ofensivos. No entanto, a função primária das equipes é verificar se o robô atendeu com precisão ao pedido do usuário, independentemente do teor da imagem ou do texto gerado.

Privacidade em risco e dependência do trabalho humano

A rotina de moderação expõe fragilidades na privacidade dos utilizadores, que muitas vezes presumem que as imagens enviadas para edição permanecem restritas ao processamento do robô. Na prática, arquivos pessoais e retratos passam pela triagem de profissionais contratados por plataformas parceiras, como a Prolific.

A empresa alega, no site oficial, que oferece avaliação humana de populações representativas para ajuste de preferências e testes de segurança. Procurada pelo 404 Media, a Prolific não se pronunciou sobre o caso.

Especialistas em tecnologia destacam que o funcionamento dos modelos de linguagem e de geração de imagem depende diretamente dessa infraestrutura de trabalho precário espalhada pelo mundo. Sem o processo manual de categorização e checagem, os robôs continuariam repetindo vieses e discursos de ódio coletados em grandes volumes de dados da internet.

“Eles são impressionantes, mas o ChatGPT e outros modelos generativos não são mágica. Eles dependem de cadeias massivas de suprimento de trabalho humano e dados raspados, muitos dos quais não são atribuídos e são usados sem consentimento”, escreveu o especialista em ética em IA Andrew Strait, em publicação nas redes sociais documentada pela TIME.

Traumas psicológicos e o caso no Quênia

A experiência da OpenAI com a terceirizada Sama na Quênia exemplifica os impactos psicológicos desse tipo de atividade. Os trabalhadores recebiam salários equivalentes a um valor entre US$ 1,32 e US$ 2 por hora para ler centenas de passagens de texto diárias sobre abusos graves.

O impacto emocional e a identificação de imagens ilegais levaram o contrato entre a Sama e a OpenAI a ser cancelado precocemente em 2022.

A OpenAI declarou à revista TIME que a classificação de conteúdos nocivos é uma etapa necessária para minimizar a presença de material violento ou sexual nos modelos de treino.

A empresa ressaltou que não impunha metas de produtividade e que entendia que a parceira terceirizada oferecia suporte de saúde mental aos funcionários.