IA: Em busca da “alma das máquinas”

Por Cristian Arão | Outras Palavras
Data original de publicação: 30/09/2024

Por trás da ilusão de autonomia, está o “trabalho fantasma” que move as IAs. Caso do “turco mecânico que jogava xadrez”, no século XVII, ilustra isso. Uma reflexão ética de valorização dos indivíduos que alimentam as tecnologias é essencial para regulá-las

A inteligência artificial (IA) tem causado fascínio e medo sempre que as suas inovações são noticiadas. Sistemas capazes de interpretar e gerar textos, como o ChatGPT, tornaram-se muito populares e ensejaram diversos debates acerca de sua natureza, suas limitações e seus impactos sociais. No mundo contemporâneo, essas tecnologias estão redefinindo diversos setores da sociedade, desde a indústria até o cotidiano individual. Algoritmos complexos, capazes de aprender e se adaptar autonomamente, assumem tarefas que antes eram consideradas exclusivas do domínio humano. 

Em meio ao avanço acelerado da tecnologia, o aprendizado de máquina tem se destacado como uma força motriz, permitindo que as inteligências artificiais aprendam de maneira aparentemente autônoma. Este fenômeno tem gerado tanto fascínio quanto inquietação, pois nos confrontamos com a ideia de sistemas automatizados que parecem operar independentemente. No entanto, é crucial entender que essa suposta autonomia é, em grande parte, uma ilusão. Embora os algoritmos possam aprender e se adaptar, eles ainda dependem fortemente do trabalho humano para funcionar corretamente. Este trabalho muitas vezes permanece invisível, oculto atrás da cortina da tecnologia.

A realidade por trás dessa tecnologia costuma ser mais banal e precária do que normalmente noticia-se. A revolução nessa área, que ocorreu no final dos anos 1990, fez com que as máquinas pudessem, de certa forma, aprender “sozinhas”, daí o nome machine learning (aprendizado de máquina). Porém, esse aprendizado, para ser mais efetivo e acurado, demanda muitos ajustes provenientes do trabalho humano. Sem esses constantes arranjos e redirecionamentos, a precisão das máquinas em tarefas complexas é bastante insatisfatória, nos explica David Sumpter em Dominados pelos números.

Há, portanto, toda uma rede de trabalhadores que, além de programarem as IAs, realizam diversas tarefas que acreditamos que são automatizadas. Esses trabalhadores são como fantasmas, porque seu trabalho é invisível para a sociedade. Esse termo “trabalho fantasma” foi cunhado por Mary L. Gray e Siddharth Suri no livro “Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass” (Trabalho Fantasma: Como Impedir o Vale do Silício de Construir uma Nova Subclasse Global). Após pesquisa com milhares de trabalhadores na Índia e nos Estados Unidos, os autores concluem que por trás da aparente autonomia das inteligências artificiais, existe um exército de indivíduos lendo textos, analisando fotos, avaliando as respostas geradas pela IA, dentre outras microtarefas indispensáveis para o bom funcionamento dos algoritmos.

Essa estrutura esconde intencionalmente o trabalho humano, segundo Gray e Suri. Com isso, mantém-se a aura mística da tecnologia e passamos a enxergar cada vez mais a inteligência artificial como algo realmente autônomo; é um truque parecido com o Turco Mecânico. O Turco Mecânico foi uma invenção do cientista Wolfgang von Kempelen, apresentada como a primeira máquina capaz de jogar xadrez. Porém, a invenção consistia em uma caixa que escondia um jogador que operava as peças. Curiosamente, o nome do programa que a Amazon usa para essas microtarefas é justamente Mechanical Turk (https://www.mturk.com/).

Diante disso, Hamid Ekbia e Bonnie Nardi em Heteromação¹ e outras histórias sobre computação e capitalismo (em tradução livre), afirmam que não existe de fato uma automação, porque a máquina não é completamente autônoma ou independente. Em vez disso, ela depende da intervenção ou supervisão humana em muitos níveis. Há, portanto, muito trabalho humano em um contexto em que as pessoas não recebem os devidos créditos. Embora a IA não seja exatamente um Turco Mecânico, pois existe algum nível de automação que dialoga com o trabalho humano, é importante compreender como o ser humano costuma ser escondido nesse sistema. Por trás da suposta autonomia das máquinas, há uma real exploração do trabalhador e até dos usuários que contribuem com reviews, comentários, produção de conteúdo etc.

Em suma, a revolução da inteligência artificial não é apenas um testemunho de avanços tecnológicos impressionantes, mas também revela uma camada oculta de trabalho humano essencial para seu funcionamento. Embora as IAs, como o ChatGPT, possam parecer autônomas, elas ainda são profundamente dependentes de uma vasta rede de trabalhadores invisíveis, cuja contribuição é muitas vezes subestimada ou ignorada. A realidade por trás da tecnologia é que, em vez de uma autonomia pura e imaculada, temos um processo onde o trabalho humano continua a desempenhar um papel crucial. A consciência dessa dinâmica é vital para uma compreensão mais completa da inteligência artificial e para assegurar que o progresso tecnológico não ofusque a importância e o reconhecimento de quem está por trás desse desenvolvimento. A próxima etapa no avanço da IA deve, portanto, incluir uma reflexão ética e uma valorização justa dos indivíduos que sustentam essa era de inovação. 

Texto publicado em parceria com o Estratégia Latino-Americana de Inteligência Artificial (ELA-IA)

Clique aqui e acesse a matéria completa