Um experimento mental que acho que ajuda a explicar grande parte do que deu errado com a IA e o trabalho:
Imagine um universo alternativo onde — por qualquer motivo — ninguém nunca publicou código-fonte online. O movimento open source, ou mesmo o conceito de software livre, não existia. Naturalmente, os LLMs não seriam bons em programação, porque não teriam sido treinados em vastos conjuntos de dados de código.
O que este universo alternativo tem, assim como o nosso universo real, são binários de software públicos — dezenas de petabytes, uma escala vastamente maior que a dos datasets de treinamento dos LLMs de fronteira atuais. Então, em algum ponto da escalabilidade desses LLMs, imagine que eles começam a se tornar bons em produzir aplicações completas e funcionais a partir de especificações — mas pulando completamente a etapa de geração de código-fonte. O software gerado por IA seria ruim, deselegante e inseguro, mas as empresas de IA prometeriam constantemente que o próximo modelo maior resolveria tudo.
Neste universo, LLMs geradores de software competem diretamente com engenheiros de software. Binários não são legíveis por humanos. São igualmente inescrutáveis para engenheiros de software e para pessoas não técnicas. Com o tempo, uma fração crescente do software seria "produzida no feeling" (não "programada no feeling" — não há código nenhum!). Não é tão bom quanto o software feito por humanos, mas é gratuito para gerar! Como não existe código-fonte, ter um engenheiro de software envolvido no processo não agrega nada (a não ser custo). Mesmo que o software gerado por IA crie nova demanda por trabalho devido às suas limitações, ela não exige engenheiros de software bem pagos e pode ser tratada por trabalhadores de menor qualificação (talvez apenas gritando repetidamente para o LLM não cometer erros).
Em suma, a autoria humana e a geração por IA são duas maneiras paralelas de chegar ao mesmo resultado. Engenheiros de software e IA são substitutos, não complementares. A IA não ajuda engenheiros de software a amplificar suas habilidades, e engenheiros de software não trazem nenhuma habilidade para supervisionar a IA de forma mais eficaz do que não-engenheiros. Neste mundo, a IA seria alienante e aterrorizante para engenheiros de software.
Você provavelmente sabe onde quero chegar. Na nossa linha do tempo real, artistas e muitos outros profissionais experenciam a IA de uma forma que se assemelha a essa distopia. Em muitos domínios que não são de software, os produtos acabados dos esforços criativos humanos estão prontamente disponíveis para treinamento, mas quase nada do que é usado para criá-los. Portanto, as ferramentas de IA não ajudam muito durante o processo criativo. Elas meramente imitam e substituem.
Um resultado diferente é possível. A visão positiva que não é amplamente apreciada fora do mundo tech é que os agentes de programação deram superpoderes aos engenheiros de software. Trabalhamos junto com nossos agentes; softwares complexos são produzidos ao longo de milhares de turnos alternados entre humano e agente. A narrativa de que agentes de programação estão substituindo engenheiros tem se mostrado, até agora, furada. A experiência vivida de usar agentes se aproxima muito da metáfora da serra de bancada de Simon Willison ("Parar de programar como carreira agora por causa dos LLMs seria como parar de ser carpinteiro como carreira graças à invenção da serra de bancada."). A barreira para começar a trabalhar com uma nova linguagem de programação, framework ou base de código caiu cem vezes porque os agentes de programação também são agentes de ensino (desenvolvedores de software usam agentes para entender código com mais frequência do que para gerá-lo).
O software e a cultura open source são um acidente histórico. Achamos natural que não apenas as saídas do trabalho criativo dos engenheiros de software estejam disponíveis publicamente, mas também todas as etapas intermediárias (especificações, planos, protótipos), o conhecimento tácito (StackOverflow, cultura de documentação), rastros detalhados de processo (issues, pull requests, correções de bugs, revisões de código), registros de colaboração (controle de versão, quadros de projeto) e, de forma mais ampla, uma cultura de aprendizado em público. Esse nível de descrição explícita seria completamente estranho na maioria das profissões.
Muitas empresas estão investindo pesado em capturar conhecimento tácito, rastros de processo e outros componentes desse "meio-termo ausente". Ironicamente, elas fazem isso na busca por ainda mais automação. Minha tese, contrária ao que parece ser o senso comum e a todo o dinheiro sendo investido, é que essa onda de IA pode, em última análise, ser mais útil para aumentar a capacidade dos trabalhadores do que para automatizá-los. Com os suportes certos, modelos treinados para entender profundamente como os trabalhadores criativos chegam aos seus resultados serão capazes de colaborar com eles, empoderando-os e amplificando seu potencial. Se a indústria reconhecesse isso, seria uma grande vitória tanto econômica quanto politicamente.
