IA não tem tesão
E o porquê de manter isso em mente
Seja bem-vinde a mais um texto da newsletter Ovelha Azul - um reflexo (praticamente) quinzenal das vozes da minha cabeça.
0. Mais uma vez aqui de novo novamente
Eu já falei sobre inteligência artificial. Falei sobre os aspectos técnicos e sociais da IA generativa, falei sobre o dilema moral de responsabilidade, falei sobre o mito da neutralidade da máquina. Falei sobre aspectos dos algoritmos nas redes, que também são uma forma de machine learning e inteligência artificial. Mas cá estou eu, de novo, me preparando para escrever sobre o assunto.
É uma tarefa difícil fazer uma elaboração crítica sobre IA generativa porque você facilmente cai na imagem de Cássia Eller na passeata contra a guitarra elétrica (isso é um meme de um evento que jamais aconteceu mas eu não consigo superar a ideia kkk). Ou, quem sabe, te colocam na leva de pessoas que não sabem lidar com o progresso. Alarmistas. Ludistas modernos. Não ajuda muito também o delírio de que o maior perigo da inteligência artificial é ela tomar consciência e se revoltar contra a humanidade à la distopia ou ficção científica. O problema, meus amigues, não é a matrix.
Tenho perfeita ciência do título sensacionalista, mas já que me sinto obrigada a falar de IA mais uma vez eu vou pelo menos me divertir um pouco kkk Brincadeiras a parte, esse texto se tornou uma coleção de pensamentos recortados, porque eu tinha coisa demais a dizer e ao mesmo tempo pouquíssima disposição para elaborar tudo em um único raciocínio coeso.
Diferente de IAs, eu tenho contas a pagar e muita preguiça. Espero que isso não tenha interferido muito na qualidade do raciocínio, mas desculpem qualquer coisa.
I. A realidade técnica
Primeiro, vamos dar nome correto aos bois: LLMs são large language models, modelos de machine learning treinados com bancos de dados gigantescos para responder em linguagem que mimetiza a humana. O uso da palavra “inteligência” pro nome é uma escolha também de marketing - pensando que inteligência é fruto de um processo evolutivo complexo e o que LLMs fazem, apesar de impressionante, é um movimento algoritmizado e dentro de um padrão. Eles são nada mais do que papagaios estocásticos.
Em seu formato atual, LLMs dependem de bancos de dados gigantescos para treinamento. É inescapável. Esses bancos simplesmente não têm como ser construídos com domínio público sem criar um viés na base, então a solução é plágio descarado. A Meta baixou mais de 81 terabites de livros pirateados via torrent. OITENTA E UM TERABITES, POR TORRENT. A OpenAI teve um whistleblower (aquele funcionário que saem da empresa e denunciam as práticas bizarras) que alegou que a dimensão de pirataria e roubos de direitos autorais vai pra outro nível do que imaginamos, mas ele misteriosamente se matou. O Xuitter foi vendido pelo Musk para ele mesmo para a xAI, que vai focar naquele LLM caricato chamada Grok e vai usar os tweets dos usuários para alimentar a parada. A Wikimedia (da Wikipédia) começou a ter problemas de capacidade de servidor por causa da quantidade de robôs consumindo artigos e baixando imagens e vídeos para treinar LLMs.
Praticamente todas as plataformas entraram na corrida de desenvolvimento de LLMs, portanto todo conteúdo que você produz - incluindo no word e no substack - está sujeito a ser usado para treinamento de modelos. A maioria desses aplicativos não têm opção de não entregar dados, e os que têm costumam ter um caminho cheio de atrito para você recusar a configuração (no Instagram, tive que enviar um formulário de justificativa para a empresa). É o seu rosto, sua voz, suas imagens, seus escritos, servindo para alimentar LLMs de empresas privadas, que ganham dinheiro com isso.
Para fechar esse olhar técnico, tem a questão ambiental. LLMs gastam energia e água pra cacete. Não tenho muito mais a elaborar nessa parte
II. Exploração de trabalho e conteudização da vida
LLMs são um desenvolvimento técnico e por definição então poderiam ter impactos positivos e negativos. Eu não discordo disso, tá? Porém, a realidade da parte mainstream dessa tecnologia é que ela nasceu de um mercado altamente especulativo, que explorou trabalho criativo de artistas e não-artistas sem pagar um centavo para ninguém. Eles até levantaram essa bola de remuneração no futuro, mas de um modo meio difuso e inconcreto. Eu quero reforçar o que já comecei a falar na edição passada: o que a gente tem feito na internet é trabalho não pago. Nossa produção de dados de comportamento monetizável e principalmente nossa produção gratuita de conteúdo é trabalho não pago. A exploração desse trabalho passa para um novo nível quando a gente fala de LLMs. Aí fica fácil de entender a razão de tanto artista estar puto, né? Uma profissão já precarizada começa a sofrer ataques ainda mais diretos de corporações gigantes: seu trabalho é usado sem permissão para treinar o software que vai te substituir no mercado por um preço bem mais barato.
Começa a entrar uma questão aí também sobre o que é arte. No estado atual das coisas, em que consumimos conteúdo de forma ininterrupta, se tornou pouquíssimo relevante quem está por trás das imagens e vídeos que a gente curte. Desde que tenham coisas novas pra nos manter ali, engajados, pouco importa se foi um robô ou um ser humano. Estamos alienados do processo de produção e completamente dessensibilizados com o real custo do trabalho artístico. Isso não é sobre a qualidade estética de algo cuspido por um LLM, é sobre nossa relação atual com imagens e estética.
Afinal, produzir e consumir conteúdo viraram um fins em si mesmos, o que por si só já devia ser um pouco assustador. LLMs permitem que pessoas que querem tirar vantagem da possibilidade de monetizar conteúdo em escala na internet nadem de braçada: AI slops, content farms, o céu é o limite. Você cria uma fábrica de conteúdo usando só LLMs, enche as redes de todo mundo de coisa duvidosa, e ganha dinheiro com isso.
Sem considerar a discussão artística, eu acho inegável o ganho de eficiência para várias coisas. Vamos criar um cenário hipotético em que trabalhadores como jornalistas, escritores, tradutores, artistas visuais, designers etc terão seus postos preservados, mas esses LLMs são super úteis para coisinhas do dia a dia tipo e-mail e tals. Além de eu não acreditar nesse cenário hipotético, entra a questão: “Agora eu respondo 2365283 e-mails na semana em vez de apenas 783!! “ - por que a gente tá com tanta pressa? Para que? A troco de que?
Onde a gente devia estar querendo aplicar essa lógica de eficiência? A gente precisa de um escritor rápido de e-mails e planilhas ou, na real, de uma jornada digna de trabalho, com menos horas?
III. Ecos no vazio
Aparentemente rodou por aí que LLM é apenas uma ferramenta que pode possibilitar democratização da arte. Eu pessoalmente não vi ninguém falando isso, só gente reagindo, mas acho que vale passar por isso. Entremos de novo na questão do que é arte: você realmente sempre quis pintar como o studio ghibli mas não tinha acesso às ferramentas, ou você tá na onda de consumo de conteúdo ultraprocessado? A gente precisa da “arte mais acessível” com robôs, ou nossa batalha deveria ser por tempo/dinheiro/paz de espírito para poder ter passatempos e aprender a fazer coisas com as mãos, a olhar arte como algo além do formato de conteúdo?
Gostaria que a gente lembrasse que robô nenhum sentiu o sol na pele. Ele nunca se perdeu nos olhos de alguém. Ele nunca enfrentou constrangimento, medo, síndrome de impostor. Ela nunca começou algo novo, ou teve frio na barriga. Ela nunca iniciou um projeto e por meio dos erros e tropeços do processo encontrou algo novo e interessante. Ela não tem trauma com família ou desenvolvimento pessoal. Ela não tem contradições internas, nem a melancolia de saber que um dia vai morrer. IA não tem tesão.
Um LLM não vive experiências e portanto não produz coisas novas a partir do mundo. Ele não tem noção de verdade e mentira, só de probabilidade. É uma máquina que regurgita respostas prováveis e que no ritmo que está andando a internet vai está povoada com o provável, o médio. Não necessariamente o real, que fiquei claro, porque LLMs produzem respostas prováveis que também são falsas. E logo menos esses modelos vão estar se alimentando com as criações uns dos outros - e já posso te adiantar que os resultados não são muito incríveis. É tipo uma câmara de eco em que o eco fica ressoando sozinho sendo que a pessoa que gritou já foi embora faz tempo.
Talvez com os prompts certos alguém gere um livro de qualidade, um texto bom, uma imagem esteticamente bonita. Ainda assim, tirar esses resultados do contexto é um processo de alienação de produção que machuca todos nós. Estamos na fase inicial - de lutar por regulação. Pode acabar virando ferramenta normalizada e interessante, mas a gente tem que agir criticamente antes que a coisa já esteja incorporada na vida cotidiana.
Estão pondo LLMs pra fazer a parte legal da vida, enquanto seguimos trabalhando. Não era pra ser só uma ferramenta?? Confusa demais.
IV. Reação prática
Um dos problemas de fazermos conteúdo em massa com LLMs nessas trends que surgem por aí é a normalização desses modelos no nosso dia a dia. Isso beneficia as empresas: esse mercado ainda está sem nenhuma regulação, mas segue crescendo. Essa ideia de que as coisas vão se regular sozinhas, de que progresso técnico é linear e de que isso é tempestade em um copo d’água beneficia as grandes corporações de tecnologia - aquelas mesmas, a Meta, a Alphabet, a OpenAI, o ELON MUSK, a Amazon. São eles, e não nós, que ganham com a internet sem lei e desenvolvimento técnico sem senso crítico dos impactos socioeconômicos.
A pergunta fundamental é: como essas empresas vão escalar os lucros com LLMs? Só por assinaturas pagas, ou vai haver algo mais? Vale lembrar que bem no início redes sociais não tinham propagandas e os streamings como Netflix nasceram com a promessa de jamais ter comerciais. Plataformas têm uma lógica de crescimento que frequentemente envolve conseguir os usuários primeiro para só depois pensar na monetização em larga escala. Pensar em regulamentação do modelo de negócio nesse momento pode nos salvar de muita, MUITA dor de cabeça.
Enquanto Estados Nação, poderíamos tomar medidas bem reais de regulamentação e de preservação da liberdade cognitiva. É essencial começar no início, pra coisa não sair do controle - é só pensar em redes sociais. A gente tá aqui desesperado tentando fazer a coisa ser um pouco mais regulamentada. Está sendo difícil em todo lugar do mundo, porque eles já têm dinheiro e influência demais.
Enquanto usuários, poderíamos almejar uma internet que conecta e difunde, que estimula a pensar, em vez de uma avalanche de informação ultraprocessada sem o mínimo de contexto ou reflexão crítica. “Ah eu não me incomodo” - me diz, abre o seu celular e olha o seu tempo de tela: foi você que escolheu ficar tanto tempo assim no Instagram e similares, ou você só não viu o tempo passar?
V. Pensamentos finais
O nome LLM tira um pouco da mística da parada, né? Eu acho que facilita a discussão. “Eu faço terapia com inteligência artificial” - uau, temos que pensar se isso é viável! Os robôs vão substituir os humanos! “Eu faço terapia com um modelo estatístico LLM” Putz, talvez tenhamos que rever o acesso à saúde mental enquanto sociedade… Não nego que LLMs contribuem demais para avanços médicos, só reforçando. Estou falando do uso geral no mainstream, nesse momento, da forma que está se desenrolando no mercado, com um jeitinho de bolha de investimento.
E endereçando o elefante na sala, que é o bafafá em torno de LLMs tomarem consciência e acabar com a raça humana: estamos falando de um modelo estatístico, gente. Tem muito chão antes disso virar realmente termos uma possibilidade de superinteligência. Não é que é impossível, mas é que tem muito problema para dar para a sociedade antes disso, sabe? Foco.
É uma discussãoq ue aquece os ânimos. Eu entendo, porque meus ânimos estão devidamente aquecidos. Porém, quero deixar claro que por princípio não gosto de culpabilização individual de consumo. Meu ponto com esse texto é oferecer CONTEXTO, algo tão evitado nas discussões de internet. O ponto não é que você é uma pessoa horrível por ter usado um LLM, ou que fulano é anti-tecnologia e por isso reclama. O ponto é a conteudização da internet, a exploração de trabalho, e corporações gigantescas acumulando cifras bilionárias em cima de tudo isso. A gente precisa debater isso que nem gente grande para conseguir ter alguma possibilidade de organização contra isso.
Eu mencionei que progresso técnico não é linear, né? Essa ideia beneficia o mercado, no sentido de que toda inovação que eles inventam é enfiada goela abaixo como um progresso ‘natural’. Nada é natural nesse contexto: é desenvolvido o que é recebe financiamento, e é financiado o que consideram lucrativo ou interessante para o plano de negócio. LLMs podem ser uma inovação de ponta, mas também são a encarnação de um interesse comercial. Eu acredito que a gente precisa ter essa conversa coletivamente e reaprender a pensar essas questões. Pensar sobre o que a gente realmente quer com o futuro e escolher ativamente, em vez de esperar a nova inovação incrível que vão nos enfiar goela abaixo.
É isso que a gente quer? Uma internet povoada de conteúdo ultraprocessado de LLMs, a gente trabalhando de forma cada vez mais produtiva mas sem reduzir nem uma hora na jornada? LLMs não como ferramenta, mas como o centro da lógica de trabalho e produção?
A sensação que eu tenho é de que estão tentando nos reduzir a máquinas de trabalho e de consumo. IA não tem tesão, mas a gente tem, ou pelo menos deveria ter.
Ovelha recomenda
Eu acompanhava
no TikTok, e fiquei animadíssima quando descobri que ele tinha uma newsletter. O conteúdo fala sobre linguagem mas principalmente internet, e é de altíssima qualidade. Em inglês, mas eu recomendo fortemente se você gosta do meu tipo de conteúdo. Indiquei o último texto dele ali embaixo.Comecei a ver uma série no Max que se chama How to with John Wilson, que fica como algo entre documentário e video ensaio, com episódios de 30 minutos sobre temas variados - conversa fiada, andaimes, memória. Não achei o trailer legendado, mas no Max tá bonitinho em português.
Textos que me pegaram:
#271 Queria ser grande, mas desisti, da
O medo de envelhecer está me deixando pobre, da
E só pra não esquecer…
Meu livro de contos, Museu das Pequenas Falhas de Caráter, está à venda na Amazon!
Quer me seguir por aí?
Xwitter - @essabiamesmo
Instagram - @essabiamesmo
Medium - @essabiamesmo
Meus textos na Delirium Nerd
Labirintos Digitais, falando sobre internet
Muito bom, finalmente um pouco mais de conteúdo sobre esse assunto, parabéns !
a gente tá matando o tesão de viver (e criar de humano para humano)!