Inteligência Orgânica
Sobre a humanidade (e um pouco sobre IA também, já que estamos aqui)
Seja bem-vinde a mais um texto da newsletter Ovelha Azul - um reflexo quinzenal das vozes da minha cabeça.
I.a
Quando eu era criança, perguntei pra minha mãe se um bebê nascia sabendo o que era céu, sol, árvore, ou se precisava aprender tudo. Ela me respondeu que precisava ensinar, que as pessoas nascem sem saber falar uma palavra. Lembro de ficar consternada com a informação, porque eu sabia tão pouco e já não conseguia conceber o trabalho que foi aprender tudo aquilo do zero.
I.b
Large Language Model (LLM) se traduz literalmente para “modelo grande de linguagem”, mas talvez “extenso” seja um adjetivo melhor. Um LLM é um modelo de machine learning que compreende e gera textos em idiomas humanos. Para funcionar, eles precisam analisar bases de dados massivas (tipo a internet). As inteligências artificiais generativas que estão em voga no mercado - ChatGPT, Dall-E, Midjourney - são LLMs.
O modelo funciona a partir de estatística: você dá um insumo, como um pedido ou pergunta, e ele responde a partir de probabilidade. Não é uma busca simples dentro da sua base de dados, mas a produção de uma resposta nova depois de absover uma quantidade gigantesca de informação. A partir dos dados que conhece, a IA redige a resposta estatisticamente mais satisfatória.
Ou seja, uma inteligência artificial generativa não sabe que pessoas normalmente tem cinco dedos, ou que o céu é azul. Uma IA apenas calcula que essas são as respostas mais prováveis para as perguntas “qual a cor do céu” e “quantos dedos tem uma mão humana”.
II.a
Uma criança ouve uma palavra nova e testa usá-la em uma frase. Ela observa atenta o interlocutor, para saber se usou o termo novo do jeito certo. Às vezes sim, às vezes não. A partir da reação do outro, aprende.
No livro Coisas que os homens não entendem, Elvira Vigna descreve um dos personagens como alguém que fala observando o outro para entender o que ele mesmo falou. Alguém que diz algo em voz alta para buscar na reação do ouvinte o que aquilo significa.
O outro é essencial para desenvolver entendimento.
II.b
Papagaio estocástico é um termo que se popularizou para falar de LLMs: sistemas que usam relações estatísicas baseadas em dados para gerar textos que poderiam se passar por humanos, como um papagaio um pouco mais inteligente. “Estocástico” é algo relativo a processos estatísticos - papagaio estocástico é aquele que papagaia a humanidade a partir da probabilidade.
Como IAs não sabem, apenas calculam, tecnicamente, elas não mentem. Isso não as impede de criar informações falsas: LLMs não são dotados de autoconsciência para entender quando algo está fora de seu alcance. Chamamos de “alucinação” quando uma inteligência artificial gera uma resposta falsa - incapaz de reconhecer seus limites, ela calcula o texto mais provável, mesmo que as informações não sejam reais.
Não existiria a intenção de falsificar, apenas um LLM que alucinou.
III.a
Quando eu estava no primário, aprendi a fazer divisão com dois algarismos sozinha. Fiz a conta sem notar que eu ainda não sabia como funcionava, e deu certo. Por alguns minutos, foi um grande evento para os meus colegas e a professora.
Na vida adulta, não me tornei uma matemática extraordinária nem uma estudante superdotada.
III.b
“IA não é inteligência, e sim marketing para explorar trabalho humano”. O médico e neurocientista Miguel Nicolelis deu uma série de entrevistas ano passado, falando sobre a febre de IA generativas. Criticou duramente chamar LLMs de inteligência - uma realidade orgânica que é “resultado de milhões de anos de evolução, que não podem ser computados em código binário.”
Velocidade de operações e grandes números como “IAs já são dez vezes mais rápidas do que humanos” não teriam significado para além do mercado.
V.a
O livro “Roube como um Artista”, de Austin Kleon, se tornou uma bíblia para os interessados em fazer arte, mas não sabem muito bem como. Ele repete diversas vezes durante o seu raciocínio: referências. Construa um banco amplo e profundo de referências.
Roube como um artista.
V.b
LLMs, por causa da necessidade de uma base de dados massiva para serem treinados, trombaram em uma questão complexa de direitos autorais. Se uma IA generativa aprendeu a criar imagens, vídeos e textos sendo treinada com o que tem disponível na internet, sua capacidade foi construída em cima do trabalho não remunerado de outros criadores.
Por mais que o trabalho de um artista específico seja um milhonésimo do que construiu a capacidade de um Dall-E criar uma imagem, foi com milhões de milhonésimos não pagos que ele chegou onde está hoje. Apesar da OpenAI ter começado como uma empresa sem fins lucrativos, tanto o Bing (ferramenta da Microsoft baseada no chatGPT) quanto outras soluções de IA generativa geram lucros astronômicos.
VI.a
Foi com doze anos que li numa revista que se toda a população brasileira tomasse banhos de seis minutos em vez de onze, a economia de energia e água seria o suficiente para fechar algumas unidades de abastecimento sem nenhum prejuízo. Durante um ano eu importunei minha família para que reduzissem o tempo no chuveiro, e eu tomava banhos rápidos de cinco minutos nos quais eu desligava a água enquanto me ensaboava.
Meus banhos hoje duram uns quinze minutos.
VI.b
Inteligências artificiais generativas precisam de duas coisas: um banco de dados gigantesco, e energia. A previsão é que o custo energético para mantê-las funcionando vai aumentar cada vez mais.
Hoje, o processamento de dados dos LLMs equivale ao consumo de energia anual da França. Em 2026, estima-se que será necessário o gasto energético de “dois Brasis” para mantê-las funcionando.
VII.a
Meu futuro distópico envolve robôs e algoritmos produzindo, vendendo e comprando, e eu sentada assistindo o mercado acontecer. Minha função não está clara, mas tenho certeza de que eu não estaria curtindo férias.
Eu não quero ficar sentada assistindo o mercado acontecer.
VII.b
LLMs parecem fruto de ficção científica, mas são parte da nossa realidade atual. Discutem-se perigos que já vimos em filmes e livros: e se ela criar consciência? E se ela se rebelar? E se ela se otimizar a ponto de não precisar mais de seres humanos?
O futuro é um mistério, mas existe muito a ser discutido no presente. IA generativa é um elemento forte de precarização de trabalho, tanto na sua concepção - que precisa de revisores validando o machine learning inicial -, quanto pós implementção, com a pressão na cadeia produtiva. Cortes de funcionários e dependência de IA para criação ameaçam trabalhos ligados a texto, imagem, arte e design.
“Designer de prompt”, o especialista em fazer pedidos para LLM, é uma possível profissão do futuro.
VIII.a
No filme Ex Machina (2015), um jovem programador aceita o convite de um CEO bilionário para testar a inteligência artificial criada por ele. Ava é uma robô de rosto humano, e tem longas conversas com Caleb, o programador. Quando Caleb confronta Nathan, o CEO, sobre sua escolha de dar gênero e sexualidade para um ser sintético, segue esse diálogo:
Caleb: Por que você deu uma sexualidade a ela? Uma IA não precisa de gênero. Ela poderia ser uma caixa cinza.
Nathan: Não acho que isso é verdade. Você pode dar um exemplo de consciência, em qualquer nível, humana ou animal, que existe sem uma dimensão sexual?
Caleb: A sexualidade vem como uma necessidade evolutiva de reprodução.
Nathan: Que imperativo uma caixa cinza tem para interagir com outra caixa cinza? Consciência pode existir sem interação?
VIII.b
Arte é tema filosófico desde a antiguidade, um grande identificador do que é a experiência humana. Fala-se do sublime, da qualidade transcendente e espiritual da experiência artística. Nietzsche dizia que a arte é o que impede que a verdade nos destrua. A cultura engolida pela forma da indústria, a IA generativa produzindo texto, imagem e som: o que é arte agora? O que é a humanidade agora?
Em um mundo de IAs generativas e cultura industrializada, somos o que além de máquinas do mercado?
Ovelha recomenda
Casual Polar Bear é o codinome de Rokas Aleliunas, um ilustrador com estilo muito marcado e com conceitos maravilhosos. Emprestei da beleza dele pro texto!
Alex Garland é o cineasta responsável pelo genial Ex Machina (2015) e o mais recente Guerra Civil (2024) - recomendo ambos, muito! Ex Machina tem um triplex cativo na minha cabeça faz muito tempo.
Todo mundo tem mãe, Catarina é o primeiro romance da escritora
, com capítulos curtos e leitura que abraça. Escrito do ponto de vista de uma adolescente de 14 anos que está descobrindo sua sexualidade e história familiar.Orlando - Minha biografia política é um filme do filósofo Paul Preciado que mistura documentário, adaptação de Virginia Woolf e uma carta para autora em um longa delicioso sobre a vida além da binariedade de gênero
Textos que me pegaram por aí:
A arte está no processo, quadrinhos colab entre
eNão, de
E só pra não esquecer…
Meu livro de contos, Museu das Pequenas Falhas de Caráter, está à venda na editora Mondru!
Quer me seguir por aí?
Xwitter - @essabiamesmo
Instagram - @essabiamesmo
Medium - @essabiamesmo
Meus textos na Delirium Nerd
Labirintos Digitais, falando sobre internet
Papagaio Estocástico é um termo bem mais honesto para falar dessas ferramentas que estão sendo vendidas como inteligência artificial e que de inteligentes não tem nada! Tb deixariam as pessoas mais conscientes com o que estão lidando: um papagaio de probabilidades. Ótimo texto!