Sobre bondinhos e robôs
Responsabilidade em tempos esquisitos
Seja bem-vinde a mais um texto da newsletter Ovelha Azul - um reflexo (praticamente) quinzenal das vozes da minha cabeça.
O dilema do bondinho é um debate filosófico que ganhou uma nova proporção (esse link tem spoilers) depois da série The Good Place (esse é apenas um trailer). Basicamente, é um experimento mental sobre ética: um bondinho desgovernado segue rumo à colisão com um grupo de pessoas. Digamos que tem quatro desavisados nos trilhos, e você tem poder de mudar o curso do veículo com uma alavanca e jogá-lo para uma trilha alternativa, mas nessa trilha também tem uma pessoa - em alguns casos , essa pessoas é alguém importante pra você. Qual a escolha mais ética a ser feita?
Apesar de existirem versões do dilema, o cerne da questão é o mesmo - debater a “melhor” decisão dentro do cenário. Podemos adotar várias perspectivas e correntes filosóficas - salvar quatro vidas é maior do que apenas um, independente de quem seja; se eu não mexer na alavanca, eu me isento; etc. Tudo seria argumentável, e uma das ideias é entender como ética e responsabilidade dentro de um contexto extremo.
Não sei quanto tempo atrás e nem em que rede social (estou entre Twitter e Tumblr) que vi um comentário bem interessante sobre o assunto, então não vou poder dar créditos corretamente. O ponto de vista era: esse cenário pode gerar um debate interessante, mas quando pensamos em responsabilidade de fato, existem diversos fatores concretos para considerar. Pensando a engenharia de um bondinho, não existe a possibilidade de um erro sem um responsável. Se o bondinho é impossível de frear, essa falha é responsabilidade de alguém - fabricante, manutenção, etc. A Lei de Murphy - o que puder dar errado, vai dar errado - foi cunhada exatamente por um engenheiro da NASA. Se um erro ocorrer, ele devia ter sido previsto e evitado.
Ou seja, no mundo “real”, a pessoa pilotando o bondinho não seria o centro desse dilema ético-moral de responsabilidade. Existem outros responsáveis, fora desse cenário à vácuo.
Eu lembrei do dilema do bondinho enquanto lia uma excelente edição da newsletter
. A respondeu a uma pergunta extremamente complexa de um leitor, que falava sobre alternativas ao capitalismo, a natureza do homem e como pensar no futuro. O resultado foi o texto Capitalismo, Democracia e Outras Drogas, que recomendo demais que leiam.Eu lembrei da questão do bondinho e de responsabilidades porque, na pergunta, a pessoa toca no assunto de IA: se as pessoas são corruptíveis, será que inteligência artificial é uma alternativa para pensar em governo? A Vanessa responde muito em linha com o que penso - inteligência artificial é, no máximo uma instrumento, jamais uma forma de nos isentar de fazer escolhas.
A inteligência artificial é uma ferramenta, tal qual um martelo. Quem decide se vai martelar um prego ou a cabeça de uma pessoa é a mão que segura a ferramenta.
Por isso é tão importante falar de política. Ela define quem é cabeça, quem é prego e quem segura o martelo no final do dia.
A leitura me inspirou a ir mais longe nesse tema. Se todes concordarmos que qualquer tecnologia não passa de uma ferramenta, surge uma questão central. Se uma inteligência artificial ou uma automação comete um erro, de quem é a culpa?
No filme Eu, Robô (2004), Spooner (Will Smith) é um detetive encarregado de investigar a morte de um importante cientista e roboticista. Ela pode ter sido tanto um suicídio quanto um assassinato por um robô. O ano é 2035, robôs são parte do dia a dia humano, e Spooner é um dos poucos céticos com relação a eles. Mais para frente na história, entendemos que ele não confia neles porque quando sofreu um acidente de carro, um robô tomou a decisão de salvá-lo - e deixou morrer uma criança que estava no outro veículo.
Segundo Spooner, a decisão foi baseada em chance de sobrevivência, mas um humano saberia que a escolha “correta” seria salvar uma criança.
Entra a questão: inteligência artificial (e machine learning no geral) se baseia nas premissas iniciais de sua programação, e no banco de dados que é utilizado para alimentá-los. Como discutir responsabilidade com uma ferramenta como essa? Como não cair na armadilha de que uma entidade que fala como humano deveria ser responsabilizada como humano?
Se os dois fatores principais de uma IA são a sua programação e o banco de dados envolvido, essa inteligência artificial nada mais é do que o reflexo de quem a criou e dos dados que consumiu. Se o desejo é encontrar um olhar imparcial, sinto dizer que o que vamos ter no fim do dia é um belo espelho. Afinal, temos IAs malucas, racistas e tanto mais.
Eu já falei aqui que neutro é o sabão, e tudo que sai de um ser humano está imbuído de suas visões. Por isso que ciência tem revisão por pares, que filosofia tem caminhões de livros discutindo ética e moral, e inteligência artificial tem que estar no seu devido lugar de ferramenta (no máximo). Por isso que debater liberdade cognitiva e regulação de redes é essencial - foi o algoritmo que me deixou assim, mas quem construiu esse algoritmo?
O dilema do bondinho é um experimento mental, mas no mundo real uma engenheira, uma empresa, um mecânico estavam envolvidos na causa do acidente. No mundo real sempre vamos estar mergulhados na nossa humanidade, que é embaraçosamente moral, parcial, falha.
No mundo real precisamos lidar com nós mesmos e nossas responsabilidades, não importa o quão complexo e tecnológico esse mundo seja.
Ovelha recomenda
Assisti Priscilla (2023), da Sofia Coppola, no MUBI. É uma biografia da Priscilla Presley, esposa do Elvis (eles se conheceram quando ela tinha 14 e ele tinha 24 kkkry). Assisti Elvis (2022) ano passado e não gostei muito, porém amei Priscilla. Uma pena que a leva de filmes do Oscar tava fortíssima esse ano, senão certamente teria concorrido.
Eu gosto muito dos quadrinhos da Carol Ito e recentemente li Siriricas Tristes (2023), um apanhado de tirinhas que inclusive acompanhei na pandemia. Recomendo!
Meu livro de contos Museu das Pequenas Falhas de Caráter está disponível pela Mondru <3
Textos que tive o prazer de ler esses tempos:
O já citado e recomendado Capitalismo, Democracia e Outras Drogas, da
Sair do script, da
, que inclusive senti que conversou muito com meu último texto Quem sou eu??031 - Fimes da Minha Infância, do
Quer me seguir por aí?
Twitter - @essabiamesmo
Instagram - @essabiamesmo
Medium - @essabiamesmo
O projeto Labirintos Digitais
Meus textos na Delirium Nerd
Adorei a menção, obrigado. Muito interessante a sua reflexão. Acho que a primeira vez que ouvi falar no dilema do bondinho foi no curso Justiça, do Michael Sandel. As aulas em Harvard ainda devem estar em algum Youtube por aí, mas eu vi há bastante tempo e logo numa das primeiras havia a discussão desse dilema. E de fato é um falso dilema, com outras responsabilizações e pro qual não há resposta adequada. Mas acaba servindo para levantar debates, como, inclusive, você fez no post.
Não sei como, mas eu não assinava sua news. Corrigindo agora.
Muito bom seu texto, Bia! Eu já tinha alguns questionamentos que me intrigavam, agora vou adicionar os seus 😅