Quando Dilemas Morais Cruzam o Caminho de Carros Autônomos

 

 

De São Paulo - SP.

 Está um dia lindo e ensolarado e você decide caminhar em Santa Teresa, um bairro tradicional do Rio de Janeiro.

De repente, você nota que um bondinho desce descontrolado pelos trilhos, sem freios e ganhando velocidade. Quando passa zunindo na sua frente, você percebe que há cinco passageiros em pânico dentro do bonde, desesperados e gritando por socorro.

Então, você nota que perto de você há uma manivela para desviar a rota e direcionar o bondinho para outros trilhos. Esses outros trilhos terminam numa grande caixa de areia onde o bonde será freado com segurança, perdendo velocidade até parar. Tudo que você precisa fazer é acionar a manivela para salvar os cinco passageiros.

Parece fácil, né? Mas há um problema. No meio dos trilhos que levam a caixa de areia tem um homem totalmente distraído, de costas para a cena dramática e que nada percebe.

Não há tempo para alertá-lo e você se vê diante de um dilema. Se você puxar a alavanca levando o bondinho a parar em segurança, salvará os cinco passageiros, mas o homem morrerá. O que você faz?

Considere outro dilema, muito semelhante. Você passeia em Santa Teresa e nota o bondinho descontrolado, só que dessa vez não tem nenhuma manivela para desviá-lo, nem caixa de areia para frear o trenzinho.

Mas tem um homem enorme ao seu lado, entre você e os trilhos. Ele é grande o bastante para fazer o bondinho parar. Você pode salvar os cinco passageiros se empurrar o grandalhão para cima dos trilhos, o que fará o bondinho descontrolado parar. Só que nesse caso, você matará o homem ao usá-lo para parar o bondinho. Novamente, o que você faz?

Esses dois dilemas fazem parte do “trolley problem” (problema do bondinho, em tradução livre), um paradoxo moral formulado pela filósofa Britânica Philippa Foot em 1967 como parte de seu trabalho “Abortion and the Doctrine of Double Effect”, publicado no Oxford Review.

Longe de resolvido, o “trolley problem” lançou uma onda de discussões filosóficas que continua em debate até hoje. O problema do bondinho é uma questão de moralidade humana e um exemplo de consequensialismo, uma visão filosófica.

O consequencialismo diz que a moralidade é definida pelas consequências de uma ação e tudo o que importa são as consequências. Mas exatamente, quais consequências são aceitáveis nos dois dilemas do problema do bondinho?

Numa análise superficial as consequências das duas ações são as mesmas: uma pessoa morre e cinco sobrevivem ou mais especificamente, nos dois exemplos, cinco pessoas vivem como resultado da morte de uma pessoa.

As soluções nos dois dilemas podem parecer justificáveis, no entanto, quando perguntada sobre qual das duas ações é admissível – puxar a alavanca ou empurrar o homem para cima dos trilhos - a maioria das pessoas diz que a primeira é aceitável e a segunda proibida. Isso revela uma distinção entre matar uma pessoa e deixar uma pessoa morrer.

Porque uma é errada e outra aceitável já que ambas resultam em morte? Se uma pessoa morre nos dois cenários e ambas as mortes resultam de uma ação direta que você tomou, qual seria a diferença entre as duas?

Essa questão de moralidade humana é extremamente improvável de acontecer na vida real, mas questões filosóficas como essa, mesmo que inverossímeis, têm implicações sobre a forma como as pessoas se comportam na sociedade, nos governos, na ciência, nas leis e até na guerra.

Essa discussão surge, agora, no debate sobre o comportamento de carros autônomos. E se um carro autônomo se deparar com uma situação em que pode passar por cima de cinco pedestres e salvar seus dois passageiros ou então, evitar os pedestres salvando suas vidas e se chocar contra um muro de concreto, matando os dois passageiros?

O Media Lab, do MIT, traçou diversos cenários para simular a direção dos carros autônomos, a partir de questões como essa. Num cruzamento, matar três velhinhos e duas velhinhas que estão legitimamente atravessando a rua na faixa e com o sinal verde para os pedestres ou matar um casal com dois meninos e um bebê que estão atravessando com o sinal vermelho para eles?

GUIA RUIM

O "Trolley problem” não é um bom guia para ajudar a desenhar os algoritmos que literalmente dirigem os carros autônomos. Ao menos num futuro próximo, os carros não serão capazes de distinguir se a pessoa no cruzamento é um devoto religioso ou um assassino cruel. Não saberão se a loja de doces à esquerda está vazia ou realizando uma festa infantil. Nem conseguirão dizer se uma mãe empurrando um carrinho de bebê está prestes a surgir por detrás de um carro estacionado.

Mesmo que disponham de maior quantidade de dados e informações  de qualidade, não há “big data” que ajude os carros autônomos (ou os algoritmos que os guiam) a serem capazes de fazer melhores escolhas morais nas emergências.

O máximo que a nova tecnologia que guia os carros autônomos consegue fazer é não deixar que uma distração do motorista ou uma reação impulsiva ao dirigir, leve a um desastre quando algo inesperado se colocar no caminho do veículo.Na melhor das hipóteses a IA (Inteligência Artificial) nos carros autônomos pode nos ajudar evitando as fraquezas humanas – como a tentação de atender o celular quando esse toca, a propensão a fazer algo errado quando ficamos com raiva ao volante, a tendência a colar na traseira do carro a nossa frente ou a frear bruscamente quando nos assustamos.
 
Mas os algoritmos, certamente, não tem superpoderes capazes de resolver os dilemas morais como o “trolley problem”.
 
GUIA BOM

Os profissionais que trabalham no setor de saúde se deparam com escolhas difíceis muito parecidas com essa. 

Um paramédico confrontado com duas vítimas de um acidente automobilístico e que estão em estado crítico, precisa decidir na própria cena do desastre, quem deve ser tratado primeiro.

Quando a ANVISA - Agencia Nacional de Vigilância Sanitária aprova ou rejeita um novo medicamento, está efetivamente decidindo sobre quem viverá por mais tempo e quem não terá essa chance. 

O Ministério da Saúde precisa decidir onde alocará os recursos, sempre escassos. Os fundos públicos serão direcionados para uma pesquisa sobre novos remédios contra o câncer ou para equipamentos como ambulâncias e resgate?


Todas essas escolhas são menos terríveis do que aquela envolvida no problema do bondinho. Em nossas vidas mundanas nossos dilemas morais nem sempre envolvem escolhas como matar uma pessoa para salvar cinco, mas não é por isso que as escolhas que temos que fazer sejam simples e triviais.

Num estudo recente, o Professor Assistente do Departamento de Ciências Psicológicas, Cognitivas e Linguísticas da Brown University, Amitai Shenhav e seus colegas, descreveram como escolhas banais podem causar tanta ansiedade quanto ter que decidir entre alternativas de grande importância.

Devemos deixar na mão um colega de trabalho que está nos pedindo para tomar um drink para discutir um problema sério ou deixamos a namorada que está preparando um jantar especial essa noite, esperar?

Você deve dar mais uma chance a um subordinado com baixo desempenho ou demiti-lo, sabendo que não vai ser fácil para ele encontrar outro emprego?

Frequentemente enfrentamos situações parecidas como essa acima: somos forçados a escolher entre alternativas com resultados em que ninguém ganha. Exatamente como no problema do bondinho.

Diferentemente da tomada de decisões irracionais, onde pelo menos existe uma resposta racional que pode servir de parâmetro para comparação, os dilemas éticos nunca possuem uma resposta correta e óbvia.

Não há empurrãozinho, nem truque de economia comportamental ou inteligência artificial que possa nos ajudar a fazer a escolha certa.

O melhor que podemos fazer é estar cientes desses dilemas morais.

O “trolley problem”, que completa 50 anos agora em 2017, ainda pode ser um bom guia para nos ajudar a entender a complexidade dos dilemas humanos e nos fazer perceber as limitações de nossa “simples” intuição moral.

Perceber as limitações de nossos instintos morais não vai ajudar os algoritmos a tomar melhores decisões em nosso nome, quem sabe, pelos próximos 50 anos.

Poupar para a previdência não é um dilema moral. É um problema de decisão racional. Então, o que isso tudo tem a ver com previdência complementar?

Bem, a correlação é muito simples. Quando você poupa para a aposentadoria, você está sacrificando um pouquinho do seu presente para salvar o seu futuro. Aqui ninguém morre, mas alguém se salva: você salva você mesmo.

Fácil? Infelizmente, não! Se você não poupar para a aposentadoria, no final da vida, verá que o problema ficará tão difícil de resolver como o problema do bondinho ...

 

Grande abraço,
Eder.

Fonte: Adaptado dos artigos “Inescapable philosophy?“, escrito por Koen Smets e “How the Trolley Problem Works”, escrito por Josh Clark.
Crédito de Imagem: Osmar Calixto, Canal no Youtube.