Carros autônomos são programados por pessoas e cada uma tem o seu conceito de como tratar as situações do dia-a-dia.
A indústria automotiva é um dos ramos mais complexos para se trabalhar com tecnologia. Os softwares que atualmente gerenciam o funcionamento de um veículo são desenvolvidos para sistemas de tempo real, o que por si já é uma tarefa para poucos.
Além disso, mesmo que falhem, eles têm que se recuperar e não podem parar o funcionamento de um veículo em pleno uso, principalmente quando há sistemas diretamente envolvidos com a segurança da utilização, como direção elétrica, freios ABS e controle de estabilidade.
Mas há um problema: seres humanos. Pessoas cometem erros, tomam decisões erradas e comumente são imprudentes e mesmo respeitando todas as leis de trânsito, basta uma música ruim no rádio para que toda a atenção saia da estrada e vá para o botão de pular música.
São segundos de prioridade errada perfeitos para que uma tragédia aconteça. Dessa forma, mesmo um software perfeito gerenciando os freios não evitará um acidente.
Nesse sentido, os carros autônomos são uma bênção para muitos. É a possibilidade de ter mais conforto, segurança e qualidade de vida. É a chance de muitos se tornarem mais produtivos porque o tempo no trânsito pode ser aproveitado em atividades diversas.
Também se trata de uma garantia, porque tirando os humanos da equação, não haverá infrações de trânsito e decisões serão tomadas sempre em conjunto, levando em consideração todos os outros carros autônomos (ou não) em volta, o clima, a condição da pavimentação, os dados de GPS, obras na via e por aí vai. Será mesmo a solução dos problemas?
Nem tudo são flores com carros autônomos.
A primeira coisa que precisamos entender é: humanos nunca sairão da equação. Podemos tirar os condutores, mas os carros serão conduzidos por softwares que foram criados por humanos.
Lembram do exemplo da música ruim? Basta o programador sair para tomar café e esquecer que estava numa cadeia condicional e pronto, ao invés de virar para a esquerda no cruzamento, o carro vira para a direita e pessoas morrem.
Imagine o cenário: você é um pesquisador e foi convidado para palestrar em um congresso que acontecerá na cidade vizinha da sua residência.
Para fazer uma última revisão nos slides da apresentação e treinar novamente as suas pausas dramáticas, você decide deixar o seu carro no modo autônomo para dirigir até o local do congresso e coloca a sua atenção no PowerPoint na tela do seu Surface.
Afinal, a viagem será demorada devido à distância e o caminho necessário e esse tempo é mais bem aproveitado revisando o conteúdo.
O caminho consiste em cruzar uma serra, onde a via tem apenas duas pistas, cada uma em sentido contrário à outra, divididas por uma singela faixa dupla amarela pintada no chão com sinalizadores reflexivos de luz.
Próximo do topo dessa serra, do seu lado direito há um mirante onde famílias que estão passeando param seus carros para aproveitar o visual magnífico daquele lugar. O dia está claro, a manhã ainda está na metade, a luz está perfeita para uma fotografia.
Há alguns carros estacionados lá e crianças brincam sob a tutela de pais distraídos com a beleza local. No sentido contrário descem carros que, devido a boa visibilidade e tempo firme, estão no limite de velocidade da via, tudo perfeitamente dentro do que rege a lei de trânsito.
O software que gerencia a condução do seu veículo não tem dificuldade alguma em manter a velocidade máxima permitida porque as variáveis são todas favoráveis para isso.
Você mesmo, está tão tranquilo com a viagem que pouco dá atenção à beleza do dia e está se aproximando desse mirante, porém com pouco interesse porque está na parte mais importante da sua apresentação e não quer que nenhum erro passe.
O que ninguém contava é que uma criança, que sem a supervisão devida dos seus pais, está por trás de outro veículo estacionado no mirante e se dirige perigosamente em direção à via.
Ao sair de trás do veículo parado ela já está em cima da via, na frente do seu carro autoguiado, que como não detectou a presença dela antes porque estava atrás de um obstáculo, não tem tempo e nem espaço suficiente para forçar a parada do veículo.
No sentido contrário desce um ônibus lotado que mesmo respeitando o limite de velocidade tem a gravidade e a inércia jogando contra o impulso de parada. Há algumas opções:
- Frear o veículo o máximo possível para que o atropelamento aconteça com o menor impacto possível, ainda assim com danos extensos e risco de morte à criança;
- Desviar da criança colocando o carro na pista de sentido contrário e bater de frente, onde você e os ocupantes do ônibus serão seriamente afetados com risco alto de mortes;
- Simplesmente mudar o curso do veículo, tirando ele da estrada e jogando desfiladeiro abaixo, onde você morre.
Então, como faz?
Pergunta difícil de responder. O impulso natural seria afirmar que a prioridade de viver é de quem tem maior probabilidade de mais anos de vida com qualidade, mas não é tão simples.
O menor dano colateral nesse cenário e considerando essa afirmação, seria o carro autônomo decidir te matar se jogando do penhasco. Pausa para o leitor refletir.
Refletiu? Então vamos colocar uma lenha a mais na fogueira: E se, você que foi convidado para o congresso, for um cientista proeminente, possível candidato a um Prêmio Nobel pelo seu trabalho na pesquisa da cura definitiva do câncer em qualquer estágio, sem sequela e com garantia de qualidade de vida?
Sua pesquisa sem a sua supervisão pode atrasar em pelo menos 20 anos e, quando concluída, poderia salvar a vida de alguns milhões de pessoas em pouco tempo. O carro autônomo decidir te matar e impedir a cura de milhões de pessoas nos próximos 20 anos é a melhor opção?
O desenvolvedor que escreveu software para sistemas de freios ABS nunca precisou se perguntar se deveria desligar o sistema em algum caso específico. Ele tem que programar os freios para que eles sejam efetivos em qualquer momento de acionamento e fim de conversa.
Porém, o desenvolvedor de um sistema autoguiado precisa decidir quem vive e quem morre em uma situação crítica. Em contrapartida, nenhum humano no mesmo cenário seria mais efetivo, mas com total certeza não pensaria em se jogar do penhasco para evitar atropelar alguém. O instinto de autopreservação fala mais alto.
De quem é a responsabilidade com carros autônomos?
Baixando um pouco a criticidade da situação, digamos que seja possível garantir que o atropelamento não seja fatal, então o carro autônomo decidiu que a criança seria a vítima desse acidente.
A responsabilidade é do dono do carro autônomo, que diga-se, nem estava dirigindo, da montadora do veículo ou do desenvolvedor que programou o carro para agir daquela forma naquela situação?
Fica claro, pelo menos para mim, que ainda há muitas pontas soltas e que o foco das empresas está no caminho errado. Todas tentam vender a ideia que estão trabalhando no sistema que permitira que os carros não tenham volantes, mas um carro que não tem volante não tem condutor e sem condutor, o carro é o responsável pelos possíveis acidentes que acontecerão?
Quando uma morte for oriunda de um bug no software, o desenvolvedor é que será punido? Há uma margem muito grande aqui e uma padronização através de convenções com validade mundial precisa ser discutida.
Então carros autônomos não são seguros?
Sim, eles são, mas a segurança deles está nas situações cotidianas controladas, ou seja, na estatística. Quando a situação for crítica, a decisão sempre será de um humano, seja ele atrás do volante conduzindo o carro ou atrás do teclado, escrevendo o software que conduz o veículo, então nem sempre os carros autônomos serão seguros para o ocupante.
A tendência é que o número de acidentes causados porque o condutor se distraiu ao trocar a música reduza a zero, mas ainda teremos um caminho muito longo para decidir qual será o melhor cenário quando o acidente for inevitável.
E, agora eu pergunto ao leitor: você entregaria a decisão da sua vida ou morte para uma pessoa que você não conhece, mesmo que a decisão da sua morte seja a mais acertada?
A discussão não está nos holofotes porque ninguém, em sã consciência, compraria ou usaria um carro que vem com um aviso “este veículo pode, em situações críticas, escolher, baseado nas variáveis no momento, preservar a vida de terceiros e isso pode acarretar risco de morte para os ocupantes” e as montadoras sabem disso. Talvez, para não afetar as vendas, as montadoras decidam que a prioridade sempre será o ocupante do veículo, independe do cenário, seguindo a mesma regra da autopreservação.
Enquanto não existir um consenso e divulgação clara sobre isso, continuo conduzindo meu carro, respeitando as leis de trânsito e deixando o comando do rádio do carro para a minha esposa.
Deixe a sua opinião ou comentário abaixo. Além disso, não se esqueça de entrar no nosso grupo do Telegram. É só clicar na imagem azul que está abaixo!
Comentários