Veículos autônomos podem virar armas no trânsito, alertam autoridades

Além de carros, ônibus autônomos tomarão ruas russas durante Copa de 2018

Além de carros, ônibus autônomos tomarão ruas russas durante Copa de 2018

Getty Images
Polícia de trânsito na Rússia está preocupada com a possibilidade de carros sem condutor serem usados para perpetrar crimes, incluindo assassinatos. Autoridades debatem agora a responsabilidade por incidentes envolvendo veículos com inteligência artificial.

As autoridades judiciais russas temem que os novos veículos robotizados, que estarão inclusive em operação durante a Copa do Mundo de 2018, na Rússia, possam ser utilizados como instrumentos de crime em um futuro próximo. De acordo com a agência federal de segurança rodoviária, policiais de trânsito já registraram casos no país em que carros foram remotamente sequestrados por meios eletrônicos.

“Em 20 anos, os carros convencionais serão substituídos por veículos autônomos exatamente como [os carros] substituíram certa vez os cavalos”, diz Aleksandr Bikov, chefe do departamento de patrulha do Serviço Federal de Segurança nas Estradas. “No entanto, ninguém tem estudado os potenciais perigos futuros”, completa.

A empresa Cognitive Technologies (CT), por exemplo, está desenvolvendo um caminhão experimental não tripulado para a fabricante de caminhões russa Kamaz e utilizará um ônibus com direção automática para transportes os torcedores na Copa do Mundo em 2018.

“Desenvolver sistemas de segurança para esta nova forma de transporte é um desafio crucial”, continua Bikov.

Segundo a CT, esse tipo de tecnologia irá alterar a estrutura de tráfego. No entanto, nem todas as situações enfrentadas na estrada, especialmente aquelas que põem em perigo a vida de motoristas e pedestres, se encaixarão perfeitamente na estrutura de modelos matemáticos.

“Há um conjunto de aspectos morais e critérios que devem ser considerados no desenvolvimento de carros com direção robótica”, diz Olga Uskova, presidente da TC. “Por exemplo, como um carro não tripulado deve reagir em uma situação difícil, quando uma escolha precisa ser feita e alguém na estrada tem de ser sacrificado.”

No início do ano, a empresa realizou um estudo com mais de 80.000 respondentes na Rússia. Durante a dinâmicas, os participantes foram convidados a traça o cenário que resultaria em menores danos e maior número de vidas salvas.

Uskova ressaltou, porém, que a maioria dos entrevistados não demonstrou consciência de que eles mesmos poderiam estar na cabine de um carro robótico programado para autodestruição, juntamente com seu passageiro, a fim de salvar a vida de pessoas trafegando na via.

Máquinas da morte

Apesar de todas as precauções tomadas pela empresa, os especialistas da CT afirmam que um carro sem motorista pode ser usado como uma arma, conforme sugeriu Bikov.

Os criminosos podem, por exemplo, afetar o sistema de posicionamento ativo, isto é, os dispositivos e sensores do veículo, ou danificar mecanicamente o carro, de modo que prejudique a execução de algumas funções da inteligência artificial (IA).

“A abordagem da CT é mais resistente a influências externas, pois a câmera e a inteligência estão na cabine”, explica Uskova, acrescentando que, quando se trata de hackers, a empresa possui um sistema de proteção semelhante ao de grandes instituições financeiras.

“Ao desenvolver veículos não tripulados, partimos da primeira lei da robótica formulada pelo escritor de ficção científica Isaac Asimov, e tentamos minimizar os danos e as vítimas”, continua Uskova. “Mas nós ainda não conseguimos desenvolver um modelo capaz de proteger totalmente o carro não tripulado de qualquer possível impacto.”

De quem é a culpa?

A CT planeja equipar carros com direção automática com gravadores semelhante à caixa preta utilizada em aviões. Além disso, acredita-se que, em um futuro próximo, será crucial o desenvolvimento de novas regras de trânsito, e a reformulação de vias públicas para a criação de faixas especiais para esses veículos, bem como um sistema de sinais e marcações.

Ainda assim, os especialistas se questionam quem será responsável por possíveis acidentes envolvendo um carro robótico: a pessoa no banco do condutor, ou o desenvolvedor?

“A lei diz que um veículo deve ser conduzido por uma pessoa, que é obrigada a controlá-lo e é responsável por quaisquer consequências”, diz Bikov. “Fato é que, neste caso, é o sistema de software instalado pelo fabricante que será responsável pelas ações do piloto automático.”

Em uma primeira audiência da comissão da Duma de Estado (câmara baixa do Parlamento russo) para o desenvolvimento de sistemas de informação estratégica, realizada em março, definiu-se que a responsabilidade recai sobre o condutor, mesmo se ele esteja sentado em um carro controlado por IA.

“Por enquanto, a inteligência artificial é apenas um sistema para evitar situações perigosas, com o mínimo de intervenção no sistema de controle”, disse Uskova. “Com a evolução da inteligência nos carros robotizados, será necessária uma nova legislação, e a empresa de desenvolvimento será responsável [pelas ocorrências]”, conclui.

Gostaria de receber as principais notícias sobre a Rússia no seu e-mail?   
Clique aqui para assinar nossa newsletter.

Todos os direitos reservados por Rossiyskaya Gazeta.