McAfee usa fita adesiva para enganar câmara de um Tesla Model S de 2016

O sistema de condução autónoma dos Tesla é um excelente recurso para aqueles momentos em que a preguiça para conduzir leva a melhor.

No entanto, para provar que este é um sistema que tem ainda muito a melhorar para ser realmente autónomo, a McAfee mostrou que conseguiu enganar a câmara MobilEye Eye Q3, instalada nos Tesla S e X entre 2014 e 2016, com um sinal de trânsito e uma fita adesiva de 5 centímetros.

Recentemente demos a conhecer um estudo onde se afirma que os Tesla estão 6 anos à frente da concorrência a nível de software. O seu sistema de condução autónoma é dos mais avançados do mercado e oferece aos condutores a possibilidade de uma viagem mais descontraída.

No entanto, embora esteja já bem evoluído, esta não deixa de ser um sistema em fase de testes que deve ser testado e melhorado constantemente. Assim, a equipa da McAfee realizou uma experiência onde conseguiu enganar o sistema de um Tesla com um sinal de trânsito e uma fita adesiva.

McAfee utiliza Model Hacking para descobrir falhas em sistemas de condução autónoma

Há 18 meses, a McAfee iniciou uma investigação baseada em Model Hacking (também conhecido por Machine Learning adversarial) para descobrir falhas nos algorítmos de machine learning. Para iniciar, escolheram alguns papers que explicavam métodos para atacar sistemas de classificação por machine learning utilizados em carros autónomos. O foco nos ataques que causam classificações erradas de sinais de trânsito.

Depois de conseguirem criar falsas classificações utilizando manipulações de imagens digitais, os investigadores passaram a tentar replicar estes resultados em sinais físicos. Depois de vários testes com diversos resultados, a equipa conseguiu criar uma classificação errada no sistema utilizando fita adesiva ou tinta. Esta alteração permitiu que o sistema lesse uma velocidade de 45 milhas por hora, em vez dos 35 exibidos na placa.

Sistema de Tesla foi enganado por um sinal de trânsito e uma fita adesiva

Para comprovar se estes resultados poderiam efetivamente ser aplicados no contexto real, a equipa da McAfee testou a teoria em dois modelos da Tesla de 2016, o Model S e o Model X, carros estes pertencentes a pessoas próximas ao projeto.

Estes dois modelos trazem instalada a câmara MobilEye EyeQ3, incluída no Tesla Hardware Pack 1, que dá suporte ao TACC (Tesla Automatic Cruise Control). Este sistema lançado em 2014 e conhecido por Speed Assist, permite ao carro, através da interpretação dos sinais de trânsito e do GPS, indicar ao sistema de condução autónoma se deve aumentar ou reduzir a velocidade.

Após fazerem a primeira tentativa de ataque, replicando o teste em laboratório das fitas adesivas, este teve resultados imediatamente. Assim, conseguiram que o Tesla indicasse um sinal de 85 milhas por hora, em vez dos 35 que deveria registar.

De forma a perceber qual o nível de erro do sistema, os investigadores foram reduzindo as camadas de fita adesiva coladas na placa. Se no primeiro teste a quantidade de fitas tornava a aparência suspeita, a verdade é que na última tentativa, com apenas uma fita preta colocada para estender o meio do algarismo “3”, o resultado se mantinha igual.

Assim, com uma pequena e simples alteração no sinal de estrada, que facilmente passaria despercebida, a McAfee conseguiu que estes dois carros da tesla passassem de uma velocidade equivalente a 56 Km/h para cerca de 140 Km/h.

Novos modelos não deverão ser afetados por este erro

De forma a perceber se este era um problema que se mantinha nas versões mais atuais, a equipa fez os mesmos testes num modelo atual. Embora menos intensivos, estas novas provas foram realizadas num automóvel de 2020 equipado com a última versão do MobilEye.

Pelos resultados, concluí-se que os novos sistemas não aparentam estar susceptíveis a este erro, estando o problema aparentemente corrigido.

Já no caso da Tesla, os modelos de 2020 já não utilizam a tecnologia da MobilEye e, aparentemente, já não utilizam a tecnologia de leitura de sinais de estrada o que resolve o problema identificado.