한 보안회사가 도로 속도제한 표지판에 테이프를 붙여 테슬라 차량 카메라를 속이고 과속을 유도했다.

해커는 2인치(약 5cm)크기 스티커로 여러 테슬라(Tesla) 자율주행 차량을 속여 시간당 50마일(약 시속 80km) 이상 초과 속도를 내도록했다. 연구원들은 운전자가 거의 알아차리지 못할 방식으로 도로 측면의 속도제한 표지판을 미묘하게 변경해 테슬라 차량 카메라 시스템 모빌아이 아이큐3(Mobileye EyeQ3)를 속였다.

MIT테크놀로지리뷰는 19일(현지시각) 사이버 보안업체 ‘멕아피(McAfee)’의 이번 시연을 단독 보도했다. 적대적 기계학습(adversarial machine learning )이 잠재적으로 자율 주행시스템을 손상시켜 기술 상용화에 보안 문제를 야기 할 수 있다는 최신 증거라는 주장이다.

멕아피 고등위험연구(Advanced Threat Research)팀에 따르면 Mobileye EyeQ3 카메라 시스템은 속도 제한 표지판을 읽고 그 정보를 테슬라 자동 크루즈 컨트롤 등 자율주행 시스템에 전달한다.

스티브 포보니(Steve Povolny) 등 연구원들은 제한속도 표시에 작은 스티커를 붙였다. 카메라는 35마일이 아닌 85로 속도 제한 표시를 오인했다. 테스트에서 2016 테슬라 모델X(Tesla Model X)와 그 해의 모델S( Model X )는 시속 85마일(약129km)로, 50마일 이상 기준 주행속도를 초과 인식했다. 연구에서는 안전을 위해 차량 속도를 50마일로 사전에 제한 했다.

18개월 동안 진행된 연구 과정에서 연구팀은 자율주행 차량이 정지 신호를 시속 45마일 제한 표지판으로 오독하게 한 미국 버클리 켈리포니아대(UC Berkeley) 다운 송(Dawn Song) 교수의 연구를 포함해 여러 기계학습 공격을 복제하고 확장했다.

작년에 해커들은 도로에 스티커를 붙이는 방식으로 차량의 기계학습 알고리즘을 조작하는 악의적 공격을 가해 테슬라가 잘못된 차선으로 향하도록 했다.

관련 연구는 지난해 테슬라와 모빌아이에 공개됐다. 테슬라는 이 연구를 인정했지만 해당 연도 모델의 하드웨어 업데이트는 불가능하다고 밝혔다. 멕아피 대변인은 35가 아니라 85로 수정된 표지판은 사람조차 속일 것이라며 이 연구를 무시했다.

이후 테슬라는 최신 모델에 독점 카메라를 채택했다. 모빌아이도 예비 테스트에서 이같은 정확도 공격에 취약하지 않은 몇 가지 새로운 버전의 카메라를 출시했다.

포보니는 “여전히 취약한 하드웨어로 운영되는 테슬라 차량이 상당수 있다”며 “기존 2016년 하드웨어 버전의 테슬라를 새로운 하드웨어로 업그레이드 할 수 없다”고 지적했다.

멕아피는 이번 연구가 발생 가능한 유형의 결함을 소비자와 벤더 모두에게 알리기 위한 노력의 일환이라고 밝혔다.

한편 이에 앞서 중국 IT기업 텐센트 산하 ‘킨 보안연구소’도 2016년부터 테슬라 해킹과 원격 조정을 테스트 해왔다.

지난해 킨 연구소는 컴퓨터 생성 이미지를 통해 모델 S의 자동 윈드실드 와이퍼를 조작했다. 또한 도로에 특정 표시를 해 오토파일럿 차선 유지 기능을 해킹하고 무선 게임 컨트롤러를 이용해 모델 S의 조향 장치를 제어하기도 했다.

당시 엘론 머스크(Elon Musk)는 소셜네트워크 트위터(twitter)를 통해 텐센트 ‘킨(Keen, 열심인이란 뜻)’ 연구소의 노력을 높이 평가했다.