테슬라(Tesla)는 자율 주행 프로그램 오토파일럿(Autopilot), 도조(Dojo) 등 신경망 기반 완전자율주행(Full Self-Driving, FSD) 제품군을 준비해왔다.

테슬라 CEO 엘론 머스크(Elon Musk)는 최근 세계 인공지능 가상회의에서 프로젝트 도조 활용 5단계 자율주행 도입에 대해 이야기했다. 머스크는 테슬라가 FSD 하드웨어3(Hardware 3)을 설계, 올해 말까지 FSD가 완료될 것이라고 밝힌 바 있다.

FSD 하드웨어3 준비 단계의 하나로 보이는 테슬라 특허가 공개됐다. ‘하드웨어 플랫폼에서 신경망 채택을 위한 시스템 및 방법(Systems and methods for adapting a neural network on a hardware platform)’이라는 특허가 7월 2일(현지시각) 출원됐다.

특허에서는 모든 제약 조건을 만족하는 신경망 모델 구성을 선택하기 위한 시스템 및 방법을 설명했다. 특허에 따르면, 제약은 주로 신경망 모델이 효율적으로 실행될 특정 플랫폼에 대한 유효한 구성과 이를 분류하기 위한 리스트 및 제약만족 해법을 계산하는 실제 사례를 포함한다.

신경망 모델은 입력 데이터를 쉽게 레이블 하거나 분류할 수 있기 때문에 다양한 문제에 점점 더 의존하고 있다. 다른 신경망은 다양한 상위 파라미터로 훈련된 다음 동일한 검증 훈련 세트를 분석하는 데 사용된다. 특정 신경망은 원하는 성능과 특정 응용 프로그램의 정확도 목표에 따라 향후 사용을 위해 선택된다.

기계학습(ML) 애플리케이션의 경우 때로는 이전에 구현되지 않은 플랫폼에서 신경망을 구성하는 것이 바람직할 수 있다. 그러나, 상이한 신경망이 하드웨어 구성 요소 및 소프트웨어와 같은 다른 요구 사항을 가질 수 있다. 주어진 애플리케이션에 대한 신경망을 구성하는 것은 어려우며 이는 구성에 복잡한 제약을 부과한다.

이 같은 문제의 복잡함으로 신경망 모델을 구현하는 시스템 개발자가 수동으로 탐색하는 데 많은 시간, 에너지 및 리소스가 필요하다. 개발자는 각 구성 변수에 사용 가능한 옵션을 기반으로 구현할 알고리즘, 사용할 데이터 레이아웃 등의 결정을 내려야 한다.

이러한 모든 결정들은 신경망 모델이 정확성 및 성능 측면에서 플랫폼 및 기타 신경망 메트릭 선정에 영향을 미친다. 특히 의사 결정 포인트가 이슈가 된다. 이 연구에서 신경망 모델을 구성하는 다양한 옵션을 의사결정 포인트라고 한다.

특허에 따르면, 실제 사례에서 특정 플랫폼에 적합한 신경망 구성을 결정하기 위해 구체적으로 설명된 기술 및 시스템을 포함한다. 이 특허를 통해 테슬라는 신경망 모델의 효율성과 적응성을 최적화하는 데 중점을 두고 있다.

그들은 또한 신경망 모델 전반의 네트워크 변수뿐만 아니라 구성 변수 또는 결정 포인트를 결정하기 위한 시스템과 방법을 언급했다. SMT(Satisfiability Modulo Theories), SAT 등과 같은 제한조건 만족 해법를 사용해 유효한 후보 구성을 식별하고 선택적으로 신경망 모델 중 하나 이상의 목표 성능 메트릭을 만족하는 구성을 선택하는 데 도움이 된다.

그림은 하드웨어 플랫폼, 신경망 모델, 모델 구성 플랫폼, 전체 모듈, 제약 모듈, 제약 만족, 데이터 저장소, 구성 모듈 및 성능 모듈을 포함하는 모델 구성 시스템이다. 시스템의 신경망 모델이 실시 예에 따라 수행할 수 있는 몇 가지 작업이 있다.

특허에 따르면 신경망 모델은 모델 구성 플랫폼과 동일한 컴퓨터 장치에 저장되거나 구현되는 신경망의 모델이다. 신경망 모델, 하드웨어 플랫폼 및 모델 구성 플랫폼 별도의 컴퓨터 장치의 모든 구성 요소다. 또한, 신경망 모델은 기계 학습(ML) 및 심층학습(deep learning) 등 관련된 작업을 수행하거나 실행할 수 있다.

한편, 몇 달 전 테슬라는 “증강 데이터로 기계 모델을 훈련시키기위한 시스템 및 방법(Systems and Methods for training Machine Models with Augmented Data)”이라는 또 다른 특허를 출원했다. 기계학습 환경에서 데이터를 훈련하기위한 시스템 및 방법에 관한 것으로, 훈련 데이터 세트에 센서 특성 등 추가 데이터를 포함하는 것에 관한 것이다.