견고한 양자 기계학습, 적대적 공격에서 AI 보안 강화

오늘날 기계 학습(machine learning)은 컴퓨터 모델이 대량의 데이터를 스스로 학습해 다양한 작업을 수행하는 인공지능(AI) 분야다.

이제 체스 AI는 인간 마스터에게 체스 전략을 배울 필요가 없다. 자신의 복사본과 수백만 번의 게임을 플레이함으로써 독립적으로 전략을 “학습”할 수 있다.

이같은 자가 학습은 명시적 지침을 기록하는 것이 불가능하지는 않더라도 비실용적인 상황에서 매우 중요하다. 그림에 고양이가 포함되어 있는지 강아지가 포함되어 있는지 알려주는 수학 함수를 어떻게 정의할까. 인간은 그러한 기능을 전혀 배우지 않고 오히려 고양이와 개의 많은 예를 본 다음 결국 그들의 차이점을 이해하게 된다. 기계 학습은 이 프로세스를 컴퓨터에서 복제하는 것이다.

그러나 기계 학습 기반 프레임워크는 적대적 공격, 즉 데이터를 악의적으로 조작하여 놀라운 방식으로 실패하게 만드는 공격에 여전히 매우 취약하다. 이미지 분류 모델은 너무 작아서 인간의 눈이 인식할 수 없는 입력 이미지에 잘 만들어진 변경 사항(교란이라고 함)을 추가하여 속일 수 있다. 이것은 악용될 수 있다.

적대적 공격에 대한 지속적인 취약성은 자율주행 자동차와 같이 잠재적으로 생명을 위협하는 상황에서 기계 학습 신경망을 적용하는 것의 안전에 대한 심각한 질문을 제기한다.

Physical Review Research에 게시된 최신 연구는 양자 기계 학습(quantum machine learning) 모델이 기존 컴퓨터에서 생성된 적대적 공격에 대해 더 잘 방어될 수 있다고 제안했다.

적대적 공격은 기계 학습 모델에서 사용하는 기능을 식별하고 악용하여 작동한다. 그러나 일반적인 양자 기계 학습 모델에서 사용하는 기능은 기존 컴퓨터에서 액세스할 수 없으므로 기존 컴퓨팅 리소스로만 무장한 적에게는 보이지 않는다.

이러한 아이디어는 고전 네트워크와 양자 네트워크를 동시에 사용하여 적대적 공격의 존재를 감지하는 데에도 사용할 수 있다. 정상적인 조건에서 두 네트워크는 동일한 예측을 수행해야 하지만 공격이 있는 경우 출력이 달라진다.

AI 안전성을 향상시키는 양자 기계 학습의 잠재력은 양자 상태의 섬세한 특성에 뿌리를 두고 있다. 양자 시스템은 측정 기반 추론에 저항하므로 특정 적대적 공격에 덜 취약하다. 기존 네트워크와 양자 네트워크를 모두 사용하면 출력의 불일치가 공격의 신호가 될 수 있다.

그러나 양자 기계 학습은 양자 컴퓨터의 제한된 확장성 및 오류율과 같은 문제에 직면해 있다. 이러한 장애물에도 불구하고 연구원들은 네트워크 보안에서 의학에 이르기까지 다양한 분야를 변화시키는 양자 강화 AI를 구상하고 있다.