프랑스는 2017년  ‘인공지능(AI) 국가전략’ 제시, 인공지능 기술 선도국 도약을 목표하고 있다.

AI경쟁력은 우수한 인재 확보가 관건이다. 이에 파리 자연과학계열 그랑제꼴 ‘콜레주드프랑스(Collège de France)’는 인공지능관련 수준 높은 데이터 과학(data science) 강좌를 운영 중이다.

앙리 베르그송, 롤랑 바르트, 미셀 푸코 등 프랑스를 대표했던 지성들이 강연해온 바로 그 곳에서 열린 인공지능의 기반인 데이터 과학, 심층 신경망(deep neural networks) 세미나에서 인공지능 ‘소프트 파워(soft power)’로 부상하는 프랑스의 일면을 직접 확인할 수 있었다.

소프트 파워란 국제관계에서 돈이나 권력 등 강요가 아닌 매력을 통해 협력을 이끌어 내는 힘을 강조한 말로 하버드대 조지프 나이(Joseph S. Nye)가 2004년 동명의 책에서 고안했다.

국가가 우수한 강의를 마련해 인재들의 AI 교육참여를 유도한다는 측면에서  ‘소프트 파워’라 칭했다.

6일 파리 대학가 카르티에 라탱 지구에 위치한 콜레주드프랑스에서 스테판 말랏(Stephane Mallat) 교수의 ‘심층신경망 학습 -신경망의 일반화에 대한 수학적 비전’ 주제 강연이 개최됐다.

강연이 열린 대형 원형 강의실은 오전 9시경, 강의 시작 30분 전부터 참석자들로 채워지기 시작해 강의가 시작될 무렵에는 거의 만석이었. 강연 대부분이 선형 대수학 등으로 진행되는 전문적인 분야임에도 참여 열기는 뜨거웠다.

지난해 이후 올해까지 연속으로 진행중인 강연은 주 1회 1시간 30분 강의와 1시간 15분 관련 세미나 형식으로 진행된다. 지난해 주제는 ‘학습과 차원의 저주’였다. 강의에는 학생들과 연구자, 인공지능 스타트업 개발자, 에콜 폴리테크닉 등 동료 교수 등에 이르기까지 다양한 이들이 참여 했다.

이날 강의 이후 세미나 시간에는 데이타 첼린지 2018(Data challenge ENS 2018) 시상이 있었다. AI 스타트업 기업과 대학 연구실 등 수십개 팀이 참가,  10여개 프로젝트가 우수작으로 선정됐다.

우수 프로젝트에는 프리젠테이션 기회가 주어졌다. AI 알고리즘을 적용한 에너지 효율 향상 프로젝트, AI를 활용한 머리띠형 EEG(뇌전도) 측정 프로젝트(Learning Sleep Stages from physiological signals on Dreem Headband) 등이 소개됐다.

응용 수학과 컴퓨터과학

파리 고등사범학교(Ecole Normale Superieure, ENS) 응용수학과 컴퓨터과학교수로 재직했던 말랏은 2017년부터 콜레주드프랑스 데이타 사이언스 석좌교수를 맡고있다.

1988년부터 그는 다중 해상도 이론과 웨이브릿 계수의 빠른 계산 알고리즘을 도입, 웨이브릿의 직교 기초를 연구했다. 그가 1998년 발간한 저서 ‘신호 처리의 웨이브릿 여행(A wavelet tour of signal processing)’는 수 만회 이상 관련 분야에서 인용됐다. 600여 페이지 짜리 교재는 2008년 ENS 대학원과정 수업을 위해 130여 페이지로 재발간 됐다.

개방형 AI 연구 포털사이트(DeepAI)에 따르면 그는 관련 분야에서 평균 연구자(2.4건) 대비 990%의 연구성과를 보였다.

그의 논문은 분산에 의한 심층학습(Deep Learning by Scattering), 일렉트로센싱에서 모형 인식을 위한 웨이브릿 방법론(Wavelet methods for shape perception in electro-sensing) 등을 아우르고 있다. 그의 연구는 심층신경망, 신호처리, 웨이브릿, 분산(scattering)과 회귀(regression), 퀀텀에너지 등에 촛점을 둔다.

강연중인 스테판 말랏 교수.

말랏 교수는 “심층신경망 즉 딥뉴럴네트워크(deep neural networks)는 훌륭한 적용 예를 가지고 있지만 수학적 관점에서는 아직 잘 이해되지 못하고 있다”며 “이 과정은 이러한 네트워크 분석에 접근 할 수있는 알고리즘 및 수학 도구와 응용 프로그램을 제공하는 것을 목표로 한다”고 말했다.

웨이블릿, 기하학, 신호처리 등 연구에 집중해온 그는 직접 기술 스타트업 기업을 창립하기도 했다.  2001년 이미지 프로세싱 반도체 회사를 창립, 2007년 미국 회사에 매각했다. 산업 경험에 대해 말랏은 “과학과 기술적 개발 간의 연결은 동기 부여가 될 수 있다. 산업 경험은 훨씬 더 구체적인 응용으로 이끌었고, 그 당시에는 해결하지 못했던 수학적 문제를 유발했다”고 설명했다.

그는 “무엇보다도 기술 혁신을 위해서는 연구와 중소 벤처 분야에 투자율을 촉진하는 것이 필요하다”고 덧붙였다.

수학을 통한 다양한 영역간 통신

말랏 교수가 초석을 놓은 웨이브릿 이론은 음표와 음향의 관계, 이미지 인식 등 신호처리와 정보 표현에 대한 연구다. 오늘날에는 이미지 압축( JPEG 2000 표준), 시각 및 청각 인식, 양자 역학에서 웨이브릿을 응용한다.

초기 웨이브릿 이론 4~5 가지에 불과했지만 물리학, 화학 등의 응용 분야에서 1990년대에 폭발적으로 확대됐다. 이는 신호처리, 물리학, 컴퓨터 통신 등 다양한 영역에서 자체적으로 도구를 개발하더라도 수학적으로 서로 다른 영역 간 통신이 가능하다는 것을 제시한다.

그는 “이것들은 선험적인 다른 세계들 사이의 여행”이라며 “이미지의 수학적 처리, 수학적 직감과 경험 사이에서 수학적 연구와 산업적 적용은 새로운 시작 단계”라고 말했다.

기하학, 지각과 신경과학

말랏 교수는 지각과 관련해 기하학적으로 접근했다.

그는 “우리는 점이나 흩어진 요소로부터 도형을 도출할 수 있다. 그 이유와 방법에 대한 질문은 커다란 수수께끼다. 이것은 지각이 그룹화하는 과정 (게슈탈트 이론)에 의해 조건 지어 짐을 나타내며, 그룹화하는 이 능력은 지각에 있어 근본적이다. 모든 것을 이해하기 위해서는 올바른 수학적 틀을 찾아야한다”고 말한다.

이 물음은 신경과학과도 관계된다. 그는 “시각 피질은 웨이브릿 변환에 가까운 것을 계산하는 간단한 뉴런이라고 불리는 신경세포의 계층구조(신피질 피라밋 세포에서 4층은 피질의 입력영역으로 종종 하위층으로 세분된다)를 가지고 있다. 이 정보를 종합하고 기하학적 처리를 담당하는 복잡한 뉴런도 있다”고 설명했다.

이어 그는 “지각에서 발생하는 불변의 질문이 있다. 사람은 거리를 포함해 대상을 인식한다. 음악에서도 다양한 형식의 구조에 대한 인식이 있다. 거리, 구조 문제는 고조파 분석, 통계, 그룹 이론 등과 같은 수학 분야의 많은 부분을 포함한다”고 말한다.

또한 수학은 역 문제라고 부르는 것에 많은 영향을 준다. 마랏 교수는 “예를 들어, 지구 물리학에서 하층토의 구조에 따라 파가 어떻게 전파되는 지가 결정된다. 반대로, 우리가 이 지반에 전파를 보내고 측정하면, 하층토의 지층에 관한 정보를 추론 할 수 있을 것이다. 우리는 매우 다른 분야에서 역 문제를 풀려고한다. 이미지에서 노이즈 제거는 또 다른 문제”라고 설명한다.

“모든 연구는 표상과 질문에 의해 동일한 개념으로 연결된다.”

딥러닝의 미래

딥러닝 기반 기계학습의 미래와 한계에 대해 말랏 교수는 “안정성(stability)과 대립(adversarial) 문제”가 중요하다고 지적했다. 그는 “작은 차이가 큰 에러를 만들 수 있다. 자율주행 알고리즘 등 주요 적용사례에서 이러한 문제가 발생하기를 원하지는 않을 것”이라고 지적했다.

이어 그는 “훈련을 위해 분류된 데이타가 필요하다. 좋은 결과물을 얻기위해 충분한 데이터를 확보하는게 어렵다. 일반적인 큰 문제는 (알고리즘의) 작용법을 잘 모른다는 것이다. 알고리즘 차원에서 이해하려고 노력하지만 무엇이 학습되고 있는지 모른다. 이는 또한 결과의 해석문제와도 관련된다. 사람들은 왜 어떤 결정이 내려졌는지 결과를 해석하는 것에 어려움이 있다. 많은 이들이 이같은 문제를 해결하기 위한 연구를 하고 있다”고 설명했다.

심볼릭 AI의 역할을 주장하는 의견에 대해 마랏 교수는 “인과적 이벤트에 따른 논리추론과 상징논리 기반이 있다. 이같은 딥러닝은 두뇌의 비의식적인 측면과 비교될 수 있다. 이같은 방식으로 문제를 생각하고 로직 등을 적용할 수 있다. 쉽지 않은 주제이지만 분명 연구가 필요한 영역이고 다뤄져야할 주제라고 생각한다”고 발했다.

인간의 두뇌를 모사하는 뉴로모픽 AI연구가 활발하지만 근본적으로 인간의 사고체계와 기계학습 기반 컴퓨팅의 차이를 어떻게 볼것인지에 대해 마랏 교수는 “이같은 프로세스는 해석(analyzation)의 영역이다. 머신러닝, 딥러닝 기법인 메트릭스 거리개념을 기반으로하는 분류(Classification)와 회귀(Regression) 등은 실제 세계에 기반한 추론과 달리 해석 측면에서 생각할 수 있다”며 “한 가지 측면에서 이들 알고리즘들은 기하학적 툴에 기반해 있다. 다른 측면에서는 두 영역에서 적용이 가능한 로직이 있을 것”이라고 설명했다.

콜레주드프랑스.

* 스테판 말랏(Stephane Mallat)

1988년 미국 펜실베이니아 대학에서 신호처리 박사 학위를 받았다. 1995 년 파리 에꼴 폴리테크닉(Ecole Polytechnique)에서 수학 응용 교수로 재직했다. 2001년부터 2007년까지는 반도체 스타트업의 공동 창립자 겸 CEO였다. 2012년부터 2017년까지 그는 파리 고등사범학교(Ecole Normale Supérieure) 컴퓨터 과학과 교수였다. 2017년부터 꼴레주드프랑스(Collège de France)에서 데이터 과학 석좌교수를 맡고있다.

말랏의 연구 관심 분야는 기계 학습, 신호 처리 및 고조파 분석을 포함한다. 그는 프랑스 과학 아카데미 회원이며, 미국 국립 공학 아카데미의 외국 회원이자 IEEE 펠로우다. 2004년 유럽 IST 대상, 공학 및 컴퓨터 과학 분야에서 가장 많이 인용 된 프랑스 연구원 INIST-CNRS 상, 2007 EADS 대상 프랑스 과학 아카데미, 2013 CNRS 혁신 훈장 등을 수상했다.

* 콜레주 드 프랑스(College de France)

세계적인 명문대학교인 파리 과학인문학대학교(PSL Research University, Universite PSL)의 자연과학계열 그랑제꼴이다. 파리의 대학가인 카르티에 라탱 지구(quartier latin)에 위치해 있다. 행정의 자치성이 보장되고 수업료, 학위 수여 등의 규제로부터 자유로운 점이 특징이다. 석좌교수들은 무료로 공개 강의를 하고 고학력을 요하는 특별한 과목 외에는 누구든지 자유롭게 수업에 참여할 수 있다. 과학과 인문학 분야에서 최고의 석학들만 석좌교수로 초빙되고 석좌교수들은 연구 활동에 참여하는 대신 학위를 수여하지 않는다. ‘콜레주 드 프랑스’의 교수가 된다는 것은 프랑스 교육계에서 엄청난 영광으로 여겨진다.

* 콜레주드프랑스 데이터과학 세미나 주제.

시력, 청력, 물리, 자연 언어의 신경 네트워크 응용 프로그램 / 차원 감소 : 대칭, 다중 스케일 분해 및 파싱 / 신경 회로망의 기원 : 사이버네틱스와 퍼셉트론 / 2 계층 네트워크의 보편성 / 근사 함수 : 차원의 저주 / 다층 네트워크의 근사치 / 네트워크 학습 : 비용 함수 / 확률적 경사 하강 최적화 / 역전파 알고리즘 / 컨벌루션 네트워크의 아키텍처 / 멀티 스케일 및 웨이브렛 분석 심층 네트워크에서의 대칭성, 불변성 및 견해

* 웨이브릿(wavelet)

웨이브릿 해석은 신호처리 계통에 속하는 여러 분야에서 각자의 특수한 목적에 부합되도록 개별적으로 발전시켜온 특수한 기술들을 하나로 통합하면서 등장했다. 컴퓨터 비전에서 이용된 다해상도(multi-resolution) 분석 방법이나 음성과 영상압축에서 사용되던 서브밴드(sub-band) 코딩 기법, 응용 수학에서 사용된 웨이브릿 시리즈 전개 등 많은 기본 기법들이 최근에 들어 웨이브릿 이론의 특수한 응용으로 밝혀졌다. 웨이브릿 변환(wavelet transforms)은 신호, 시스템, 프로세스의 모델을 특수한 신호의 집합으로 구성할 수 있다. 웨이브릿의 가장 큰 특징은 주파수 영역에서 신호를 표현하는 푸리에(Fourier) 해석의 특징을 비롯해, 시간적 또는 공간적 추이도 동시에 가변적으로 다룰 수 있는 시간-주파수 해석이 가능하다는 것이다.