사람 수준 일반 인공지능(artificial general intelligence) 개발 가능성을 두고 다양한 주장이 나온다.

물리학적 측면에서 인공지능(AI)를소개하는 ‘라이프 3.0(Life 3.0:Being Human in the Age of Artificial Intelligence)’ 저자 막스 테그마크(Max Tegmark) MIT 물리학과 교수는 물질이 의식을 갖는 ‘AGI’ 가능성을 설명한다. 그는 물리학회 참가 교수들 설문에서 절반 이상이 2050~2070년경 AGI 출현을 예견했다고 소개한다.

구글의 ‘마음의 혁명’의 저자 레이 커즈와일(Ray Kurzweil) 등 일부 미래학자는 무어의 법칙 등 컴퓨팅 하드웨어 발달과 데이터의 폭발적 증가, 이를 처리하는 기계학습(machine learning) 알고리즘 혁신으로 AGI 도래를 2050년 이후로 예측하기도 한다.

생명의 진화는 인간 의식의 탄생을 낳았다. 현재 인류는 알고리즘 유도 진화 또는 인간 두뇌의 에뮬레이션 등을 통해 AI에 접근하고 있다. 기계학습 알고리즘의 성과는 이미징과 언어 데이터에 기반 한 좁은 분야에서 인간을 이미 앞섰다. 유전체 분석과 뉴런 해석도 발달, 예쁜꼬마선충 뇌 302 개 뉴런은 그 연결까지 연구를 통해 알려졌다. 인간의 두뇌 860억 개 뉴런과 각각 1000여개의 시넵스 연결고리, 뉴런 연결망은 뇌공학적 도전 과제다.

닉 보스트롬(Nick Bostrom)은 초(超)지능에 관한 책 ‘슈퍼인텔리전스’에서 일단 AI가 미래 어떤 시점에서 인간지능 수준에 도달하면, 지능발달의 가속도는 점점 더 빨라질 것이라고 말한다. AGI의 ‘재귀적 자기개선’은 그것을 초지능으로 이끌게 된다. 소위 ‘지능의 폭발’은 인간에 결정적 위협이 될 것이라는 지적이다.

좁게 부여한 초기 목표가 잘못 지정됐거나, 악의적인 경우 또는 부적절한 보안으로 안전 장치를 벗어난 AI가 독자적으로 작업을 수행하기로 결정하면 초지능 생성을 제어하지 못할 수 있다. 경제 성장과 삶의 질 향상 등 모두를 행복하게 하는 기술의 무해한 목표가 어떻게 잘못 될 수 있는가. 기능 및 지능적 업무를 대신하는 AGI가 가져오는 ‘편리한 삶’이 인간의 지능 발달에는 어떤 영향을 미치게 될 지는 .

과학의 발달로 인간은 컴퓨팅 인프라를 통해 달을 넘어 화성 등 우주 시대를 준비하고 있다. 테그마크 등 물리학자들은 초지능을 갖춘 AGI는 인간이 만드는 인프라를 기반으로 우주 규모 컴퓨팅을 물리적으로 구축하는 방향으로 목표를 전환해 세력 확장을 추구 할 수도 있다고 말한다.

리프레이밍 슈퍼인텔리전스

옥스포드대( University of Oxford) 인류의 미래 연구소(Future of Humanity Institute) 에릭 드렉슬러(Eric Drexler)는 1986년 출판한 분자 나노 기술을 소개한 ‘창조의 엔진(Engines of Creation)’에 이어 올해 1월 AGI 워크숍(Beneficial AGI Workshop) 논문 ‘리프레이밍 슈퍼인텔리전스(Reframing Superintelligence)‘에서 주목할 만한 대안을 제시한다.

옥스포드대( University of Oxford)..

드렉슬러는 AI를 특정 목표를 최대화하기 위한 하나의 ‘에이전트’로 생각하는 좁은 인공지능 개발의 대안 경로로 “종합 AI 서비스”(CAIS)를 제안한다.

그는 기계학습 성과와 AI 알고리즘을 종합, AGI를 다루기 쉽고 비에이전트 중심 재귀적AI 기술 개선 모델을 제안한다. 새로운 서비스를 포함하는 모델인 종합AI서비스(CAIS)는 이 현실 세계에서 개발하는 애플리케이션 시스템 및 개발 프로세스, 언어번역 등에서 초지능 서비스를 통합 활용하는 서비스가 가능하다. AI 윤리 및 안전 관련한 문제를 피하는 동시에 그리고 응용분야에서 범용지식에 대한 예측가능성을 지원할 수 있다.

점점 더 복잡한 작업을 자동화하는 기술 및 소프트웨어 알고리즘의 재귀적인 개선은 이미 진행되고 있다. 알파고(AlphaGo) 최신 버전을 사용하면 이전 버전과의 호환성을 향상시킬 수 있다. CAIS 모델은 예상치 못한 혁신에 의존하는 대신, 전문적이고 좁은 AI가 각각의 작업을 수행함에 있어 지속적으로 향상 될 것이라고 가정하고 기계 학습 알고리즘이 수행 할 수 있는 작업 범위가 넓어 질 것이라고 가정한다. 궁극적으로 충분한 수의 작업이 자동화되면 AI가 제공할 서비스가 매우 포괄적이어서 일반 정보와 유사해진다. AGI는 단순 작업을 해당 작업을 수행 할 수 있는 특수 서비스 알고리즘과 일치시키는 알고리즘으로 생각할 수 있다.

CAIS는 검색 엔진처럼 특정 목표를 달성하는 단일 지능처럼 행동하는 것이 아니라 목표를 달성하기 위해 가장 적합한 일련의 서브 루틴을 호출 할 수 있는 작업을 한다. 이 모델은 본질적 안전설계 가능하다. 단일한 의식을 갖는 초지능이기 보다는 네트워크 시스템에 기반한 의사결정 모델에 가깝다. 시스템에서 특정 작업을 수행하지 않으려는 경우 해당 서비스에 대한 액세스를 차단할 수 있다.

AGI함정, 초월적 초지능 극복

CAIS는 무수한 특수 알고리즘 중 하나를 통해 복잡한 명령에 응답 할 수 있는 메타 프로그래밍 언어와 유사하다. 이것은 의식의 복잡한 문제와 AGI윤리문제를 해결한다.

드렉슬러는 의식을 가진 알고리즘을 만들 필요가 없다고 주장한다. 컴퓨터 프로그래밍, 자연어 이해 등과 같은 다양한 과제에서 좁은 AI를 활용하는 모델이다. CAIS는 모든 AGI 개발 아이디어를 통합, 알고리즘 중 우월하다고 여겨지는 것을 인간 의사결정자와 프로그래머가 선택한다.

의식을 가진 AGI 개발은 여전히 매력적이며 그만큼 급속하고 파괴적일 수 있다. 점점 더 복잡한 서비스가 자동화되면서 경제적 혼란이 심각해질 것이다. 거버넌스 측면에서 수용가능한 AGI 의사 결정 모델과 호혜적 상호작용을 찾는 것은 피할 수 없다.