사람 속 모르는 인공지능, 다른 AI 마인드는 알 수 있을까?
인공지능(AI)이 다른 사람의 신념과 욕망을 인식할 수 있을까?
시리 (Siri) 또는 알렉사(Alexa) 등 디지털 비서를 이용해본 사람 이라면 불만스런 경험이 있을 것이다. AI가 사람의 마음을 헤아리지 못하며 한계가 많다는 것은 분명하다.
그럼 AI가 다른 컴퓨터의 사고방식과 행동은 예측할 수 있을까?
미국과학진흥협회 과학전문지 사이언스의 최근 보도에따르면 컴퓨터 과학자들은 다른 컴퓨터의 “마인드”를 탐구하고 그 행동을 예측할 수있는 AI를 만들고 있다.
“AI, 인간감정, 동기 등 거의 이해못하지만 AI 마인드이론 중요”
4 살만 되도 어린이는 다른 사람의 생각이 현실과 다를 수 있으며, 그것이 그 사람의 미래 행동을 예측하는 데 사용될 수 있다는 것을 이해한다. 오늘날 어떤 컴퓨터는 마음 이론과 관련된 기술을 활용, “행복한” 또는 “화난” 얼굴 표정을 구분할 수 있다. 하지만 인간의 감정이나 동기를 부여하는 것에 대해 거의 이해하는 바가 없다. 캘리포니아대학 버클리의 발달 심리학자 엘리슨 고프닉(Alison Gopnik)은 “마인드 이론은 분명히 중요한 능력” 이라고 말했다.
마인드 AI 프로젝트는 인간이 컴퓨터를 이해하도록하기 위한 시도로 시작됐다. 인공 지능에서 사용되는 많은 알고리즘은 전적으로 프로그래머가 작성하는 것은 아니다. 순차적으로 문제를 다루면서 “학습”하는 기계에 의존한다. 그 결과 컴퓨터로 생성된 솔루션은 종종 블랙박스와 같다. 인간의 통찰력이 침투하기에는 너무 복잡한 알고리즘을 사용한다. 그래서 네일 라비노비츠(Neil Rabinowitz) 런던의 딥마인드(DeepMind) 연구 과학자와 동료들은 톰넷(ToMnet)이라고 불리는 마인드 AI이론을 만들었다. 그것은 다른 인공 지능을 관찰해 그들이 어떻게 작동하는 지를 알 수 있었다.
DeepMind 톰넷(ToMnet) 다른 인공지능 이해, 예측
ToMnet은 3 개의 신경망으로 구성되어 있다. 각 신경망은 작은 컴퓨팅 요소와 연결망으로 구성돼 있으며 인간의 뇌와 비슷하게 경험을 통해 배운다. 첫 번째 네트워크는 과거 활동을 기반으로 다른 AI의 경향성을 학습한다. 두 번째는 현재의 “신념”에 대한 이해를 형성하고, 세 번째는 다른 두 네트워크의 산출물을 취해 상황에 따라 AI의 다음 동작을 예측한다.
연구중인 인공지능(AI)은 가상 공간을 돌아 다니면서 점수를 얻기 위해 색이 칠해진 박스를 수집하는 단순한 캐릭터들이다. ToMnet은 이 공간을 위에서 지켜봤다. 한 가지 테스트에서 캐릭터는 세 가지 특성이 있었다. 하나는 주변 공간을 볼 수 없었고, 하나는 최근 단계를 기억하지 못했고, 다른 하나는 주변을 보고, 최근 단계도 기억할 수있었다. 눈먼 캐릭터는 벽을 따라 다녔고, 기억 상실 캐릭터는 무엇이든 가장 가까운 물체로 이동했고, 세 번째 캐릭터는 하위 목표를 만들어 더 많은 포인트를 얻기 위해 전략적으로 특정 순서로 물체를 잡았다. 트레이닝을 마친 후 ToMnet은 몇 단계만으로 캐릭터의 종을 확인, 미래의 행동을 정확하게 예측할 수있었아고 이달 스톡홀름의 기계학습( Machine Learning )에 관한 국제컨퍼런스에서 연구원이 보고했다.
최종 테스트에서는 ToMnet이 캐릭터가 잘못된 믿음을 가지고 있을 때 조차 이해할 수 있었다. 이는 동물과 인간의 마음 이론을 개발하는 데 있어 중요한 단계다. 이 테스트에서는 한 가지 유형의 캐릭터가 근시가 되도록 프로그래밍됐다. 게임 중반부에 시야를 초월한 풍경으로 변경했을 때 ToMnet은 근시 캐릭터가 더 잘 보는 캐릭터보다 더 자주 원래 경로를 고수 할 것이라고 정확하게 예측했다.
고프닉(Gopnik)은 이 연구와 컨퍼런스에서 발표된 다른 연구에서 AI가 그들 자신에 대해 알고있는 것을 기반으로 다른 AI의 행동을 예측할 수 있다고 제안했다. 스스로 배우는 뉴럴네트워크(neural networks) 기술의 “눈에 띄는”예라는 것이다. 그러나 그것은 여전히 비록 이전 경험이 없더라도 거짓 믿음 과제를 거의 완벽하게 통과 할 수 있는 어린아이와 같은 수준에 도달하지도 못했다.
캠브리지(Cambridge)의 MIT(Massachusetts Institute of Technology)의 심리학자이자 컴퓨터 과학자 조쉬 테넨바움(Josh Tenenbaum)은 마음 능력 이론의 연산 모델을 연구했다. 그는 ToMnet이 뉴럴 네트워크가 아닌 확률적 추론의 추상적인 형태에 기반을 둔 그 팀의 시스템보다 신념을 더 효율적으로 추론한다고 말한다.
한계, 근본적으로 새로운 환경에서 행동 예측 불가
ToMnet의 이해는 훈련된 상황에 더 밀접하게 관련되어 있다고 그는 덧붙였다. 자신의 시스템이나 어린 아이들은 할 수있는 것과는 달리 톰넷은 근본적으로 새로운 환경에서 행동을 예측할 수 없다. 그는 앞으로 두 접근 방식을 결합하면 정말 흥미로운 방향으로 나아갈 수있을 것이라고 말했다.
고프닉은 컴퓨터가 개발하는 사회적 능력의 종류가 인간과의 협력뿐만 아니라 아마도 속임수 또한 증가시킬 것이라고 지적한다. 컴퓨터가 그릇된 믿음을 이해한다면, 사람들에게서 그것을 어떻게 유도 할 수 있는지도 알 수 있다는 것이다.
*참고 :Artificial intelligence has learned to probe the minds of other computers

편집장/ Editor-in-Chief
국가 안보 정책과 연계된 과학기술 분야 혁신 등 영향력 있는 분석을 생산하고 있다. 주로 핵심 과학기술 연구, 글로벌 안보, 지정학, 해양 전략을 주제로 집필한다.
Contact: navy@scimonitors.com / LinkedIn



![[기획①]오픈AI, 로보틱스 전담팀 해체… 피지컬 AI 경쟁축 바뀌나](https://scimonitors.com/wp-content/uploads/2024/02/NEW-_DSCF1820_Desktop_10923A__3_.webp)



