자동차보다 자율주행 기술을 선박에 적용하는 일은 훨씬 어렵다. 선박은 좁은 수로와 복잡한 해안선, 다양한 기상 조건은 물론 주변 선박의 움직임과 국제 항해 규정까지 동시에 고려해야 하기 때문이다. 특히 일본 세토 내해처럼 수백 개의 섬과 혼잡한 항로가 공존하는 해역에서는 이러한 난도가 더욱 높아진다.

일본 오사카 공립대학 히가키 다케후미(Takefumi Higaki) 조교수 연구팀은 최근 국제학술지 Ocean Engineering에 기존 자율운항 방식과 다른 새로운 인공지능(AI) 모델을 제안했다. 연구팀은 규칙을 직접 설계하는 대신 실제 항해 경험을 학습하는 ‘확산 AI(Diffusion AI)’를 활용해 복잡한 해상 환경에서도 안정적으로 운항하는 자율운항 시스템을 구현했다.

기존 자율운항 AI는 주로 모방학습(Imitation Learning)을 이용해 전문가의 행동을 따라 하거나, 미리 정의된 목표와 수학적 규칙에 따라 최적의 조종 방식을 계산하도록 설계됐다. 하지만 실제 해상에서는 다양한 변수가 동시에 발생해 이러한 규칙 기반 접근만으로는 모든 상황에 대응하기 어렵다는 한계가 있었다.

연구팀은 고베대학교 실습선 ‘후카에마루(Fukae-Maru)’에서 수집한 실제 운항 데이터를 활용해 확산 AI를 학습시켰다. 특정 규칙을 입력하는 대신 숙련된 항해사가 다양한 상황에서 수행한 조타와 속도 조절, 항로 변경 등 전체 운항 과정을 그대로 학습하도록 한 것이다. 이를 통해 AI는 개별 행동이 아니라 상황에 따른 연속적인 의사결정 과정을 익혔다.

성능 평가 결과도 우수했다. 실제 운항 환경을 재현한 시뮬레이션에서 새로운 AI는 기존 대표적인 자율운항 AI 모델 두 종류보다 안정적인 항해 성능을 보였다. 복잡한 해안선과 좁은 항로, 다수의 선박이 혼재한 상황에서도 적절한 속도를 유지하면서 국제해상충돌예방규칙(COLREGs)을 준수하고 안전거리를 확보했다.

특히 연구진도 예상하지 못한 결과가 확인됐다. AI가 명시적으로 학습하지 않은 지역의 암묵적인 항해 관행까지 스스로 익힌 것이다. 예를 들어 일본 아카시 해협 통항로에서는 선박이 우측 항로를 이용하는 지역 관행이 있는데, AI는 별도의 규칙을 입력받지 않았음에도 실제 항해 데이터를 통해 이를 학습하고 자연스럽게 우측 항로를 유지했다.

연구팀은 이번 연구의 핵심이 다양한 운항 목표를 연구자가 직접 프로그래밍하지 않았다는 점이라고 설명했다. 충돌 회피와 지리적 제약, 운항 효율성, 교통 규칙 준수처럼 서로 상충할 수 있는 요소들의 균형을 AI가 실제 운항 경험을 통해 스스로 학습했다는 것이다. 이는 ‘올바른 행동’을 사람이 정의하는 대신, 실제 데이터를 바탕으로 숙련된 항해사의 의사결정 방식을 AI가 습득하도록 했다는 데 의미가 있다.

연구진은 앞으로 실제 선박 운항 데이터가 지속적으로 축적되면 자율운항 AI의 성능도 더욱 빠르게 향상될 것으로 전망했다. 이는 해상 안전성을 높이는 것은 물론, 세계 해운업계가 직면한 선원 부족 문제를 해결하는 데에도 중요한 역할을 할 것으로 기대된다.