광주과기원 연구팀이 MIT 컴퓨터과학 및 인공지능 연구소로 파견돼 협력하고 있는 모습. 지스트 제공

광주과학기술원(총장 임기철·지스트) 융합기술학제학부 김승준 교수 연구팀과 매사추세츠공대(MIT) 연구소(CSAIL)의 공동연구 성과로, 자율주행차량 내 인공지능의 주행 의사결정을 탑승객 중심으로 설계 및 평가하는 기술을 개발했다.

9일 지스트에 따르면 이 기술은 자율주행 알고리즘의 결과(인지판단 사유)를 탑승객에게 설명하고 시각화할수 있다.

자율주행 등 안전성이 중요한 환경에서는 인공지능의 신뢰성을 위해 의사결정 사유를 해석하고, 설명할 수 있는 딥러닝 기술이 요구된다.

기존 알고리즘은 개발자나 AI 전문가를 중심으로 설계돼 있어 자율주행 차량 내에서 탑승자의 도로 및 주행상황 인식을 보조하는 데 한계가 있었다.

연구팀은 생체 센서를 통해 탑승객의 도로상황 인식 수준을 평가하고, 이에 맞춰 자율주행 상태를 시각화해 복잡한 AI 모델의 의사결정을 탑승객이 이해할 수 있도록 설명하는 기술을 개발했다.

이번 연구는 차량 인터페이스를 증강해 임의의 설명 가능한 주행 알고리즘을 탑승자(인간) 중심으로 평가할 수 있다는 장점이 있으며, 자율주행차량의 기술 수용도를 높이기 위한 차내 정보 시스템, 헤드업 디스플레이 등 첨단 전장(자동차 전기·전자 장비) 설계에 응용될 수 있을 것으로 기대되고 있다.

김 교수 연구팀은 MIT 컴퓨터과학 인공지능 연구소와 함께 2021년부터 2025년까지 5년간 진행되는 AI국제협력사업에서 ‘인간중심 물리 시스템 설계를 위한 HCI+AI 융합연구’를 수행하고 있다.

김 교수는 “이번 연구성과는 도로 위 가상현실 환경에서 탑승객의 인지 부하, 긴장, 신뢰도, 상황인식 등 사용자 경험을 평가할 수 있다는 점에서 학회에서 많은 관심을 받았다”며 “최근 성공적으로 개최한 ‘지스트-MIT 심포지엄’을 계기로 국제공동연구 성과를 확산하고, 인간 중심의 인공지능 연구 개발을 위해 협력할 것”이라고 말했다.

한편 연구팀은 지난달 12일 유비쿼터스 컴퓨팅 분야 최우수 국제 학회인 ‘UbiComp(ACM international joint conference on Pervasive and Ubiquitous Computing) 2023’에서 관련 연구 성과를 발표했다.