딥러닝 예측 신뢰성 높여...학술대회 발표 예정

(사진=셔터스톡)
(사진=셔터스톡)

KAIST(총장 이광형)는 김재철AI대학원 최재식 교수팀과 AI 스타트업 인이지가 딥러닝의 의사결정에 큰 영향을 미치는 입력 변수의 기여도를 계산하는 최고 수준의 기술을 개발했다고 23일 밝혔다.
 
최교수 연구팀은 딥러닝 모델이 국소적인 입력 공간에서 보이는 입력 데이터와 예측 사이의 관계를 기반으로, 입력 데이터의 특징 중 모델 예측의 기여도가 높은 특징만을 점진적으로 추출해나가는 알고리즘과 그 과정에서의 입력과 예측 사이의 관계를 종합하는 방법을 고안해 모델의 예측 과정에 기여하는 입력 특징의 정확한 기여도를 계산했다. 

연구팀은 입력 데이터의 특징 중에서 모델의 예측과 연관성이 적은 특징을 점진적으로 제거해나가는 증류 알고리즘을 개발했다. 이를 산업공정 최적화 프로젝트에 적용해 딥러닝 모델이 예측 결과를 도출하기 위해서 어떤 입력 특징에 주목하는지 찾을 수 있었다. 또 복잡한 공정 내부의 다양한 예측변수 간 상관관계를 정확하게 분석하고 예측함으로써 공정 최적화의 효과를 도출할 수 있었다.

증류 절차를 통한 기여도 계산 알고리즘의 모식도 (사진=KAIST)
증류 절차를 통한 기여도 계산 알고리즘의 모식도 (사진=KAIST)

이 기술은 모델 구조에 대한 의존성이 없어 다양한 기존 학습 모델에서도 적용이 가능하며, 딥러닝 예측 모델의 판단 근거를 제공함으로써 신뢰도를 높여 딥러닝 모델의 활용성에도 기여할 것으로 기대된다고 설명했다.

공동 1저자인 전기영 인이지 연구원은 "딥러닝 모델의 국소 지역에서 계산된 입력 기여도를 기반으로 상대적인 중요도가 낮은 입력을 점진적으로 제거하며, 이러한 과정에서 축적된 입력 기여도를 종합해 더욱 정확한 설명을 제공할 수 있음을 보였다ˮ고 말했다.

연구진은 12월1일 국제학술대회인 신경정보처리학회(NeurIPS)에서 연구 결과를 발표할 예정이다.
 
이번 연구는 2022년도 과학기술정보통신부의 재원으로 정보통신기획평가원의 지원을 받은 혁신성장동력 프로젝트 설명 가능 인공지능, 한국과학기술원 인공지능 대학원 프로그램, 인공지능 공정성 AIDEP 및 국방과학연구소의 지원을 받은 설명 가능 인공지능 프로젝트 및 인이지의 지원으로 수행했다.

임대준 기자 ydj@aitimes.com

키워드 관련기사
  • KAIST, '입는 OLED'로 소아 황달 고친다
  • KAIST, 극미량 액체 실험 가능한 플랫폼 개발
  • KAIST, 국방·보안에 유용한 알고리즘 개발