KAIST, 뇌 기반 인공지능 기술로 ‘인공지능 난제’ 규명

[이뉴스투데이 전한울 기자] KAIST는 이상완 바이오및뇌공학과 교수 연구팀이 뇌 기반 인공지능 기술을 이용해 인공지능의 난제 중 하나인 과적합-과소적합 상충 문제를 해결하는 원리를 풀어내는 데 성공했다고 5일 밝혔다.

최근 인공지능 모델들은 다양한 실제 문제들에 대해 해법을 제시하지만, 상황 변화에 ​유동적으로 대응하는 부분에 있어서는 여전히 어려움을 겪고 있다. 

기계학습에서는 이를 ‘과소적합-과적합의 위험성’ 또는 ‘편향-분산 상충 문제​’로 칭​하며​​​​​ 오랫동안 연구됐지만, 실제 세계와 같이 상충 조건이 계속 변하는 상황에서의 명확한 해법은 아직 제안된 바가 없​다.​

연구팀은 ​뇌 데이터, 확률과정 추론 모형, 강화학습​ 알고리즘을​ 이용해 인간의 뇌가 이 문제를 ​어떻게 해결하는지에 대한 이론적 틀을 마련하고 이로부터 유동적인 메타 강화학습 모델을 도출해냈다.

그 결과 인간의 뇌는 ​중뇌 도파민 회로와 전두엽에서 처리​되는 ​`예측 오차'의 하한선이라는 단​ 한 가지 정보를 이용해 ​이 문제를 해결한다. 

​우리의 전두엽, 특히 복외측전전두피질은 현재 내가 사용하고 있는 문제 해결 방식으로 주어진 문제를 얼마나 잘 풀 수 있을지에 대한 기대치의 한계를 추정하고, 변화하는 상황에 맞춰 최적인 문제 해결전략을 유동적으로 선택하는 과정을 통해 과소적합-과적합의 위험을 최소화하게 ​된다​.​

이상완 교수 연구팀은 지난 2014년 해당 전두엽 영역이 환경의 불확실성을 바탕으로 강화학습전략을 유동적으로 조절하는 데 관여한다는 사실을 처음 발견해냈다. 지난 2015년에는 인과관계 추론 과정에도 관여한다는 사실을 발견했으며, 지난 2019년에는 해당 뇌 영역이 문제의 복잡도까지 고려할 수 있다는 사실을 발견했다.

이러한 연구 결과들은 자신의 학습, 추론 능력을 스스로 평가하는 인간의 메타 인지 능력을 보여주는 증거로 평가된다. 이 능력을 바탕으로 인공지능이 풀기 어려워하는 현실 세계의 다양한 상충적 상황들을 풀어낼 수 있다는 `전두엽 메타 학습 이론'을 정립한 바 있다.

이번 연구는 이 이론에 기반해 인공지능의 오랜 난제 중 하나인 과소적합-과적합 상충 문제를 실제로 풀어낸 첫 사례로 평가된다.

연구를 통해 개발된 메타 강화학습 모델을 이용하면 간단한 게임을 통해 인간의 유동적 문제 해결 능력을 간접적으로 측정할 수 있다. 더불어 스마트 교육이나 중독과 관련된 인지 행동치료에 적용할 경우 상황 변화에 유동적으로 대처하는 인간의 문제 해결 능력 자체를 향상할 수 있을 것으로 기대된다. 

차세대 인공지능, 스마트 교육, 인지 행동치료 등 다양한 분야에 파급력이 클 것으로 기대되는 원천 기술로, 최근 국내외 특허 출원이 완료된 상태다.

이상완 KAIST 교수, 김동재 박사가 주도하고 정재승 KAIST 교수가 참여한 이번 연구는 `강화학습 중 편향-분산 상충 문제에 대한 전두엽의 해법'이라는 제목으로 국제 학술지 ‘셀(Cell)’의 오픈 액세스 저널인 `셀 리포트(Cell Reports)'에 지난해 12월 28일자 온라인판에 게재됐다.

연구팀은 과학기술정보통신부의 재원으로 정보통신기획평가원의 지원을 받아 설립한 KAIST 신경과학-인공지능 융합연구센터에서 기반 기술을 활용해 인간 지능을 모사한 차세대 인공지능 모델을 개발한 뒤 딥마인드, IBM 인공지능 연구소, MIT, 옥스퍼드 대학 등 국제 공동연구 협약 기관과 공동연구를 통해 기술의 파급력을 높여나갈 계획이다.

한편 이번 연구는 삼성전자 미래기술육성센터, 과학기술정보통신부 정보통신기획평가원, 한국연구재단의 지원을 받아 수행됐다.