%eb%a7%88%ec%9d%b4%ed%81%ac%eb%a1%9c%ec%86%8c%ed%94%84%ed%8a%b8%ec%97%b0%ea%b5%ac%ec%86%8c
-
말하지 않아도 ‘이게 아닌데’ 눈치채는 AI 개발
일일이 말하거나 몸짓으로 알려주지 않아도, AI가 사람의 뇌에서 나오는 ‘이게 아닌데’라는 반응을 알아채 스스로 행동을 고치는 시대가 다가오고 있다. 우리 대학 연구진이 뇌파로 사람과 AI의 인지적 어긋남을 포착해 AI가 사람의 목표에 맞춰 실시간으로 행동을 수정하는 기술을 개발했다. ‘명령하는 AI’에서 ‘의도를 눈치채는 AI’로의 변화를 앞당길 것으로 기대된다.
우리 대학은 뇌인지과학과 이상완 석좌교수(신경과학-인공지능 융합연구센터장) 연구팀이 마이크로소프트연구소 아시아(Microsoft Research Asia)와 국제 공동연구를 통해 인간의 뇌파를 이용해 AI를 실시간으로 인간의 목표에 맞추는 차세대 뇌-컴퓨터 인터페이스(BCI) 기술인 ‘신경 가치 정렬(Neural Value Alignment, NVA)’을 개발했다고 10일 밝혔다.
AI가 사람과 자연스럽게 협업하기 위해서는 사람이 실제로 무엇을 원하는지 정확하게 파악해야 한다. 하지만 지금까지 AI는 주로 사람의 말이나 행동, 몸짓 등 외부로 드러난 정보를 바탕으로 의도를 추정해 왔다.
문제는 같은 행동이라도 목적이 다를 수 있다는 점이다. 예를 들어 사람이 컵을 집더라도 직접 물을 마시려는 것인지, 다른 사람에게 건네려는 것인지 행동만 보고서는 구별하기 어렵다. 이러한 ‘목표-행동 모호성’ 때문에 AI가 사람의 의도를 잘못 이해하면 사용자가 다시 명령하거나 행동을 교정해야 했다.
연구팀은 이 문제를 해결하기 위해 사람이 예상과 다른 상황을 마주했을 때 뇌에서 무의식적으로 발생하는 ‘예측 오차’에 주목했다. 쉽게 말해 AI가 잘못된 행동을 했을 때 사람이 순간적으로 느끼는 “이게 아닌데”라는 뇌의 반응을 이용한 것이다.
특히 연구팀은 이 반응을 두 종류로 구분했다. AI가 사람의 궁극적인 목표 자체를 잘못 이해했을 때 나타나는 ‘보상 예측 오차(RPE)’와, 목표는 맞지만 행동 과정이나 방식이 예상과 다를 때 나타나는 ‘상태 예측 오차(SPE)’다.
연구팀은 AI가 작업하는 모습을 지켜보는 사람의 실시간 뇌파(EEG)를 측정했다. 그 결과, AI가 목표 자체를 잘못 이해했을 때와 목표는 맞지만 행동 방식이 잘못됐을 때 사람의 뇌가 서로 다른 신호를 보내는 것을 확인했다. 두 가지 오류가 동시에 발생했을 때 나타나는 특징적인 뇌파 패턴도 찾아냈다.
연구팀은 여기에 딥러닝을 적용해 뇌파만으로 사람이 AI의 행동을 어떻게 받아들이고 있는지를 구분하는 기술을 개발했다. 쉽게 말해 사람이 직접 “틀렸다”고 말하지 않아도, 뇌파를 통해 “목표가 틀렸다”거나 “방법이 틀렸다”는 반응을 AI가 알아챌 수 있게 한 것이다.
이어 이렇게 읽어낸 뇌 신호를 AI에 실시간으로 전달해 스스로 행동을 고치도록 하는 ‘신경 가치 정렬 기반 인간-AI 시너지’ 알고리즘을 제안했다.
AI는 상태 예측 오차(SPE)가 감지되면 “원하는 목표는 맞지만 방법이 잘못됐다”고 판단해 행동 방식을 바꾸고, 보상 예측 오차(RPE)가 나타나면 “목표 자체를 잘못 이해했다”고 판단해 사람이 실제로 원하는 것이 무엇인지 다시 찾는다.
시뮬레이션 결과, 사람의 목표가 갑자기 바뀌거나 일부 신호가 빠지는 등 불확실한 상황에서도 기존 방식보다 빠르게 사람의 의도 변화에 적응하는 것으로 나타났다.
이번 연구의 핵심은 사람이 AI에게 계속 “이렇게 해”, “그게 아니야”라고 말하거나 몸짓으로 알려주지 않아도, AI가 사람의 무의식적인 ‘이게 아닌데’라는 뇌 반응을 읽고 스스로 행동을 고칠 수 있는 가능성을 보여줬다는 점이다.
향후 기술이 발전하면 가정이나 산업 현장의 피지컬 AI 로봇이 사용자의 의도를 보다 자연스럽게 파악하고 행동을 조정하는 데 활용될 수 있다. 자율주행차가 운전자의 판단을 빠르게 반영하거나, 말을 하거나 몸을 움직이기 어려운 환자가 의료·재활 로봇을 제어하고, AI가 학생의 인지 상태에 맞춰 학습을 돕는 기술로도 확장될 수 있다.
궁극적으로는 사람이 일일이 명령해야 움직이는 AI에서, 사람의 반응을 알아채고 스스로 맞춰가는 AI로 발전하는 새로운 인간-AI 협업 방식을 제시한 연구다.
이번 국제 공동연구를 주도한 이상완 교수는 “이번 연구는 인공지능이 눈에 보이는 행동 결과만으로 인간의 의도를 추정하던 기존 방식에서 벗어나, 행동 이면에서 발생하는 뇌의 인지 신호를 AI와의 협업에 직접 활용할 수 있음을 보여줬다는 데 의미가 있다”며 “향후 피지컬 AI, BCI, 자율주행, 정밀 맞춤형 교육, 의료용 로봇, 인간-컴퓨터 상호작용(HCI) 등 인간의 판단과 AI의 행동을 긴밀하게 연결해야 하는 다양한 분야로 확장될 수 있을 것”이라고 말했다.
마이크로소프트연구소 이미란 전무는 “이번 성과는 KAIST와 마이크로소프트연구소 아시아가 지속해 온 국제 공동연구의 결실”이라며 “앞으로도 양 기관의 협력을 통해 인간과 AI가 보다 자연스럽게 소통하고 협력할 수 있는 세계적 수준의 BCI 기술 개발을 이어갈 것으로 기대한다”고 말했다.
이번 연구에는 KAIST 뇌인지과학과 박사과정 서흔(Xin Xu) 학생이 제1저자로 참여했으며, 마이크로소프트연구소 아시아의 얀센 왕(Yansen Wang), 동치 한(Dongqi Han), 동쉔 리(Dongsheng Li) 박사 등이 공동 연구진으로 참여했다. 연구 결과는 사이버네틱스 분야 대표 국제 학술지 ‘IEEE 트랜잭션스 온 사이버네틱스(IEEE Transactions on Cybernetics)’에 2026년 8월 온라인 게재됐다.
※논문명: Neural Value Alignment: Human–AI Collaboration Under Goal-Action Ambiguity, DOI: 10.1109/TCYB.2026.3722605>
한편, 지속적으로 변화하는 환경에서 AI가 새로운 정보에 빠르게 적응하도록 하는 KAIST 이상완 교수 연구팀-마이크로소프트연구소 아시아의 또 다른 공동연구도 KAIST 뇌인지과학과 박사과정 니클라스 쾨페(Niklas Koeppe) 학생이 제1저자로 참여해 인공지능 분야 대표 국제학회인 ICML 2026(International Conference on Machine Learning)에서 지난 6월 발표됐다.
※논문명: Mitigating Plasticity Loss through Architectural Design in Continual Learning, 논문원본: https://icml.cc/virtual/2026/poster/61534
이번 연구는 과학기술정보통신부 정보통신기획평가원의 디지털분야글로벌연구지원사업 지원을 받아 수행됐다.
2026.09.10 조회수 361 -
AI ‘시간 오류’ 잡았다...의료·법률 분야 신뢰성 높인다
“지난달 취임한 장관이 누구냐”는 질문에 챗GPT가 1년 전 인물을 답한다면 어떨까. 최신 정보를 제대로 반영하지 못하는 AI의 한계를 보여주는 사례다. 우리 대학 연구진이 변화하는 현실 정보를 자동으로 반영하면서도, 겉으로는 맞아 보이는 ‘시간 오류’까지 잡아내는 새로운 평가 기술을 개발했다. AI 신뢰성을 획기적으로 높일 수 있을 것으로 기대된다.
우리 대학은 전기및전자공학부 황의종 교수 연구팀이 마이크로소프트연구소(Microsoft Research)와 공동연구를 통해, 시간 데이터베이스 기술을 활용해 거대언어모델(LLM)의 시간 추론 능력을 자동으로 평가·진단하는 시스템을 개발했다고 14일 밝혔다.
인공지능이 사용자의 신뢰를 얻기 위해서는 시시각각 변화하는 현실 정보를 정확히 이해하는 능력이 필수적이다. 그러나 기존 평가 방식은 정답 일치 여부만을 확인하거나 복잡한 시간 관계를 충분히 반영하지 못해, 실제 환경에서 발생하는 다양한 질문 상황을 제대로 평가하기 어렵다는 한계가 있었다.
연구팀은 이를 해결하기 위해 지난 40여 년간 검증되어 온 ‘시간 데이터베이스(Temporal Database)’ 설계 이론을 인공지능 평가에 최초로 도입했다. 데이터의 시간적 흐름과 관계 구조를 활용해, 사람이 평가용 문제를 일일이 작성하지 않아도 데이터베이스만으로 13가지 유형의 복잡한 시간 기반 문제가 자동으로 생성되도록 했다는 점이 핵심이다.
특히 이번 기술은 사람이 문제를 직접 만들던 기존 방식에서 벗어나, 데이터를 기반으로 평가 문제가 자동 생성되는 방식으로 전환했다는 점에서 가장 큰 혁신으로 평가된다. 또한 데이터베이스를 기준으로 문제 생성부터 정답 도출, 검증까지 전 과정을 자동화해, 기존처럼 문제를 일일이 수정할 필요 없이 유지보수 부담을 획기적으로 줄일 수 있다.
현실 정보가 변경될 경우에는 해당 내용을 데이터베이스에 업데이트하면 평가 문제와 정답, 검증 기준이 자동으로 반영된다. 다만 최신 정보의 입력 자체는 외부 데이터나 관리자를 통해 이루어지며, 본 기술은 이러한 데이터가 갱신된 이후 평가 전반을 자동으로 수행하는 구조다.
또한 연구팀은 단순히 최종 답이 맞는지 틀리는지 여부를 판단하는 기존 방식에서 나아가, 답변 과정에서 제시된 날짜나 기간의 논리적 타당성까지 검증하는 지표를 새롭게 도입했다. 이를 통해 겉보기에는 정답처럼 보이지만 시간적 근거가 잘못된 ‘시간 환각(Temporal Hallucination)’ 현상을 기존 대비 평균 21.7% 더 정확하게 탐지하는 성과를 보였다.
이 기술을 적용하면 정보 변경 시 데이터베이스만 갱신하면 되기 때문에 평가 유지 비용을 크게 절감할 수 있으며, 입력 데이터량 역시 기존 대비 평균 51% 줄어드는 효과를 보였다.
황의종 교수는 “이번 연구는 고전적인 데이터베이스 설계 이론이 최신 인공지능의 신뢰성 문제를 해결하는 데 중요한 역할을 할 수 있음을 보여준 사례”라며, “방대한 전문 데이터를 평가 자원으로 전환함으로써 향후 의료·법률 등 다양한 분야의 인공지능 성능 검증에 실질적인 기반이 될 것으로 기대한다”고 말했다.
이번 연구는 KAIST 김소연 박사과정이 제1저자로 참여했으며, 마이크로소프트연구소의 진동 왕(Jindong Wang, 現 윌리엄 앤 메리 대학교)과 싱 시에(Xing Xie) 연구원이 공동 저자로 참여했다. 연구 결과는 오는 4월 인공지능 분야 최고 권위 학술대회인 ‘ICLR 2026’에서 발표될 예정이다.
※ 논문명: Harnessing Temporal Databases for Systematic Evaluation of Factual Time-Sensitive Question-Answering in Large Language Models, 논문 링크: https://arxiv.org/abs/2508.02045
한편, 이번 연구는 마이크로소프트연구소, 한국연구재단, 정보통신기획평가원(IITP) 글로벌 AI 프론티어랩 과제(RS-2024-00469482, RS-2024-00509258)의 지원을 받아 수행됐다.
2026.04.14 조회수 3059 -
마이크로소프트사와 연구협력센터 설립
- 공동연구, 커리큘럼 혁신, 인재육성 등 다양한 교류 활동 계획
우리학교는 세계최대 정보기술기업인 美 마이크로소프트사와 공동으로 KAIST 캠퍼스 내에 연구협력센터를 설립키로 했다. 양 기관은 30일(목) 오전 서울 웨스틴조선호텔에서 이와 관련한 양해각서(MOU)를 체결했다.
이날 행사에는 KAIST 서남표 총장, 장순흥 교학부총장, 양지원 대외부총장, 마이크로소프트사의 크레이그 먼디(Craig Mundie) 최고연구전략임원, 마이크로소프트연구소(MSR)의 아시아연구소장 샤오우엔 혼(Hsiao-Wuen Hon) 박사, 한국마이크로소프트 유재성 사장 등이 참석했다.
MOU에 따라 마이크로소프트사는 연구협력센터의 설립 및 운영에 따른 비용 등을 지원하고, KAIST는 연구인력과 장소 등을 제공하게 되며, 소프트웨어의 공동 연구 개발, 커리큘럼 혁신, 인재양성 및 연구실적 교류에 함께 나서게 된다.
이날 MOU 체결이 있기까지 지난 3년간 KAIST와 마이크로소프트연구소는 공동연구 및 인턴십, 장학생 선발 등의 학생 대상 프로그램과 다양한 상호교류 활동 등을 통해 긴밀히 협력해 왔는데, 시스템 바이올로지(System Biology)에 특화된 소프트웨어 개발 도서관(Software development library) 건립이 그 대표적 성과다. 또한, KAIST의 우수한 학생들이 중국 베이징과 미국 레드몬드에 있는 마이크로소프트연구소 인턴십 프로그램에 참여하기도 했다.
KAIST 서남표 총장은 “KAIST가 마이크로소프트와 더욱 긴밀히 협력할 수 있게 돼 기쁘다.”며, “이번 연구협력센터 건립을 계기로 컴퓨터 과학 분야의 당면한 난제들을 해결하는 것은 물론, 컴퓨터 기술을 다른 분야에 응용하기 위한 연구도 가속화될 것”이라고 내다봤다.
샤오우엔 혼 박사는 “지난 10년간 마이크로소프트연구소는 아시아 최고의 대학들과 협력하며, 최신의 컴퓨터과학 연구분야에서 다양한 연구실적과 우수 인력 양성을 통해 아시아 지식경제 발전에 기여해 왔다”며 “KAIST-마이크로소프트연구소 공동 연구협력센터 건립은 한국에서의 산학협력 및 대학과의 새로운 파트너십 형성을 위해 그동안 마이크로소프트가 펼쳐온 노력의 결과”라고 강조했다.
<사진설명> 사진 왼쪽부터 양지원 KAIST 대외부총장, 샤오우엔 혼 마이크로소프트연구소 아시아연구소장, 서남표 KAIST 총장, 크레이그 먼디 마이크로소프트사 최고연구전략임원, 장순흥 KAIST 교학부총장, 유재성 한국마이크로소프트 사장
2008.10.30 조회수 21831