연구
< (왼쪽부터) KAIST 권다희 박사과정, 이세현 박사과정 (상단) 최재식 교수 >
딥러닝 기반 이미지 인식 기술이 빠르게 고도화되고 있지만, AI가 내부에서 어떤 기준으로 이미지를 보고 판단하는지는 여전히 명확히 설명하기 어려운 영역으로 남아 있다. 특히 대규모 모델이 어떤 개념(예: 고양이 귀, 자동차 바퀴 등)을 어떻게 조합해 결론을 내리는지 분석하는 기술은 오랫동안 해결해야 할 과제로 제기돼 왔다.
우리 대학은 김재철AI대학원 최재식 교수 연구팀이 AI가 어떤 근거로 판단하는지를 인간이 이해할 수 있도록 보여주는‘설명가능성(XAI, Explainable AI)’분야에서, 모델 내부의 개념 형성 과정을 회로(circuit) 단위로 시각화하는 새로운 XAI 기술을 개발했다고 26일 밝혔다.
이번 연구는 ‘AI가 어떻게 생각하는지’를 구조적으로 들여다볼 수 있도록 한 중요한 진전으로 평가된다.
딥러닝 모델 내부에는 인간의 뇌처럼 ‘뉴런(Neuron)’이라는 기본 계산 단위가 존재한다. 뉴런은 이미지 속 작은 특징—예를 들어 귀 모양, 특정 색, 윤곽선 등—을 감지하는 기능을 갖고 있으며, 값(신호)을 계산해 다음 단계로 전달한다.
반면 ‘회로(circuit)’는 이러한 뉴런 여러 개가 서로 연결되어 하나의 의미(개념)를 함께 인식하는 구조를 말한다. 예를 들어 ‘고양이 귀’라는 개념을 인식하기 위해서는 귀의 윤곽을 감지하는 뉴런, 삼각형 형태를 감지하는 뉴런, 털 색 패턴을 감지하는 뉴런 등 여러 뉴런이 순차적으로 작동해야 하며, 이들이 하나의 기능 단위(회로)를 이룬다.
지금까지의 설명 기술은 “특정 뉴런이 특정 개념을 본다”는 단일 뉴런 중심의 접근이 많았다. 그러나 실제 딥러닝 모델은 여러 뉴런이 협력하는 회로 구조로 개념을 형성하며, KAIST 연구팀은 이 점에 착안해 AI의 개념 표현 단위를 '뉴런 → 회로'로 확장해 해석하는 기술을 제시했다.
연구팀이 개발한 ‘세분화된 개념회로(Granular Concept Circuits, GCC)’ 기술은 이미지 분류 모델이 내부에서 개념을 형성하는 과정을 회로 단위로 분석하고 시각화하는 새로운 방식이다.
GCC는 뉴런 민감도(Neuron Sensitivity), 의미 흐름 점수(Semantic Flow)를 계산해 회로를 자동적으로 추적한다. 뉴런 민감도는 특정 뉴런이 어떤 특징에 얼마나 민감하게 반응하는지, 의미 흐름 점수는 그 특징이 다음 개념으로 얼마나 강하게 전달되는지를 보여주는 지표로, 이를 통해 색·질감 같은 기본 특징이 어떻게 상위 개념으로 조립되는지 단계적으로 시각화할 수 있다.
연구팀은 특정 회로를 잠시 비활성화(ablation)하는 실험을 수행했다. 그 결과, 회로가 담당하던 개념이 사라지면서 AI의 예측이 실제로 달라지는 현상이 나타났다.
즉, 해당 회로가 실제로 그 개념을 인식하는 기능을 수행하고 있음을 직접적으로 입증한 것이다.
이번 연구는 복잡한 딥러닝 모델 내부에서 개념이 형성되는 실제 구조를 세밀한 회로 단위로 드러낸 최초의 연구로 평가된다. 이를 통해 AI 판단 근거의 투명성 강화, 오분류 원인 분석, 편향(Bias) 검출, 모델 디버깅 및 구조 개선, 안전성·책임성 향상 등 설명가능성(XAI) 전반에서 실질적인 응용 가능성을 제시한 것이다.
연구팀은 “AI가 내부에서 만드는 개념 구조를 사람이 이해할 수 있는 방식으로 보여주는 기술”이라며 “이번 연구는 AI가 ‘어떻게 생각하는지’를 과학적으로 연구할 수 있는 출발점”이라고 밝혔다.
최재식 교수는 “복잡한 모델을 단순화해 설명하던 기존 방식과 달리, 모델 내부를 세부 회로 단위로 정밀하게 해석한 최초의 접근”이라며 “AI가 학습한 개념을 자동으로 추적·시각화할 수 있음을 입증했다”고 말했다.
< 연구팀에서 제안한 개념회로에 대한 개요 >
KAIST 김재철AI대학원 권다희 박사과정과 이세현 박사과정이 공동 제1 저자로 참여한 이번 연구는 국제 학술대회 `국제 컴퓨터 비전 학술대회 (International Conference on Computer Vision, ICCV)’에서 10월 21일 발표되었다.
※ 논문명 : Granular Concept Circuits: Toward a Fine-Grained Circuit Discovery for Concept Representations
※ 논문링크: https://openaccess.thecvf.com/content/ICCV2025/papers/Kwon_Granular_Concept_Circuits_Toward_a_Fine-Grained_Circuit_Discovery_for_Concept_ICCV_2025_paper.pdf
한편 이번 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 사람중심핵심원천기술개발사업의 일환으로 '플러그앤플레이 방식으로 설명가능성을 제공하는 인공지능 기술 개발 및 인공지능 시스템에 대한 설명 제공 검증' 과제, AI 연구거점 프로젝트 및 한국과학기술원 인공지능 대학원 프로그램과제의 지원을 받고 방위사업청과 국방과학연구소의 지원으로 한국과학기술원 미래 국방 인공지능 특화연구센터에서 수행됐다.
-
연구 전 세계 슬럼가 찾아내는 AI 개발..AAAI 2026 최우수논문상
“슬럼(Slum, 빈곤지역)이 어디에 있는지조차 모르는 도시들” 한국 연구진이 위성사진만으로 슬럼 지역을 스스로 찾아내는 인공지능(AI)을 개발했다. 사람이 미리 위치를 표시해 주지 않아도 새로운 도시에서 자동으로 적응해 정확도를 높이는 기술로, 데이터가 부족한 개발도상국의 도시정책 수립과 공공 자원 배분 방식을 근본적으로 바꿀 수 있을 것으로 기대된다. 우리 대학은 전산학부 차미영 교수와 기술경영학부 김지희 교수 공동 연구팀이 전남대학교(총장 이근배) 지리학과 양재석 교수와 함께한 학제 간 융합 연구를 통해 위성사진 기반 범용 슬럼 탐지 AI 기술을 개발했다고 6일 밝혔다. 이번 연구는 세계 최고 권위의 인공지능 학술대회 ‘국제인공지능학회(AAAI) 2026’에서 ‘사회적 임팩트 AI(AI for Social Impact)’ 부문 최우수논문상(Best Paper Award)을 수상했다. 해당 부문에 제출된 6
2026-03-06 -
연구 스마트워치 병원급 혈압 도전..심혈관 질환 조기 진단 성큼
혈액의 흐름은 생명의 신호다. 이 흐름이 느려지거나 불안정해지면 심혈관 질환과 쇼크로 이어질 수 있다. 그러나 혈류를 정확히 측정하려면 병원 장비에 의존해야 했다. 우리 대학 연구진이 피부에 붙이기만 하면 혈류를 실시간으로 측정할 수 있는 무선 전자패치를 개발했다. 우리 대학은 전기및전자공학부 권경하 교수 연구팀이 딥러닝(AI)과 다층 열 센싱 기술을 결합한 무선 웨어러블 혈류 측정 시스템을 개발했다고 5일 밝혔다. 이 장치는 혈관을 직접 건드리지 않고도(비침습 방식) 혈류 속도와 혈관 깊이를 동시에 측정할 수 있다. 혈관이 피부 속 얼마나 깊이 위치하느냐에 따라 센서 신호가 달라지기 때문에, 깊이 정보는 혈류를 정확히 계산하는 핵심 변수다. 기존에는 초음파나 광학 방식이 주로 사용됐지만, 장비가 크거나 혈관 깊이에 따라 정확도가 떨어지는 한계가 있었다. 연구팀은 이를 해결하기 위해 ‘혈액이 흐르면 주변에 미세한 열 이동이 발생한다’는 점에 주목했다.
2026-03-05 -
행사 봄날 캠퍼스 ‘느슨한 시간(Oblique Time) ’展 개최
우리 대학이 단순히 작품을 ‘보는’ 전시를 넘어, 관람객이 직접 공간을 거닐며 ‘느슨한 시간’을 경험하는 자리로 초대한다. ‘느슨한 시간’은 직선적으로 흘러가는 일상의 시간에서 벗어나, 공간을 거닐며 감각과 사유가 천천히 교차하는 또 다른 시간의 결을 의미한다. 우리 대학은 그래픽 디자이너 김영나 작가의 설치 미술 작품 기획전 ‘느슨한 시간(Oblique Time)’을 대전 본원 KAIST 미술관에서 3일 개최한다고 밝혔다. 이번 전시는 새롭게 공개되는 미술관 옥상 공간에서 펼쳐진다. 옥상에 설치된 세 점의 작품은 바람과 빛, 시선과 움직임을 매개로 공간의 감각을 새롭게 일깨운다. 옥상에 들어서면 높이 솟은 기둥들이 관람객을 맞이하고, 기둥 사이를 천천히 걸을수록 바람이 스치고 지나간 흔적이 몸으로 읽힌다. 계단을 오르내리면 같은 공간도 전혀 다른 장면으로 펼쳐지고, 바닥에 놓인 원형 거울
2026-03-03 -
연구 '뇌를 닮은 AI’ 개발.. 예측이 틀려도 한번 더 생각한다
인공지능은 이제 바둑을 두고, 그림을 그리고, 사람처럼 대화까지 한다. 하지만 결정적인 차이가 있다. AI는 인간의 뇌보다 훨씬 많은 전기를 써야 작동한다는 점이다. 과학자들이 오랫동안 던져온 질문은 이것이다. “뇌는 어떻게 이렇게 적은 에너지로도 똑똑하게 학습할 수 있을까?”우리 대학 연구진이 그 답에 한 걸음 다가섰다. 우리 대학은 뇌인지과학과 이상완 교수 연구팀이 인간 뇌의 학습 원리를 딥러닝에 적용해, 깊은 인공지능 모델도 안정적으로 학습시키는 새로운 기술을 개발했다고 1일 밝혔다. 우리 뇌는 세상을 수동적으로 받아들이지 않는다. 현재 벌어지는 일을 단순히 인식하는데서 그치지 않고‘다음에 무슨 일이 일어날까?’를 먼저 예측하고, 실제 결과가 다르면 그 차이(오차)를 줄이는 방향으로 스스로를 수정한다. 바둑에서 상대의 다음 수를 예상했다가 빗나가면 전략을 바꾸는 것과 비슷하다. 이 같은 정보처리 방식을 ‘예측 부호화(
2026-03-03 -
행사 '딥테크 스케일업 밸리’ 본격 가동...피지컬 AI 실행 전략 공개
우리 대학은 26일 대전 본원에서 ‘딥테크 스케일업 밸리사업 추진 보고회’를 개최하고, 로봇 중심으로 추진 중인 피지컬AI 전략과 실행 구조를 공개했다고 27일 밝혔다. 딥테크 스케일업 밸리 육성사업은 과학기술정보통신부, 대전광역시, KAIST가 공동으로 추진하는 사업으로, KAIST는 2025년부터 3년 6개월간 총 136억 5천만 원 규모의 사업비를 확보했다. 본 사업은 KAIST의 로봇 분야 딥테크 기술을 사업화해 로봇 혁신 생태계를 구축하는 것을 목표로 한다. 주관기관인 KAIST(총괄 김정 교수)를 중심으로 카이스트홀딩스, 대전테크노파크, 대전창조경제혁신센터, 엔젤로보틱스, 유로보틱스 등이 참여하는 로봇 얼라이언스를 구성했다. 본 사업은 기술사업화, 딥테크 R&D, 상용화 스케일업의 3축 체계를 기반으로 선순환 생태계를 조성하고 미래 유니콘 기업을 육성하는 것을 목표로 한다. 1차년도(2025년)에는 Physical AI 강연, 스타트업
2026-02-27