%ea%b9%80%ec%9e%ac%ec%b2%a0%41%49%eb%8c%80%ed%95%99%ec%9b%90
-
KAIST-카카오뱅크, '설명 가능한 AI' 속도 11배 높였다. "금융 AI 신뢰도↑"
우리 대학 김재철AI대학원 최재식 교수 연구팀이 ㈜카카오뱅크(대표 윤호영)와 공동으로 인공지능(AI) 모델의 판단 근거를 실시간으로 설명할 수 있는 가속화 설명 기술을 개발했다고 밝혔다.
이번 연구 성과는 AI 모델의 예측 결과에 대한 기존 설명 알고리즘 대비 평균 8.5배, 최대 11배 이상 빠른 처리 속도를 달성해, 금융 서비스 등 실시간 의사결정이 필요한 분야에서 설명가능 인공지능(Explainable Artificial Intelligence, 이하 XAI) 기술의 실용화 가능성을 크게 높였다.
금융 분야에서는 AI 시스템이 내린 결정에 대한 명확한 설명이 필수적이다. 특히 대출 심사나 이상거래 탐지와 같이 고객의 권익과 직결된 서비스에서는 AI 모델의 판단 근거를 투명하게 제시해야 하는 규제 요구가 점차 강화되고 있다. 하지만 기존의 설명가능 인공지능(XAI) 기술은 정확한 설명을 생성하기 위해 수백에서 수천 개의 기준점(Baseline)을 반복 계산해야 하므로 막대한 연산 비용이 발생했다. 이는 실시간 서비스 환경에서 설명가능 인공지능 (XAI) 기술의 적용을 제약하는 주요 요인이었다.
최재식 교수 연구팀은 이러한 문제를 해결하기 위해 'ABSQR(Amortized Baseline Selection via Rank-Revealing QR)'이라는 설명 알고리즘 가속화 프레임워크를 개발했다. ABSQR은 AI 모델 설명 과정에서 생성되는 가치 함수 행렬(value function matrix)이 저차원 구조를 가진다는 점에 착안해, 수백 개의 기준점 중에서 핵심적인 소수만을 선별하는 방식을 도입했다. 기준점 개수에 비례하던 연산량을 선별된 중요 기준점 개수에만 비례하도록 획기적으로 줄여, 설명 정확도는 유지하면서도 계산 효율성을 극대화했다.
구체적으로 ABSQR은 두 단계로 작동한다. 첫 번째 단계에서는 특이값 분해(SVD)와 랭크 판별형 QR 분해(Rank-Revealing QR decomposition) 기법을 활용해 중요한 기준점들을 체계적으로 선별한다. 이는 기존의 무작위 샘플링 방식과 달 정보력 복원 유지를 목적으로 한 결정론적 선택 방법으로, 설명의 정확도를 보장하면서도 계산량을 획기적으로 줄일 수 있다. 두 번째 단계에서는 사전에 계산해둔 기준점의 가중치들을 클러스터 기반 검색을 통해 재사용하는 가속화 추론(amortized inference) 메커니즘을 도입해, 실시간 서비스 환경에서 모델 평가를 반복하지 않고도 모델의 예측 결과에 대한 설명을 제공할 수 있게 했다.
연구팀은 다양한 실제 데이터셋을 대상으로 한 실험을 통해 ABSQR의 우수성을 검증했다. 금융, 마케팅, 인구통계 등 5개 분야의 표준 데이터셋에 대한 테스트 결과, ABSQR은 모든 기준점을 사용하는 기존 설명 알고리즘 대비 평균 8.5배 빠른 처리 속도를 달성했으며, 최대 11배 이상의 속도 향상을 기록했다. 또한, 속도 향상에 따른 설명 정확도 저하를 최소화하여 기준 알고리즘 대비 최대 93.5%의 설명 정확도를 유지했다. 이는 실무 환경에서 요구되는 설명 품질을 충분히 만족하는 수준이다.
카카오뱅크 관계자는 "앞으로도 끊임없는 연구개발을 통해 금융 서비스의 신뢰도와 편의성을 높이고, 고객이 체감할 수 있는 혁신적인 금융 기술을 선보이겠다"고 밝혔다.
공동 제1 저자인 KAIST 이찬우, 박영진 연구원은 "금융 분야에서 실시간 적용을 위해 가장 중요한 과제인 가속화 문제를 해결한 방법론으로, 사용자에게 학습 모델에 대한 의사결정 원인을 실시간으로 제공할 수 있음을 입증했다"라고 연구의 의의를 설명했다. 이어 "이번 연구는 설명 알고리즘에서 불필요한 연산과 중요한 기준점 선택이 무엇인지에 대한 새로운 통찰을 제공하며, 설명 기술의 효율성 향상에 실질적으로 기여할 것"이라고 덧붙였다.
KAIST 김재철AI대학원 이찬우, 박영진 박사 과정 연구원과 카카오뱅크 금융기술연구소 이현근, 유예은 연구원이 공동 제1 저자로 참여한 이번 연구는 정보 및 지식 관리 분야의 세계 최고 권위 학술대회인 'CIKM 2025(ACM International Conference on Information and Knowledge Management)'에서 11월 12일에 발표되었다.
※ 논문명: Amortized Baseline Selection via Rank-Revealing QR for Efficient Model Explanation
※ 저자 정보:
- 공동 제1저자: 이찬우(KAIST 김재철AI대학원), 박영진(KAIST 김재철AI대학원), 이현근(카카오뱅크), 유예은(카카오뱅크)
- 공저자: 한대희(카카오뱅크), 최준호(KAIST 김재철AI대학원), 김건형(KAIST 김재철AI대학원)
- 교신저자: 김나리(KAIST 김재철AI대학원), 최재식(KAIST 김재철AI대학원)
※ DOI: https://doi.org/10.1145/3746252.3761036
한편, 이번 연구성과는 카카오뱅크의 산학 연구과제 ‘금융분야 설명가능 인공지능 알고리즘 고도화 연구’와 과기정통부·정보통신기획평가원(IITP)의 지원 과제 ‘플러그앤플레이 방식으로 설명가능성을 제공하는 인공지능 기술 개발 및 인공지능 시스템에 대한 설명 제공 검증'를 통해 수행됐다.
2025.12.11 조회수 993 -
AI로 인간 집단행동 예측! 세계 최고 학회에서 1위.. 23년 만의 쾌거
우리 대학은 김재철AI대학원 신기정 교수 연구팀이 개인의 나이, 역할 등 특성이 집단 관계에 미치는 영향을 분석해 복잡한 사회 집단행동을 예측하는 획기적인 AI 기술을 개발했다고 9일 밝혔다.
연구팀은 이 기술로 미국전기전자학회(IEEE) 주관 세계적 데이터마이닝 학술대회 'IEEE ICDM'에서 최우수 논문상(Best Paper Award)을 수상하는 쾌거를 이루었다. 이는 전 세계 785편 중 단 1편에게만 주어지는 최고 권위의 상으로, 한국 대학 연구팀으로서는 23년 만의 수상으로 KAIST가 다시 한 번 세계 연구 무대에서 기술 리더십을 입증했다.
오늘날 온라인 커뮤니티·연구 협업·단체 채팅 등 다수가 동시에 참여하는 집단 상호작용은 사회 곳곳에서 폭발적으로 늘고 있다. 그러나 이러한 집단 행동이 어떤 구조로 형성되고, 개인의 특성이 어떻게 영향을 미치는지를 동시에 정밀하게 설명해 내는 기술은 부족했다.
신기정 교수 연구팀은 이 한계를 뛰어넘기 위해 개인 특성과 집단 구조를 실제처럼 맞물리게 재현하는 AI 모델 ‘NoAH(Node Attribute-based Hypergraph Generator)’를 개발했다.
NoAH는 사람들의 특징이 모이면 어떤 그룹 행동이 만들어지는지를 설명하고 흉내내는 인공지능이다. 예를 들어, 어떤 사람이 어떤 관심사를 갖고 있는지, 어떤 역할을 하는지 등의 정보들이 실제로 어떻게 모여서 그룹 행동을 만들어 내는지를 분석해 그대로 재현할 수 있다.
그래서 NoAH는 사람의 성향과 관계를 동시에 반영해 ‘현실 같은 집단 행동’을 만들어 내는 AI로, 전자상거래에서의 구매 조합, 온라인 토론의 확산 과정, 연구자들의 논문 공저 네트워크 등 다양한 실제 집단 행동을 기존 모델보다 훨씬 더 사실적으로 재현하는 것으로 나타났다.
신기정 교수는 “이번 연구는 집단의 구조뿐 아니라 개인의 특성까지 함께 고려해, 복잡한 상호작용을 입체적으로 이해할 수 있는 새로운 AI 패러다임을 열었다”며 “온라인 커뮤니티, 메신저, 소셜 네트워크 분석 등이 한층 정밀해질 것”이라고 말했다.
이번 연구는 신기정 교수와 KAIST 김재철AI대학원 소속 전재완·윤석범 석사과정, 최민영·이건 박사과정으로 구성된 연구팀이 수행하였으며, IEEE ICDM에서 11월 18일 자 발표하였다.
※논문명: Attributed Hypergraph Generation with Realistic Interplay Between Structure and Attributes
논문원본: https://arxiv.org/abs/2509.21838
한편, 신 교수 연구팀은 이번 수상 논문을 포함해 올해 IEEE ICDM에서 총 네 편의 논문을 발표했다. 또한 2023년에도 같은 학술대회에서 상위 4등인 Best Student Paper Runner-up을 수상한 바 있다.
이 성과는 정보통신기획평가원의 지원을 받은 AI 연구거점 프로젝트, 인공지능 대학원 지원(KAIST), 인공지능 에이전트 협업기반 신경망 변이 및 지능 강화 기술 개발 과제의 지원을 받았다.
2025.12.09 조회수 1527 -
김기응 국가AI연구거점 센터장, 'SW산업인의 날' 근정포장 수훈
우리 대학 김기응 교수(국가 AI 연구거점 센터장, 김재철AI대학원 석좌교수)가 1일 서울 양재동 엘타워에서 열린 ‘제26회 소프트웨어 산업인의 날’ 기념식에서 SW산업발전 유공자 근정포장을 수여받았다.
과학기술정보통신부(장관 배경훈)가 주최하고 정보통신산업진흥원(원장 박윤규)과 한국소프트웨어산업협회(회장 조준희)가 주관한 이번 행사는 대한민국 소프트웨어 및 AI 산업 발전에 기여한 유공자를 포상하고 산업인의 위상을 드높이기 위해 마련됐다. 이날 행사에는 배경훈 부총리 겸 과기정통부 장관이 직접 참석하여 시상했다.
김기응 센터장은 김재철AI대학원 석좌교수로서 강화학습 등 AI 원천 기술 분야를 선도해왔을 뿐만 아니라 국가 AI 연구거점(NAIRL)의 총괄책임자를 맡아 국내 최대 규모의 산·학·연·관 콘소시엄을 이끄는 등 국가 발전에 기여한 공로를 인정받았다.
한편, 국가 AI 연구거점(KAIST 주관)은 2024년 10월 과학기술정보통신부(장관 배경훈)·정보통신평가기획원(원장 홍진배)의 지원을 받아 설립된 이후 KAIST·고려대·연세대·포스텍 4개 대학과 다수의 해외 연구기관이 함께 협력하는 체제로 운영되며 글로벌 AI 연구 생태계를 강화하고 있다.
실제로 거점은 지난 7월 일본 이화학연구소(RIKEN)와의 협력 관계를 수립하고 10월에는 '글로벌 AI 프론티어 심포지엄 2025'를 개최하여 튜링상 수상자인 얀 르쿤 교수 등 세계적 석학들과의 교류를 주도하는 등 '개방형 혁신(Open Innovation)'을 구현한 바 있다.
김기응 센터장은 "(이번 수훈에 대해) 어깨가 무겁고 막중한 책임감을 느낀다"며 "앞으로도 국가 인공지능(AI) 및 소프트웨어(SW) 분야의 발전을 위해 더욱 매진하겠다"고 밝혔다.
2025.12.02 조회수 801 -
AI가 어떻게 생각하는가?...의사결정 내부 구조 첫 시각화
딥러닝 기반 이미지 인식 기술이 빠르게 고도화되고 있지만, AI가 내부에서 어떤 기준으로 이미지를 보고 판단하는지는 여전히 명확히 설명하기 어려운 영역으로 남아 있다. 특히 대규모 모델이 어떤 개념(예: 고양이 귀, 자동차 바퀴 등)을 어떻게 조합해 결론을 내리는지 분석하는 기술은 오랫동안 해결해야 할 과제로 제기돼 왔다.
우리 대학은 김재철AI대학원 최재식 교수 연구팀이 AI가 어떤 근거로 판단하는지를 인간이 이해할 수 있도록 보여주는‘설명가능성(XAI, Explainable AI)’분야에서, 모델 내부의 개념 형성 과정을 회로(circuit) 단위로 시각화하는 새로운 XAI 기술을 개발했다고 26일 밝혔다.
이번 연구는 ‘AI가 어떻게 생각하는지’를 구조적으로 들여다볼 수 있도록 한 중요한 진전으로 평가된다.
딥러닝 모델 내부에는 인간의 뇌처럼 ‘뉴런(Neuron)’이라는 기본 계산 단위가 존재한다. 뉴런은 이미지 속 작은 특징—예를 들어 귀 모양, 특정 색, 윤곽선 등—을 감지하는 기능을 갖고 있으며, 값(신호)을 계산해 다음 단계로 전달한다.
반면 ‘회로(circuit)’는 이러한 뉴런 여러 개가 서로 연결되어 하나의 의미(개념)를 함께 인식하는 구조를 말한다. 예를 들어 ‘고양이 귀’라는 개념을 인식하기 위해서는 귀의 윤곽을 감지하는 뉴런, 삼각형 형태를 감지하는 뉴런, 털 색 패턴을 감지하는 뉴런 등 여러 뉴런이 순차적으로 작동해야 하며, 이들이 하나의 기능 단위(회로)를 이룬다.
지금까지의 설명 기술은 “특정 뉴런이 특정 개념을 본다”는 단일 뉴런 중심의 접근이 많았다. 그러나 실제 딥러닝 모델은 여러 뉴런이 협력하는 회로 구조로 개념을 형성하며, KAIST 연구팀은 이 점에 착안해 AI의 개념 표현 단위를 '뉴런 → 회로'로 확장해 해석하는 기술을 제시했다.
연구팀이 개발한 ‘세분화된 개념회로(Granular Concept Circuits, GCC)’ 기술은 이미지 분류 모델이 내부에서 개념을 형성하는 과정을 회로 단위로 분석하고 시각화하는 새로운 방식이다.
GCC는 뉴런 민감도(Neuron Sensitivity), 의미 흐름 점수(Semantic Flow)를 계산해 회로를 자동적으로 추적한다. 뉴런 민감도는 특정 뉴런이 어떤 특징에 얼마나 민감하게 반응하는지, 의미 흐름 점수는 그 특징이 다음 개념으로 얼마나 강하게 전달되는지를 보여주는 지표로, 이를 통해 색·질감 같은 기본 특징이 어떻게 상위 개념으로 조립되는지 단계적으로 시각화할 수 있다.
연구팀은 특정 회로를 잠시 비활성화(ablation)하는 실험을 수행했다. 그 결과, 회로가 담당하던 개념이 사라지면서 AI의 예측이 실제로 달라지는 현상이 나타났다.
즉, 해당 회로가 실제로 그 개념을 인식하는 기능을 수행하고 있음을 직접적으로 입증한 것이다.
이번 연구는 복잡한 딥러닝 모델 내부에서 개념이 형성되는 실제 구조를 세밀한 회로 단위로 드러낸 최초의 연구로 평가된다. 이를 통해 AI 판단 근거의 투명성 강화, 오분류 원인 분석, 편향(Bias) 검출, 모델 디버깅 및 구조 개선, 안전성·책임성 향상 등 설명가능성(XAI) 전반에서 실질적인 응용 가능성을 제시한 것이다.
연구팀은 “AI가 내부에서 만드는 개념 구조를 사람이 이해할 수 있는 방식으로 보여주는 기술”이라며 “이번 연구는 AI가 ‘어떻게 생각하는지’를 과학적으로 연구할 수 있는 출발점”이라고 밝혔다.
최재식 교수는 “복잡한 모델을 단순화해 설명하던 기존 방식과 달리, 모델 내부를 세부 회로 단위로 정밀하게 해석한 최초의 접근”이라며 “AI가 학습한 개념을 자동으로 추적·시각화할 수 있음을 입증했다”고 말했다.
KAIST 김재철AI대학원 권다희 박사과정과 이세현 박사과정이 공동 제1 저자로 참여한 이번 연구는 국제 학술대회 `국제 컴퓨터 비전 학술대회 (International Conference on Computer Vision, ICCV)’에서 10월 21일 발표되었다.
※ 논문명 : Granular Concept Circuits: Toward a Fine-Grained Circuit Discovery for Concept Representations
※ 논문링크: https://openaccess.thecvf.com/content/ICCV2025/papers/Kwon_Granular_Concept_Circuits_Toward_a_Fine-Grained_Circuit_Discovery_for_Concept_ICCV_2025_paper.pdf
한편 이번 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 사람중심핵심원천기술개발사업의 일환으로 '플러그앤플레이 방식으로 설명가능성을 제공하는 인공지능 기술 개발 및 인공지능 시스템에 대한 설명 제공 검증' 과제, AI 연구거점 프로젝트 및 한국과학기술원 인공지능 대학원 프로그램과제의 지원을 받고 방위사업청과 국방과학연구소의 지원으로 한국과학기술원 미래 국방 인공지능 특화연구센터에서 수행됐다.
2025.11.26 조회수 1381 -
AI가 잘 작동할지 미리 안다. 그래프 학습으로 예측 속도 43배↑
목표 과업에 좋은 성능을 보이는 신경망 구조를 찾는 것은 큰 비용이 소요되어, 신경망의 성능을 효율적으로 예측하는 방법론이 활발히 연구되었다. 우리 대학 김재철AI대학원 소속 김선우 박사과정, 황현진 석박통합과정(지도교수 신기정)은 그래프 기반 사전학습을 이용하여, 기존의 효과적인 방법론의 성능을 개선하면서, 약 43배 빠른 예측 속도를 보이는 예측 기법을 개발하였다.
인공지능 모델은 최근 다양한 분야에서 괄목할 성과를 거두었지만, 모델의 신경망 구조가 해당 모델의 성능에 영향을 크게 미치는 특징이 있다. 그러나 목표 과업에 적합한 신경망 구조를 알고자 직접적으로 해당 신경망 구조를 학습 및 평가하는 방식은 큰 비용이 소요된다. 이를 해결하기 위해, 다른 인공지능 모델을 사용하여 특정 신경망 구조의 성능을 예측하는 방식이 사용되었다. 경량화된 예측 모델은 예측 속도는 빠르나 예측 성능이 낮다는 한계가 있었고, 최근 개발된 방법론은 예측 정확도는 높으나 예측 속도가 매우 느린 문제가 있었다.
우리 대학 김재철AI대학원 소속 김선우 박사과정, 황현진 석박통합과정(지도교수 신기정)은 경량화된 예측 모델에 특수한 그래프 기반 사전학습 방식을 적용하여, 해당 모델이 최근 방법론만큼의 예측 성능을 보이도록 개선하면서, 빠른 예측 속도를 유지하도록 하는 데 성공하였다.
연구팀이 제안한 FGP라는 그래프 기반 사전학습 기법은, 신경망 모델이 갖는 주요한 특징인 정보 흐름을 예측 모델이 포착할 수 있도록 하는 방식이다. 정보 흐름이란 신경망 내 순전파와 역전파를 의미하는 개념으로, 인공지능 모델의 학습에 핵심적이다. 연구팀은 그래프로 표현된 신경망 구조에서 위상 순서에 따라 벡터를 전파 시켜, 해당 신경망 구조의 정보 흐름을 모사한 표현 벡터를 생성하였다. 이후 신경망 성능 예측 모델은 해당 표현 벡터를 생성하는 사전학습 과정을 거치면서, 신경망의 정보 흐름을 포착하는 방식을 학습하게 된다.
연구팀을 다양한 실험을 통해 경량화된 예측 모델이 최신 모델보다 약 43배 빠르게 예측을 수행하면서, 최신 모델 대비 개선된 예측 성능을 보이는 것을 검증하였으며, 기존 사전학습 방법론과 비교하여도 성능 예측 과업 및 신경망 탐색 과업 등 다양한 응용 분야에서 더 효과적임을 검증하였다.
김선우 연구원은 “그래프의 위상 순서를 적절히 응용한 것이 본 방법론의 핵심”이라고 설명했다. 또한 “이 아이디어가 신경망 구조를 나타내는 그래프뿐만이 아니라, 위상 순서가 존재하는 그래프로 표현될 수 있는 다양한 데이터로 확장될 수 있기에, 더 넓은 분야에서 응용되기를 기대한다”고 덧붙였다.
본 연구는 인공지능 분야에서 권위 있는 국제 학술대회인 제39회 신경망 정보 처리 시스템 학회(39th Conference on Neural Information Processing System, 약칭 NeurIPS 2025)에 “Learning to Flow from Generative Pretext Tasks for Neural Architecture Encoding”이라는 제목으로 출판될 예정이다.
이 성과는 정보통신기획평가원의 지원을 받은 “강건하고 공정하며 확장 가능한 데이터 중심의 연속 학습 과제”과제, “인공지능 자율성장을 위한 멀티에이전트 기반 복합지능 강화 기술 개발”과제, “AI 거점 연구 프로젝트”과제의 성과다.
2025.11.11 조회수 1536 -
인간 중심 AI 국제 워크숍 주최, 글로벌 AI 윤리논의 이끈다.
우리 대학은 11월 14일, 컴퓨터 과학 분야 세계적 권위의 학술대회인 ‘정보 및 지식관리 학회(The 34th International Conference on Information and Knowledge Management, CIKM 2025)’에서‘인간 중심 AI: 설명가능성과 신뢰성에서 실행 가능한 윤리까지(Human-Centric AI: From Explainability and Trustworthiness to Actionable Ethics)’를 주제로 국제 워크숍(워크샵 조직위원장: KAIST 김재철AI대학원 최재식 교수)을 개최할 예정이다.
이번 행사는 KAIST 김재철AI대학원이 주도하고 서울대, 서강대, 성균관대, 한국전자통신연구원(ETRI), 독일 TU Berlin 등 국내외 유수 기관이 공동으로 참여하는 자리다.
AI 기술의 잠재적 위험을 줄이고 책임 있는 활용을 위한 ‘인간 중심 AI’의 구체적 방향을 논의하기 위해 마련됐다. 워크숍에서는 AI의 설명가능성, 신뢰성, 윤리적 실행을 중심 주제로, AI 시스템이 투명하고 공정하며 인간의 가치에 부합하도록 운영되기 위한 기술적·정책적 방안이 심도 있게 다뤄진다.
이번 워크숍의 조직위원회는 KAIST 김재철AI대학원 최재식 교수와 전기및전자공학부 유창동 교수를 비롯해 서울대 한보형 교수, 서강대 구명완 교수, 성균관대 우사이먼성일 교수, ETRI 배경만 박사, 그리고 설명가능 인공지능(XAI) 분야 세계적 석학인 Wojciech Samek 교수(TU Berlin/Fraunhofer HHI)로 구성됐다.
행사는 세 개의 기조 강연(Keynote)과 구두 발표, 포스터 세션으로 구성된다. 기조연설에는 홍콩중문대학 어윈 킹(Irwin King) 교수가 ‘연합학습과 그 너머’를 주제로, KAIST 유창동 교수가 ‘대규모 비전-언어 모델의 공정한 정렬’를 주제로, 독일 프라운호퍼(Fraunhofer) HHI 연구소의 막시밀리안 드레이어(Maximilian Dreyer) 연구원이 ‘엔지니어처럼 AI를 검증하기: 설명에서 검증으로, 시맨틱렌즈와 함께’를 주제로 발표해 AI 신뢰성과 윤리 구현을 위한 최신 연구 동향을 공유한다.
우리 대학은 이번 행사를 통해 국내 AI 연구가 기술적 성과를 넘어 국제 윤리 논의의 중심으로 도약하고 있음을 보여줬다. 또한, 학계와 산업계의 전문가들이 한자리에 모여 신뢰할 수 있는 AI 구축을 위한 실천적 로드맵과 가이드라인을 논의하는 계기가 될 것으로 기대된다.
워크숍 조직위원장인 최재식 교수(KAIST 김재철AI대학원)은 “이번 워크숍은 인간 중심 AI의 핵심 주제인 설명가능성, 공정성, 프라이버시를 아우르는 글로벌 논의의 장이 될 것”이라며, “KAIST가 선도하는 인공지능 신뢰 연구가 국제 협력과 함께 윤리적 기술 발전의 방향을 제시할 것”이라고 말했다.
워크숍 참가를 희망하는 경우 CIKM 2025 학회 등록이 별도로 필요하며, 사전 등록은 https://bit.ly/hcai2025-reg 에서 가능하며 현장 등록도 가능하다.
한편, 이번 행사는 과학기술정보통신부 재원으로 정보통신기획평가원(IITP)이 지원하는‘인공지능 신뢰확보 분야 과제협의체’의 일환으로 추진되었으며, 국내외 연구자 간 학술 교류와 연구 성과 확산을 목표로 하고 있다. (참여과제 KAIST(RS-2022-II220984, RS-2022-II220184), 서울대(RS-2022-II220959), 서강대(RS-2022-II220621), ETRI(RS-2022-II220369), 성균관대(RS-2022-II220688)
2025.11.07 조회수 1271 -
숨겨진 다자 간 관계를 추적·복원하는 AI '마리오' 개발
회의실에 여러 사람이 동시에 모여 회의하는 경우처럼, 다수의 객체가 동시에 상호작용하는 고차원 상호작용(higher-order interaction)은 다양한 분야에서 발생하며, 실세계의 복잡한 관계를 담고 있다. 하지만 기술적 제약으로 인해 많은 분야에서는 주로 개별 쌍 간의 저차원 정보만 수집돼, 전체 맥락이 손실되고 활용에 제약이 따랐다. KAIST 연구진이 이처럼 불완전한 정보만으로도 고차원 상호작용을 정밀하게 복원*하는 AI ‘마리오(MARIOH)’를 개발하며, 소셜 네트워크, 뇌과학, 생명과학 등 다양한 분야에서 혁신적 분석 가능성을 열었다.
*복원: 사라지거나 관측되지 않은 원래 구조를 추정/재구성하는 것
우리 대학 김재철AI대학원의 신기정 교수 연구팀이 저차원 상호작용 정보만으로 고차원 상호작용 구조를 높은 정확도로 복원할 수 있는 인공지능 기술인 ‘마리오(이하 MARIOH, Multiplicity-Aware Hypergraph Reconstruction)’를 개발했다고 5일 밝혔다.
고차원 상호작용 복원이 어려운 이유는 동일한 저차원 상호작용 구조로부터 파생될 수 있는 고차원 상호작용의 가능성이 무수히 많기 때문이다.
연구팀이 개발한 MARIOH의 핵심 아이디어는 저차원 상호작용의 다중도(multiplicity) 정보를 활용해, 해당 구조로부터 파생될 수 있는 고차원 상호작용의 후보 수를 획기적으로 줄이는 데 있다.
더불어, 효율적인 탐색 기법을 통해 유망한 상호작용 후보를 신속하게 식별하고, 다중도 기반의 심층 학습 기술을 활용해 각 후보가 실제 고차원 상호작용일 가능성을 정확하게 예측한다.
연구팀은 10개의 다양한 실세계 데이터 셋을 대상으로 한 실험 결과, MARIOH는 기존 기술 대비 최대 74% 높은 정확도로 고차원 상호작용을 복원하는 데 성공했다.
예를 들어, 논문 공저 관계 데이터(출처: DBLP)에서는 98% 이상의 복원 정확도를 달성해, 약 86% 수준에 머무는 기존 기술을 크게 앞질렀다. 또한, 복원된 고차원 구조를 활용할 경우, 예측, 분류 등 다양한 작업에서의 성능이 향상되는 것으로 나타났다.
신기정 교수는 “MARIOH는 단순화된 연결 정보 정보에만 의존하던 기존 접근에서 벗어나, 실제 세계의 복잡한 연결 관계를 정밀하게 활용할 가능성을 열어 준다”라며, “단체 대화나 협업 네트워크를 다루는 소셜 네트워크 분석, 단백질 복합체나 유전자 간 상호작용을 분석하는 생명과학, 다중 뇌 영역 간 동시 활동을 추적하는 뇌과학 등 다양한 분야에서 폭넓게 활용될 수 있을 것”이라고 밝혔다.
김재철AI대학원의 이규한 석박통합과정(現 GraphAI 소프트웨어 엔지니어)과 이건 석박사통합과정, 신기정 교수가 저자로 참여한 이번 연구는 지난 5월에 홍콩에서 열린 제41회 IEEE 국제 데이터공학 학회(IEEE International Conference on Data Engineering, IEEE ICDE)에서 발표됐다.
※논문명: MARIOH: Multiplicity-Aware Hypergraph Reconstruction
※DOI: https://doi.ieeecomputersociety.org/10.1109/ICDE65448.2025.00233
한편, 이번 연구는 정보통신기획평가원의 지원을 받은 ‘EntireDB2AI: 전체 관계형 데이터베이스를 종합적으로 활용하는 심층 표현 학습 및 예측 원천기술과 소프트웨어 개발’ 과제와 한국연구재단의 지원을 받은 ‘그래프 파운데이션 모델: 다양한 모달리티 및 도메인에 적용 가능한 그래프 기반 기계 학습’과제의 성과다.
2025.08.05 조회수 2959 -
신기정 교수 연구팀, PAKDD 최우수 서베이 논문상 수상
우리 대학 김재철AI대학원 소속 김경호 석사과정, 김선우 박사과정, 이건 석박통합과정(지도교수 신기정)이 지난 6월 호주 시드니에서 열린 제29회 Pacific-Asia Conference on Knowledge Discovery and Data Mining (PAKDD)에서 최우수 서베이 논문상(Best Survey Paper Award)을 수상했다.
PAKDD는 데이터 마이닝 분야의 권위 있는 국제 학술대회 중 하나로, 올해는 총 168편의 논문이 발표되었으며, 그 중 김경호, 김선우, 이건 학생이 참여한 논문을 포함한 세 편이 최우수 논문으로 선정되었다.
수상 논문의 제목은 “다중 행동 추천 시스템: 서베이” (Multi-Behavior Recommender Systems: A Survey)이다. 본 서베이 논문은 클릭, 장바구니 담기, 관심 목록 추가, 구매 등 다양한 사용자 행동을 활용해 추천 시스템을 고도화하는 다중 행동 추천 시스템에 대해 체계적으로 정리하고 비교 분석하였다. 또한, 기존 연구의 한계와 향후 개선 방향을 도출함으로써 관련 연구의 발전 가능성을 제시하였다.
신기정 교수는“복합적인 사용자 행동을 통합적으로 이해하고 모델링하는 것이 추천 시스템의 정확도 고도화에 중요한 열쇠가 된다”고 설명했다. 또한 “다중 행동 추천 시스템은 여전히 해결해야 할 기술적 과제가 많고 역동적인 분야”라며, “본 논문이 해당 분야의 기초를 다지고, 이후 연구들이 더욱 창의적이고 실용적인 방향으로 나아가는 데 디딤돌 역할을 하기를 기대한다”고 덧붙였다.
이 연구에는 KAIST 연구팀 이외에도 숭실대학교 정진홍 교수가 참여하였으며, 정보통신기획평가원의 지원을 받은 “EntireDB2AI: 전체 관계형 데이터베이스를 종합적으로 활용하는 심층 표현 학습 및 예측 원천기술과 소프트웨어 개발”과제와 한국연구재단의 지원을 받은 “그래프 파운데이션 모델: 다양한 모달리티 및 도메인에 적용 가능한 그래프 기반 기계 학습”과제의 성과다.
2025.07.02 조회수 2787 -
‘뻔하지 않은 창의적인 의자’그리는 AI 기술 개발
최근 텍스트 기반 이미지 생성 모델은 자연어로 제공된 설명만으로도 고해상도·고품질 이미지를 자동 생성할 수 있다. 하지만, 대표적인 예인 스테이블 디퓨전(Stable Diffusion) 모델에서 ‘창의적인’이라는 텍스트를 입력했을 경우, 창의적인 이미지 생성은 아직은 제한적인 수준이다. KAIST 연구진이 스테이블 디퓨전(Stable Diffusion) 등 텍스트 기반 이미지 생성 모델에 별도 학습 없이 창의성을 강화할 수 있는 기술을 개발해, 예컨대 뻔하지 않은 창의적인 의자 디자인도 인공지능이 스스로 그려낼 수 있게 됐다.
우리 대학 김재철AI대학원 최재식 교수 연구팀이 네이버(NAVER) AI Lab과 공동 연구를 통해, 추가적 학습 없이 인공지능(AI) 생성 모델의 창의적 생성을 강화하는 기술을 개발했다.
최 교수 연구팀은 텍스트 기반 이미지 생성 모델의 내부 특징 맵을 증폭해 창의적 생성을 강화하는 기술을 개발했다. 또한, 모델 내부의 얕은 블록들이 창의적 생성에 중요한 역할을 한다는 것을 발견하고, 특징 맵을 주파수 영역으로 변환 후, 높은 주파수 영역에 해당하는 부분의 값을 증폭하면 노이즈나 작게 조각난 색깔 패턴의 형태를 유발하는 것을 확인했다. 이에 따라, 연구팀은 얕은 블록의 낮은 주파수 영역을 증폭함으로써 효과적으로 창의적 생성을 강화할 수 있음을 보였다.
연구팀은 창의성을 정의하는 두 가지 핵심 요소인 독창성과 유용성을 모두 고려해, 생성 모델 내부의 각 블록 별로 최적의 증폭 값을 자동으로 선택하는 알고리즘을 제시했다.
개발된 알고리즘을 통해 사전 학습된 스테이블 디퓨전 모델의 내부 특징 맵을 적절히 증폭해 추가적인 분류 데이터나 학습 없이 창의적 생성을 강화할 수 있었다.
연구팀은 개발된 알고리즘을 사용하면 기존 모델 대비 더욱 참신하면서도 유용성이 크게 저하되지 않은 이미지를 생성할 수 있음을 다양한 측정치를 활용해 정량적으로 입증했다.
특히, 스테이블 디퓨전 XL(SDXL) 모델의 이미지 생성 속도를 대폭 향상하기 위해 개발된 SDXL-Turbo 모델에서 발생하는 모드 붕괴 문제를 완화함으로써 이미지 다양성이 증가한 것을 확인했다. 나아가, 사용자 연구를 통해 사람이 직접 평가했을 때도 기존 방법에 비해 유용성 대비 참신성이 크게 향상됨을 입증했다.
공동 제1 저자인 KAIST 한지연, 권다희 박사과정은 "생성 모델을 새로 학습하거나 미세조정 학습하지 않고 생성 모델의 창의적인 생성을 강화하는 최초의 방법론ˮ이라며 "학습된 인공지능 생성 모델 내부에 잠재된 창의성을 특징 맵 조작을 통해 강화할 수 있음을 보였다ˮ 라고 말했다.
이어 “이번 연구는 기존 학습된 모델에서도 텍스트만으로 창의적 이미지를 손쉽게 생성할 수 있게 됐으며, 이를 통해 창의적인 상품 디자인 등 다양한 분야에서 새로운 영감을 제공하고, 인공지능 모델이 창의적 생태계에서 실질적으로 유용하게 활용될 수 있도록 기여할 것으로 기대된다”라고 밝혔다.
KAIST 김재철AI대학원 한지연 박사과정과 권다희 박사과정이 공동 제1 저자로 참여한 이번 연구는 국제 학술지 `국제 컴퓨터 비전 및 패턴인식 학술대회 (IEEE Conference on Computer Vision and Pattern Recognition, CVPR)’에서 6월 15일 발표됐다.
※논문명 : Enhancing Creative Generation on Stable Diffusion-based Models
※DOI: https://doi.org/10.48550/arXiv.2503.23538
한편 이번 연구는 KAIST-네이버 초창의적 AI 연구센터, 과학기술정보통신부의 재원으로 정보통신기획평가원의 지원을 받은 혁신성장동력프로젝트 설명가능인공지능, AI 연구거점 프로젝트, 점차 강화되고 있는 윤리 정책에 발맞춰 유연하게 진화하는 인공지능 기술 개발 연구 및 KAIST 인공지능 대학원 프로그램과제의 지원을 받았고 방위사업청과 국방과학연구소의 지원으로 KAIST 미래 국방 인공지능 특화연구센터에서 수행됐다.
2025.06.19 조회수 4217 -
새벽에도 답해주는 ‘인공지능 조교’ 강의 첫 도입·성공
“처음에는 인공지능 조교(VTA)에 대한 기대가 크지 않았지만, 밤늦게 갑자기 궁금해진 개념을 질문했을 때도 즉각적으로 답을 받을 수 있어서 매우 유용했다”며 “특히 인간 조교에게 질문하기 망설여졌던 부분들도 부담 없이 물어볼 수 있었고, 오히려 더 많이 질문하면서 수업 이해도가 높아졌다”(수강생 양지원 박사과정 학생)
우리 대학 김재철AI대학원 최윤재 교수와 산업디자인학과 홍화정 교수 공동 연구팀이 대형 강의에서도 학생 개개인에게 맞춤형 피드백을 제공할 수 있는 ‘인공지능 조교(Virtual Teaching Assistant, 이하 VTA)’를 개발해 실제 강의에 성공적으로 적용했다고 5일 밝혔다.
이번 연구는 2024년 가을학기 석·박사과정 학생 477명이 수강한 김재철AI대학원의 ‘인공지능을 위한 프로그래밍’ 교과목에 VTA를 도입해, 그 효과와 실용 가능성을 실제 교육 현장에서 대규모로 검증한 국내 최초 수준의 사례다.
이번 연구에서 개발된 인공지능 조교는 일반적인 챗GPT나 기존 챗봇과는 다른, 수업에 특화된 에이전트다. 연구팀은 강의 슬라이드, 코딩 실습 자료, 강의 영상 등 방대한 수업 자료를 자동으로 벡터화하고, 이를 기반으로 질의응답이 이뤄지는 검색증강생성(RAG: Retrieval Augmented Generation) 구조를 구현했다.
학생이 질문을 하면, 시스템은 질문의 맥락을 바탕으로 가장 관련된 수업 자료를 실시간으로 검색한 뒤, 응답을 생성한다. 이 과정은 단순한 대형언어모델(LLM)을 호출하는 것이 아니라, 수업 내용에 대응하는 자료 기반 질의응답으로 설계되어, 학습 신뢰도와 정확도를 모두 확보한 지능형 시스템이라 할 수 있다.
이번 연구의 제1 저자이자 해당 수업의 책임 조교였던 권순준 박사과정은 “기존에는 수업 때 이미 설명된 내용이나 간단한 개념 정의처럼 반복적이고 기본적인 질문이 상당히 많아, 조교들이 핵심적인 질문에 집중하기 어려운 상황이었다”며 “VTA 도입 이후에는 학생들이 반복 질문을 줄이고 꼭 필요한 질문에 집중하면서, 조교로서의 부담이 눈에 띄게 줄었고 보다 고차원적인 학습 지원에 집중할 수 있었다”고 전했다.
실제로 작년 수업 대비 조교가 직접 응답해야 하는 질문량은 약 40%가량 감소한 것으로 나타났다.
14주간 운영된 VTA는 전체 수강생의 절반 이상이 실제로 활용했으며, 총 3,869건에 달하는 질의응답이 기록됐다. 특히 인공지능 비전공자나 사전 지식이 부족한 학생일수록 VTA 사용 빈도가 높게 나타났으며, 이는 VTA가 학습 보조 수단으로 실질적인 도움을 주었음을 시사한다.
또한 분석 결과, 학생들은 인간 조교보다 VTA에게 이론적 개념에 대한 질문을 더 자주 하는 경향을 보였다. 이는 학생이 평가받거나 불편함을 느끼지 않고 자유롭게 질문할 수 있는 환경을 인공지능 조교가 제공함으로써, 학습 참여를 보다 적극적으로 유도한 것으로 해석된다.
수업 전·중·후 3회에 걸친 설문조사 결과, 학생들은 VTA에 대해 초기보다 높은 신뢰도와 응답 적절성, 편안함을 보고했다. 특히 인간 조교에게 질문을 주저한 경험이 있는 학생들일수록 인공지능 조교와의 상호작용에서 더 높은 만족도를 나타냈다.
해당 수업의 담당 교수이자 연구를 이끈 최윤재 교수는 “인공지능 기술이 수강생과 강사진 모두에게 실질적 도움을 줄 수 있다는 것을 확인했다는 데 연구의 의의가 있다. 앞으로 더욱 다양한 수업으로 해당 기술이 확대되기를 기대한다”고 말했다.
연구팀은 시스템의 소스코드를 개발자들의 플랫폼 깃허브(GitHub)에 공개해 다른 교육기관과 연구자들이 이를 바탕으로 맞춤형 학습 보조 시스템을 개발하고 교육 현장에 적용할 수 있도록 지원하고 있다.
관련 논문은 자연어처리(NLP) 분야 최고 권위의 국제 학회 중 하나인 ‘ACL 2025 인더스트리 트랙(Industry Track)’에 2025년 5월 9일 자로 채택되며 연구의 우수성을 인정받았다.
※ 논문 제목: A Large-Scale Real-World Evaluation of an LLM-Based Virtual Teaching Assistant
한편 이번 연구는 KAIST 교수학습혁신센터와 한국연구재단, 정보통신기획평가원의 지원을 받아 수행됐다.
2025.06.05 조회수 5577 -
질병 판단·신약 발굴까지‘한국형 챗GPT 플랫폼’개발한다
우리 대학 디지털바이오헬스AI연구센터(센터장: KAIST 김재철AI대학원 예종철 교수)에서 과학기술정보통신부의 ‘AI 최고급 신진연구자 지원사업(AI 스타펠로우십)’에 선정되어, 2025년 5월부터 2030년 12월까지 총 115억 원을 투입해 질병을 스스로 추론하고 판단하고 신약을 발굴하는 AI 기술과 플랫폼을 본격적으로 개발한다.
본 과제는 신진 연구자 중심의 혁신적 AI 연구 생태계를 조성하고 바이오·의료 분야의 전문 지식체계를 활용하고 이를 자동으로 확장할 수 있는 추론형 AI 에이전트 개발을 목표로 한다.
김재철 AI대학원 예종철 교수를 책임연구자로 하여, KAIST의 최윤재, 이기민, 안성수, 박찬영 교수 등 신진연구자들과, 주재걸, 김우연 교수 등 중견 연구자들이 공동으로 프로젝트를 수행한다. 이들은 KAIST 내 다양한 연구실과 협력해 AI 추론의 이론적 기초부터 실용화까지 아우르는 전 주기적 연구를 수행할 예정이다.
구체적으로는 ▲다양한 의료 지식체계를 통합해 진단 및 치료의 정밀성과 신뢰성을 높이는 고성능 추론 모델 구축, ▲기호 기반 추론과 신경망 모델을 효율적으로 결합한 융합형 추론 플랫폼 개발, ▲‘셀 온톨로지(cell ontology)’ 기반의 신약 개발 및 바이오마커 발굴 AI 기술 확보 등을 주요 목표로 삼고 있다.
또한, 삼성서울병원, 네이버클라우드, ㈜히츠 등 산업계와 의료기관과의 긴밀한 협력을 통해, ▲의료 지식체계를 활용한 임상 진단 AI, ▲신약 개발을 위한 AI 기반 분자 타겟 탐색, ▲지식 확장이 가능한 AI 추론 플랫폼의 상용화까지 실현하는 것을 목표로 한다.
KAIST 디지털바이오헬스AI연구센터장 예종철 교수는 “AI 추론 모델 개발 경쟁이 본격화되는 시점에서, KAIST가 세계 최고 수준의 신진 연구자들과 함께 바이오·의료 분야에 특화된 AI 기술 개발을 이끌게 되어 매우 영광스럽게 생각한다”며 “2025년부터 6년간 진행될 과제 종료 이후에는 참여 신진연구자들이 연구 성과 면에서 세계 1위 수준에 도달할 수 있도록 최선을 다할 것”이라고 포부를 밝혔다.
한편, AI 스타펠로우십은 박사후연구자 및 임용 7년 이내 교원이 프로젝트 리더(PL)로 참여해 주도적으로 연구를 이끄는 신설 사업으로, 대학내의 다수의 연구실과 수요기업이 컨소시엄을 구성해 운영된다.
KAIST는 이번 사업을 통해 삼성서울병원, 네이버클라우드, 히츠 등과 함께 바이오·의료 융합형 AI 인재를 육성하고, 핵심 기술의 상용화를 동시에 추진해 나갈 계획이다.
2025.05.23 조회수 4351 -
KAIST 설명가능 인공지능연구센터, 2024 XAI 튜토리얼 시리즈 성황리 종료
국내 최대의 설명가능 인공지능(XAI) 연구조직인 KAIST 설명가능 인공지능연구센터(센터장 KAIST 최재식 교수)는 11월 5일부터 22일까지 7회에 걸쳐 설명가능 인공지능 튜토리얼 시리즈를 성공적으로 개최했다. 이번 튜토리얼에는 학생, 연구자, 기업 실무자 등 누적인원 총 530여 명이 참여하여 설명가능 인공지능 기술에 대한 높은 관심과 수요를 보여주었다.
행사는 XAI의 주요 알고리즘부터 최신 연구 주제까지, 총 16개 세션 발표로 진행되었다. 개회 강연으로 ‘설명가능 인공지능 최신 연구 동향’에 대해 최재식 교수가 발표하였고, 이어서 KAIST 설명가능 인공지능연구센터 소속 석·박사 과정 연구원들이 △주요 XAI 알고리즘 △XAI 알고리즘의 평가기법 △거대 언어모델(LLM), 이미지 생성모델, 시계열 데이터에 대한 설명성 △ XAI Framework, 의료 도메인 적용 사례를 주제로 발표했다. 튜토리얼 마지막날에는 독일 Fraunhofer HHI(Heinrich Hertz Institute) 소속 연구원들이 개념 기반 설명(Concept-based Explanations)을 주제로 최신 연구 결과를 공유했다. 또한 이강혜 변호사(법무법인(유) 태평양)가 AI의 신뢰성과 안전성을 확보하기 위한 국내외 AI규제 동향에 대해 초청강연을 했다.
행사를 주관한 최재식 교수는 “최근 국내외에서 AI규제와 입법화가 본격화되면서, AI시스템의 신뢰성, 안전성, 설명성 등이 필수적으로 요구되는 상황에서 학계와 산업계에 관련 기술 교육 프로그램을 폭넓게 제공하고자 했다”고 말했다. 특히 이번 행사는 KAIST 김재철 AI대학원 성남연구센터와 공동으로 주최해 성남시 소재 유관 기업들의 적극적인 참여를 이끌어냈다.
튜토리얼의 발표자료와 녹화영상은 행사 홈페이지에서 제공된다.
(https://xai.kaist.ac.kr/Tutorial/2024/)
KAIST 설명가능 인공지능연구센터는 AI 모델의 내부 구조를 해석하고, 모델의 의사결정 과정을 설명할 수 있는 알고리즘을 연구하며, 이를 의료, 금융, 제조 등 다양한 실제 도메인에 적용하는 산학 공동연구를 활발히 수행하고 있다. 본 연구센터는 사람중심인공지능 핵심원천기술개발사업의 일환으로 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받아 설립되었으며, 현재 KAIST 김재철AI대학원 성남연구센터에 위치하고 있다.
2024.11.29 조회수 6837