행사
< 행사 사진 >
우리 대학 설명가능 인공지능연구센터(센터장 최재식 교수)가 주관하여 ‘KCC 2023 설명가능 인공지능(XAI) 워크샵’을 6월 19일(월) 제주 오리엔탈호텔에서 개최했다.
본 워크샵은 ‘사람중심인공지능핵심원천기술개발’ 연구과제에 참여하고 있는 여러 대학 및 연구기관 연구진들의 기술교류 행사로, 설명가능 인공지능(eXplainable Artificial Intelligence, 이하 XAI) 연구 동향 및 참여기관별 연구 성과를 공유하고 연구진 간 교류를 확대하고자 하는 목적으로 개최되었다. XAI 기술은 인공지능 모델의 예측 및 생성 결과에 대한 근거를 인간이 이해할 수 있는 방식으로 설명하는 기술로서 최근 EU를 중심으로 AI 규제의 움직임이 구체화되는 상황에서 투명하고 신뢰할 수 있는 AI기술을 구현할 수 있는 기술로 주목 받고 있다.
정보통신기획평가원 이현규 PM의 환영사와 한국정보과학회 이원준 회장의 축사로 시작된 행사는 국내 인공지능 분야 석학 및 산업계 전문가의 초청강연과 총37편의 논문 발표로 진행되어 관련분야 연구진의 기술교류의 장을 제공했다.
초청강연에서는 ▲설명가능 인공지능 연구동향(KAIST/INEEJI 최재식 교수) ▲Explaining Visual Biases as Words via Vision-Language Foundation Models(KAIST 신진우 교수) ▲리걸테크 규제 및 표준화 동향(법무법인 디라이트 조원희 대표) ▲질의 기반 의미그래프와 적응형 메타학습을 이용한 생성형 요약 시스템(성균관대 고영중 교수) ▲법, 정책 이슈를 포함해서, 설명요구권의 구체화 과정에서의 알고리즘 공개와 영업비밀 관계(경희대 김윤명 교수) ▲화학공장의 연속생산공정에서 공정 Trouble 원인 분석을 위한 XAI 적용 사례 공유(SK디스커버리 신해빈 매니저) ▲다중 클래스 딥러닝의 의사결정에 대한 시각적 이유 설명(경북대 남우정 교수)이 소개되었다.
논문발표에서는 연구진들의 XAI 분야 연구 성과 발표가 이어졌다. 특히, ▲투자자 심리와 설명가능 인공지능 기법을 적용한 비선형 자산 변동성 예측 모델 개선(이승주(서울대), 박진성(서울대), 이재욱(서울대)) ▲로컬 그라디언트 정렬을 통한 강건한 해석 가능성(정석현(서울대), 주성환(성균관대), 허주연(Univ. of Cambridge), 아드리안 윌러(Univ. of Cambridge/The Alan Turing Institute), 문태섭(서울대))이 우수논문상을 수상했으며, XAI 알고리즘 분야 연구와 의료, 법률, 금융 등 실제 도메인에 XAI를 적용한 최신사례 발표가 이어져 참석자들의 관심이 높았다.
이번 행사로, AI 연구자뿐만 아니라 의료, 법률, 금융 등 다양한 산업분야 관련자들이 XAI 기술의 필요성에 대한 공감대를 확인했으며, 이에 따라 향후 국내 XAI 기술의 저변을 확대하고, 산학협력을 통해 연구개발의 방향성을 구체화시켜 나갈 수 있을 것으로 기대된다.
< 설명가능 인공지능 워크샵 포스터 >
-
정책 KAIST-엔비디아, 아시아 최초 AI 공동연구소 설립…대한민국 AI 혁신 가속
우리 대학과 엔비디아(NVIDIA)가 한국어와 국내 산업에 특화된 차세대 에이전틱 AI(Agentic AI) 연구를 위해 전략적 공동연구 체계를 구축한다. 우리 대학은 글로벌 AI 컴퓨팅 기업 엔비디아와 김재철AI대학원에 ‘NVIDIA-KAIST AI 공동연구소(NVIDIA-KAIST Joint AI Research Lab)'를 아시아 최초로 설립하고 차세대 인공지능 핵심기술 공동연구를 본격화한다고 24일 밝혔다. 배충식 KAIST 총장은 "이번 협력은 세계 최고 수준의 AI 연구역량과 최첨단 AI 인프라를 결합하는 전략적 파트너십의 출발점”이라며 "대한민국을 대표하는 글로벌 AI 연구거점을 구축하고 차세대 AI 원천기술 확보와 세계적 AI 인재 양성에 앞장서겠다”고 말했다. 이번 협력을 통해 KAIST와 엔비디아는 한국어와 국내 산업에 특화된 에이전틱 AI 모델과 AI 에이전트 시스템을 공동 개발하고, 대한민국 AI 원천기술 확보와 글로벌
2026-07-24 -
연구 '물리 세계 이해하는 AI' 세계 최고…ICML 2026 국제 AI 챌린지 우승
그림과 글을 함께 이해해 물리 법칙을 적용하고 스스로 추론하는 인공지능(AI)이 항공기와 로봇 등 실제 물리 세계를 설계하는 시대가 한 걸음 가까워졌다. 우리 대학 연구팀이 세계 최고 권위의 인공지능(AI)·기계학습(Machine Learning, 기계학습) 학회인 국제머신러닝학회(ICML) 국제 챌린지에서 세계 정상에 오르며 이 같은 기술력을 입증했다. 우리 대학은 AX학과 문일철 교수 연구팀이 국제머신러닝학회(ICML, International Conference on Machine Learning, 국제머신러닝학회) 2026의 공식 워크숍인 ‘AI4Math Workshop(AI for Mathematics Workshop, AI 기반 수학·과학 추론 워크숍)’이 개최한 ‘시각적으로 정의된 물리 문제 풀기(Visual Grounded Physics Problem Solving)’ 국제 챌린지에서 우승했다고
2026-07-23 -
행사 KAIST 인공지능반도체대학원, 제6회 한국인공지능시스템포럼 조찬 강연회 개최
우리 대학 인공지능반도체대학원은 2026년 7월 2일 호텔 오노마 대전 5층 그랜드볼룸홀에서 「제6회 한국인공지능시스템포럼 조찬 강연회」를 개최했다. 이번 강연회는 한국인공지능시스템포럼(KAISF)이 주관하고, 정보통신기획평가원(IITP), 한국전자통신연구원(ETRI), PIM반도체설계연구센터, 우리 대학 인공지능반도체대학원이 공동 주최했다. 행사에는 관련 산학연 연구자 및 종사자, 정부부처와 공공기관 관계자 등이 참석해 인공지능과 모빌리티 산업의 기술 변화 및 발전 방향을 공유했다. 이날 강연은 카카오모빌리티 김진규 부사장이 맡아 Physical AI 시대의 모빌리티 혁신과 자율주행 상용화 방향을 중심으로 진행했다. 김 부사장은 서울 강남구 심야 자율주행 택시 ‘서울자율차’ 운영 사례를 바탕으로, 카카오 T 플랫폼이 시민의 이동 경험을 혁신하고 있는 방식과 자율주행 상용화를 위한 기술적·산업적 과제를 소개했다. 또한 자율주행 상용화가 단일
2026-07-06 -
연구 몸짓도 언어다… 동물 행동의 의미 읽는 AI 개발
생쥐의 몸짓을 단어처럼 읽고 의미를 이해하는 인공지능이 등장했다. 우리 대학 연구진은 행동 데이터를 언어처럼 학습해 자폐 모델 생쥐의 사회적 행동 결함을 스스로 찾아내는 AI 모델 ‘비헤이버트(BehaVERT)’를 개발하며 해석 가능한 뇌과학의 새로운 패러다임을 제시했다. 우리 대학 뇌인지과학과 김대수 교수 연구팀이 동물의 움직임을 언어처럼 읽고 해석하는 인공지능(AI) 모델을 개발했다고 1일 밝혔다. 연구팀은 생쥐의 골격 움직임을 자연어의 단어에 해당하는 ‘토큰(token)’으로 변환해 학습시키는 방식으로 행동의 의미를 이해하는 AI 모델 ‘비헤이버트'를 구현했다. 이 모델은 별도의 사전 지식 없이도 자폐 모델 생쥐의 핵심 사회행동 결함을 스스로 발견할 수 있음을 확인했다. 이번 연구는 동물 행동을 언어처럼 분석하는 새로운 인공지능 접근법을 제시한 것으로 평가된다. 특히 AI가 단순한 행동 분류를 넘어 행동의 의
2026-07-01 -
연구 인공지능의 은밀한 연령 편향 규명
챗GPT와 같은 생성형 인공지능의 답변에는 사회적 편견이 반영되어 있을까? 우리 대학 연구진이 생성형 인공지능의 답변에 내재된 연령 관련 고정관념을 정량적으로 분석해 규명했다. 이번 연구는 인공지능의 은밀한 편향이 사회적 인식에 미칠 영향을 조명하고, 향후 포용적 인공지능 개발을 위한 방향성을 제시했다. 우리 대학은 과학기술정책대학원 최문정 교수 연구팀이 생성형 인공지능 모델인 오픈AI(OpenAI)의 챗GPT-4o가 생성하는 문장 속에 노인에 대한 미묘한 고정관념이 내재되어 있음을 정량적으로 분석했다고 28일 밝혔다. 생성형 인공지능은 일상 속 정보 탐색과 의사결정 과정에 폭넓게 활용되고 있지만, 학습 데이터에 포함된 사회적 편견을 재생산할 수 있다는 우려도 제기돼 왔다. 기존 연구들이 주로 성별이나 인종 관련 편향에 집중해 온 반면, 홍완 박사과정 연구원이 제1저자로 수행한 이번 연구는 전 세계적인 인구 고령화 속에서 중요성이 커지고 있는 연령차별(Ageism, 나이를
2026-07-01