연구
< KAIST 한인수 교수 >
AI 성능을 좌우해온 ‘메모리 병목’이 뚫렸다. 우리 대학이 참여한 국제 공동연구팀이 최대 6배까지 메모리를 줄이면서도 성능은 유지하는 차세대 알고리즘을 공개하며, AI 산업은 물론 반도체 수요 구조까지 바꿀 기술적 전환점을 제시했다. 고용량 중심에서 고효율 중심으로 전환되면서, AI는 더 저렴해지고 빠르게 확산되는 동시에 반도체 수요 역시 질적으로 고도화될 전망이다.
우리 대전기및전자공학부 한인수 교수가 참여한 구글 리서치(Google Research), 딥마인드(DeepMind), 뉴욕대(New York University) 공동 연구팀이 인공지능(AI) 모델의 고질적인 한계로 꼽혀온 메모리 과부하 문제를 해결할 차세대 양자화 알고리즘 ‘터보퀀트(TurboQuant)’를 공개했다고 27일 밝혔다.
AI 모델은 입력 데이터를 벡터 형태로 바꾼 뒤, 벡터 간 유사도를 계산해 작동한다. 이 과정에서 고정밀(high-precision) 데이터를 사용하기 때문에 막대한 메모리 자원이 필요한 점이 주요 한계로 지적돼 왔다.
터보퀀트는 이러한 고정밀 데이터를 더 적은 비트로 압축해 표현하는 ‘양자화(quantization)’ 기술을 활용한다. 쉽게 말해, 소수점 데이터를 정수로 근사하는 방식으로, 핵심 정보는 유지하면서도 저장 용량과 연산 부담을 크게 줄이는 기술이다.
이번 연구에서 터보퀀트는 AI 모델 내부 정보를 효율적으로 압축해 정확도 저하를 거의 없이 최대 6배까지 메모리를 절감하는 데 성공했다. 특히 AI 추론 과정에서 가장 큰 장애물로 꼽히는 메모리 병목 문제를 효과적으로 해소한 점이 핵심 성과다.
터보퀀트의 핵심은 두 단계로 나누어진 양자화 구조다. 먼저 1단계에서는 입력 데이터를 무작위로 회전(Random Rotation)시킨 뒤 각 요소를 개별적으로 양자화한다. 이 과정은 데이터 내 극단값(outlier)을 줄여 압축 효율을 높이는 역할을 한다. 해당 방식은 한인수 교수가 참여한 기존 연구 ‘폴라퀀트(PolarQuant)’에서도 활용된 바 있다.
이어 2단계에서는 1단계에서 발생한 오차(residual)를 다시 한 번 양자화한다. 이때 적용되는 QJL(Quantized Johnson-Lindenstrauss) 기법은 데이터를 {-1, 1} 값만으로 표현하는 초경량(1비트) 방식으로, 정보 손실을 최소화하면서도 연산 효율을 극대화할 수 있다.
이러한 기술적 발전은 반도체 메모리 시장에도 중장기적인 활력을 불어넣을 것으로 기대된다. 단기적으로는 동일한 AI 모델을 구동하는 데 필요한 메모리 용량이 줄어들어 수요 성장이 둔화되는 것처럼 보일 수 있으나, 전문가들은 오히려 이를 'AI 대중화의 기폭제'로 보고 있다. 낮아진 메모리 문턱은 스마트폰이나 가전 등 온디바이스 AI 기기부터 대규모 데이터센터에 이르기까지 AI 적용 범위를 비약적으로 넓힐 수 있고, 결국 AI 서비스가 일상으로 확산되어 훨씬 더 큰 규모의 서비스에서 새로운 메모리 수요가 창출되는 ‘수요의 질적 고도화’와 ‘양적 팽창’이 동시에 일어날 것으로 기대한다.
특히 터보퀀트의 핵심 기술인 QJL과 폴라퀀트 연구에 KAIST 한인수 교수가 공동 연구자로 참여함으로써, 국내 연구진이 글로벌 빅테크의 핵심 AI 알고리즘 개발에 직접 기여했다는 점에서 의미가 크다.
한인수 교수는 “AI 모델의 성능이 커질수록 메모리 사용량이 급격히 증가하는 것이 가장 큰 한계로 지적되어 왔다”며, “이번 연구는 이러한 병목을 효과적으로 줄이면서도 정확도를 유지할 수 있는 새로운 방향을 제시했다”고 설명했다.
이어 “앞으로 대규모 AI 모델을 보다 효율적으로 운영할 수 있는 핵심 기반 기술로 활용될 것으로 기대한다”고 덧붙였다.
한편, 폴라퀀트 연구는 5월에 개최하는 AI와 통계(머신러닝 이론 포함)를 다루는 국제 최상위 학회인 AISTATS (Artificial Intelligence and Statistics) 2026에서 발표될 예정이며, 한국연구재단의 “기초연구실” 사업 지원 (No. RS-2024-00406715)을 받아 수행되었다.
-
행사 롯데와 지속가능 미래 위한 연구거점 ‘LOTTE x KAIST R&D CENTER’ 준공
기후변화와 탄소중립 등 인류가 직면한 지속가능성 문제를 해결하기 위해 대학과 기업이 연구개발부터 사업화까지 함께하는 새로운 산학협력 거점이 우리 대학에 문을 열었다. 우리 대학은 11일 대전 본원에서 신동빈 롯데그룹 회장을 비롯한 롯데그룹 관계자와 KAIST 주요 보직자, 생명화학공학과 교수 및 관계자 등이 참석한 가운데 ‘LOTTE x KAIST R&D CENTER’ 준공식을 개최했다고 13일 밝혔다. LOTTE x KAIST R&D CENTER는 롯데그룹이 지원한 건축기부금 100억 원과 KAIST 생명화학공학과의 자체 기금 등을 바탕으로 조성됐다. 미래기술의 기초·원천연구부터 실험, 시제품 제작, 기술사업화까지 연구개발 전 과정을 아우르는 산학협력형 연구 거점으로 운영될 예정이다. 특히 대학의 연구역량과 기업의 산업·사업화 경험을 하나의 공간에서 연결해 기존 산학협력의 경계를 넘어선 ‘초경계 협
2026-09-14 -
연구 파네시아·메타 ‘하나의 칩처럼 움직이는 AI 데이터센터 (AI DC)’ 구조 제시
우리 대학에서 축적된 반도체·컴퓨터 시스템 연구가 교원 창업을 거쳐 글로벌 빅테크 메타(Meta)와의 협력으로 확장되며 차세대 AI 데이터센터(AI DC)의 새로운 설계 방향을 제시했다. CPU·AI 가속기·메모리를 하나로 묶어 데이터센터 전체가 마치 ‘하나의 거대한 칩’처럼 움직이도록 하는 구조다. 우리 대학은 전기및전자공학부 정명수 교수와 교원창업기업인 팹리스(fabless, 반도체 설계 전문기업) 파네시아 연구진이 메타 연구진과 함께 차세대 AI 데이터센터 구조를 제시한 리뷰 논문을 네이처(Nature)가 발행하는 국제 학술지 ‘네이처 리뷰 일렉트리컬 엔지니어링(Nature Reviews Electrical Engineering, NREE)’에 게재했다고 9일 밝혔다. 이번 성과는 KAIST에서 시작된 연구가 교원 창업을 통해 실제 반도체 기술로 발전하고, 글로벌 기업과의 공동 연구로 이어져
2026-09-09 -
연구 AI 업무비서 실수해도 ‘처음부터 다시’ 없다…틀린 곳만 고친다
“지난해 가장 많이 팔린 상품을 찾아줘.” AI가 회사 자료를 찾는 과정에서 존재하지 않는 항목을 잘못 사용하면 검색이 실패할 수 있다. 지금까지는 작은 오류 하나에도 검색 명령 전체를 다시 만들어야 했지만, 우리 대학 연구진이 틀린 부분만 찾아 바로잡는 기술을 개발했다. AI의 데이터 검색을 더 빠르고 정확하게 만들어 기업의 ‘AI 업무비서’ 활용을 앞당길 것으로 기대된다. 우리 대학은 전산학부 김민수 교수 연구팀이 사람의 일상적인 질문을 데이터베이스에서 원하는 정보를 찾는 컴퓨터 명령어인 SQL(Structured Query Language)로 바꾸는 과정에서 발생하는 오류를 찾아 수정하는 기술 ‘세이프큐엘(SafeQL)’을 개발했다고 4일 밝혔다. 최근에는 “지난해 매출이 가장 많이 늘어난 상품은?”, “재고가 부족한 상품은?”처럼 일상적인 말로 질문하면 AI가
2026-09-04 -
행사 KAIST-Caltech, 연구 넘어 ‘인재도 함께 키운다’…글로벌 공동지도 모델 구축
우리 대학이 세계적인 연구기관인 미국 캘리포니아공과대학교(California Institute of Technology, 이하 ‘Caltech’)와 공동연구를 넘어 차세대 연구자까지 함께 키우는 새로운 글로벌 협력 모델을 구축한다. 우리 대학은 9월 1일부터 2일까지 Caltech과 ‘제1회 KAIST-Caltech 분자과학 및 화학혁신 공동 워크숍(1st KAIST-Caltech Joint Workshop on Molecular Science and Chemical Innovation)’을 개최한다고 2일 밝혔다. 이번 워크숍은 양 기관이 첨단 분자과학과 미래 화학기술 분야의 연구성과를 공유하는 데 그치지 않고, 공동연구와 인재양성, 연구시설 활용까지 연결하는 지속 가능한 협력체계를 구축하기 위해 마련됐다. 특히 KAIST와 Caltech 교수가 박사후연구원(Postdoctoral Researcher)을 함께 선발하고 지도하는
2026-09-02 -
연구 “신약 설계해줘”... 소버린 바이오 AI 'K-Fold' 공개
“이 단백질에 잘 결합하는 신약 후보를 설계해줘.” 연구자가 AI에게 이렇게 요청하면 AI가 단백질의 3차원 구조를 예측하고, 어떤 물질이 잘 결합할지 분석해 유망한 신약 후보를 설계한다. 우리 대학 연구진이 세계에서 가장 빠르게 단백질 구조 예측을 수행하는 바이오 AI 모델 ‘K-Fold(케이폴드)’를 국내 독자 기술로 개발했다. 우리 대학은 과학기술정보통신부 ‘AI 특화 파운데이션 모델 프로젝트’의 주관기관으로 ‘팀 KAIST’를 구성하고, 차세대 바이오 AI 모델 ‘K-Fold’를 공개했다고 28일 밝혔다. ‘팀 KAIST’는 화학과 김우연 교수가 연구를 총괄하고, 김우연 교수 그룹과 김재철AI대학원 황성주·안성수 교수 그룹 연구원들이 AI 모델 개발을, 생명과학과 오병하·김호민·이규리 교수가 단백질
2026-08-28