-
거대한 AI서버 구축 전 성능 검증 가능한 ‘가상 AI 실험장’ 개발
챗GPT와 같은 거대언어모델(LLM·Large Language Model) 서비스를 운영하려면 수만 대 규모의 서버 인프라가 필요하다. 하지만 새로운 AI 반도체나 시스템 구조를 검증할 때마다 실제 장비를 구축하는 데에는 막대한 비용과 시간이 소요된다. 우리 대학 연구진은 실제 대규모 AI 서버를 구축하기 전에 컴퓨터 안에서 성능과 효율을 미리 검증할 수 있는 ‘가상 실험장’을 개발했다.
우리 대학은 전산학부 박종세 교수 연구팀이 개발한 거대언어모델(LLM) 서비스 인프라 시뮬레이터(simulator·가상 실험 소프트웨어) 연구가 컴퓨터 시스템 성능 분석 분야의 세계적 권위 학회인 ‘ISPASS 2026(IEEE International Symposium on Performance Analysis of Systems and Software)’에서 최우수 논문상을 수상했다고 29일 밝혔다.
연구팀이 개발한 ‘LLMServingSim 2.0’은 복잡한 AI 서비스 환경에서 다양한 하드웨어와 소프트웨어 조합을 가상으로 분석할 수 있는 시뮬레이션 플랫폼이다. 연구자와 개발자들은 값비싼 대규모 서버 인프라를 직접 구축하지 않고도 다양한 설계안을 자유롭게 실험하고 성능을 검증할 수 있다.
특히 이번 기술은 기존 그래픽처리장치(GPU·Graphics Processing Unit) 중심 환경을 넘어 차세대 AI 반도체로 주목받는 신경망처리장치(NPU·Neural Processing Unit)와 프로세싱 인 메모리(PIM·Processing-In-Memory, 메모리 내부에서 연산을 수행하는 반도체 기술) 등 다양한 하드웨어 환경을 지원한다는 점에서 주목된다.
즉 아직 상용화되지 않은 미래형 AI 반도체를 가상의 데이터센터 환경에서 미리 시험해볼 수 있는 기술이다. 이를 통해 특정 반도체를 적용했을 때 서비스 속도가 얼마나 향상되는지, 전력 소모는 얼마나 줄어드는지, 수만 대 규모의 서버 환경에서도 안정적으로 동작하는지 등을 컴퓨터 안에서 재현하고 분석할 수 있다.
또한 실제 AI 서비스 운영 과정에서 발생하는 데이터 처리, 요청 분배, 메모리 활용 등 복잡한 동작을 시스템 수준에서 재현해 현실에 가까운 성능 평가가 가능하다. 특히 여러 서버 자원을 분리·연결해 사용하는 분산형(disaggregated) 인프라 환경까지 분석할 수 있어 차세대 AI 데이터센터 연구에도 활용 가능성이 크다.
이번 시뮬레이터는 연구자뿐 아니라 LLM 서비스 기업과 AI 반도체 스타트업 등이 차세대 AI 인프라를 설계하고 최적화하는 데 폭넓게 활용될 것으로 기대된다. 새로운 AI 반도체나 서비스 구조를 실제 구축 전에 빠르게 검증할 수 있어 AI 인프라 개발 비용과 시간을 크게 줄일 수 있기 때문이다.
박종세 교수는 “AI 서비스 경쟁력은 모델 자체뿐 아니라 이를 안정적이고 효율적으로 운영하는 인프라 기술에서 결정된다”며 “이번 시뮬레이터가 연구자와 산업계가 차세대 AI 인프라를 더욱 빠르고 효율적으로 개발하는 데 중요한 기반이 되길 기대한다”고 말했다.
이번 연구는 전산학부 조재홍 석사과정, 최현민 석사과정 학생이 공동 1저자로 연구를 주도했으며, 연구팀은 지난 2024년 IISWC(IEEE International Symposium on Workload Characterization)에 이어 이번 ISPASS 2026에서도 최우수 논문상을 수상하며 AI 인프라 분야 연구 경쟁력을 다시 한번 입증했다.
※ 논문 제목: LLMServingSim 2.0: A Unified Simulator for Heterogeneous and Disaggregated LLM Serving Infrastructure, DOI: 10.1109/ISPASS69572.2026.00012
※ 오픈소스 링크: https://llmservingsim.ai/
한편 이번 연구는 과학기술정보통신부(MSIT), 정보통신기획평가원(IITP, No. RS-2024-00396013), 한국전자통신연구원(ETRI, No. RS-2025-02305453), SK하이닉스의 지원을 받아 수행됐다.
2026.05.29
조회수 3745
-
KAIST, 국내 통신3사와 콘텐츠전달망 연동기술 시연
- CDN 연동기술로 현재보다 2배 효과적인 콘텐츠유통 시장 진입 -
- 방통위 지원 KT, LGU+, SKT 협력개발 KAIST에서 주관 -- APNOMS 2012 국제학회 CDN 연동기술 협력 시연 -
국내와 해외에서 인터넷의 홈페이지, 동영상, 음원 등 콘텐츠를 유통하는 CDN (Contents Delivery Network, 콘텐츠전달망) 서비스 인프라의 기술적, 사업적 진화가 빠르게 진행되고 있다.
우리 학교는 KT, LG유플러스, SK텔레콤 등 국내 통신3사와 CDN 연동 사업환경을 조성하기 위한 CDN 연동기술의 협력개발 성과를 25일부터 27일까지 코엑스에서 열리는 국제학회 ‘APNOMS 2012(아시아태평양 통신망운용관리심포지엄)’에서 시연한다.
CDN 연동은 통신사가 각자 보유한 CDN 서비스를 상대방에게 교차 제공함으로써 네트워크 전달 경로를 최소화하고 사용자에게 최상의 품질로 콘텐츠를 제공하는 기술이다. 최근 IETF, ITU-T 등 국제 표준 기구에서 기술 표준화를 시작했고, 국내에서는 방송통신위원회의 지원으로 CDN 연동기술이 KAIST, KT, LG유플러스, SK텔레콤, 솔루션박스, 한국전자통신연구소, 연세대학교의 협력과제로 개발되고 있다.
향후 2~3년 안에 전체 인터넷 트래픽 가운데에서 비디오 트래픽이 80%이상 점유할 것으로 예상되며, CDN 연동을 통해 폭발적으로 증가하는 비디오 트래픽의 중복 전송 문제를 효과적으로 해소하고, 불필요한 인프라 투자비의 절감과 함께 콘텐츠 유통 사업자들에게 고품질 콘텐츠 전송을 보장해주기 위해서는 사업자간 CDNi 체계가 시급하다.
현재의 CDN 체계는 인터넷콘텐츠를 유통하기 위해 CDN 사업자가 세계 각국의 인터넷 통신사업자 데이터센터에 캐시 서버를 설치하고 콘텐츠를 유통하고자 하는 인터넷사업자의 콘텐츠를 캐시에 미리 저장했다가 인터넷 사용자의 콘텐츠의 요청이 들어오면 지역적으로 가까운 캐시 서버가 해당 콘텐츠를 제공하고 있다.
이러한 유통체계로 상당히 콘텐츠 트래픽을 저감시키고 콘텐츠 제공 품질을 향상시키고 있다. 하지만 사용자는 여러 인터넷 통신사업자를 통해 접속해 있기 때문에 인터넷의 실질적 트래픽은 여전히 기하급수적으로 증가하는 추세. CDN 연동 (CDNI)은 통신사업자가 자신의 통신망을 통해 접속하는 인터넷 사용자에게 최적화된 콘텐츠를 제공하는 통신사 CDN 서비스를 구축하고 기존 CDN 사업자, 경쟁 통신사 CDN과 연동을 하여 서비스를 상호 제공함으로써 콘텐츠의 다양화, 사용자 시장의 접근성 확대, 서비스 품질의 고급화의 효과를 얻을 수 있다.
CDN연동 효과를 극대화하기 위해서 국내 통신사업자뿐만 아니라, 향후 해외 고객의 확대를 위하여 글로벌 통신사업자와의 연동 확대가 필요하다. 연동을 통한 국내 콘텐츠 해외 유통은 시장 진입 배용을 50% 이상 절감시킬 수 있을 것으로 기대한다. 이를 위해 국내 CDN 연동기술의 표준화 반영 및 글로벌 테스트 베드 구축이 필수적이다.
CDN 연동 기술은 세계적으로 주요 통신사와 장비제조사의 협력으로 국제 인터넷표준화기구인 IETF에서 2013년 말 표준 제정을 목표로 활발한 연구 개발이 진행되고 있고 국내에서는 통신 3사, ETRI, 솔루션박스, KAIST가 협력과제를 통하여 지난 7월부터 서비스 리라우팅 분야 핵심기술 제안을 포함해 활발한 표준화 활동을 시작했다.
25일부터 27일까지 진행되는 APNOMS 2012에서 KAIST-솔루션박스의 CDN시험망과, KT, LG유플러스, SK텔레콤 삼사의 CDN시험망 연동이 시연된다. 본 CDN망 연동 시연을 통해 비디오스트리밍과 콘텐츠다운로드 서비스의 속도와 품질 개선을 체험할 수 있다. 아직은 기본기능의 시연이지만 2013년은 사업자의 CDN 연동 정책이 자동으로 반영되는 완성된 IETF 표준의 통신사 CDNI 시험사업 환경을 구축하게 된다.
KAIST 인터넷협력에코시스템연구센터 이준구 교수는 "점점 어려워지고 있는 통신사업자 환경에서 경쟁구도의 통신3사가 모여 인터넷강국의 경쟁력 제고를 위한 공동의 사업 비전을 정립하고 협력 연구개발을 수행하는 것은 인터넷분야에서는 처음 있는 매우 중요한 대승적인 환경 변화이고 2014년 연구 개발의 성과로 국내외 CDN 연동 사업이 전개될 것으로 기대한다"고 말했다.
2012.09.25
조회수 20369