%ec%a0%84%ec%82%b0%ed%95%99%eb%b6%80
-
정보는 있는데 AI가 못 찾는다?...데이터 바뀌어도 최신 정보 놓치지 않는다
회사 규정이 바뀌어 새 문서가 올라왔는데도 사내 AI가 예전 규정을 찾아 답한다면 어떨까. 새로운 정보가 계속 추가되고 오래된 정보가 사라지면, AI는 정답이 되는 자료가 있어도 이를 제대로 찾지 못할 수 있다. 우리 대학 연구진이 데이터가 계속 바뀌어도 필요한 정보까지 찾아가는 ‘검색 길’을 유지해, AI가 최신 정보를 더 정확하고 빠르게 찾는 기술을 개발했다.
우리 대학은 전산학부 김민수 교수 연구팀이 데이터가 지속적으로 추가되고 삭제되는 환경에서도 높은 검색 정확도를 안정적으로 유지하는 동적 벡터 검색 기술인 ‘콘다(CONDA, Connectivity-Aware Dynamic Index)’를 개발했다고 5일 밝혔다.
생성형 AI는 학습이 끝난 뒤 새롭게 등장한 정보를 스스로 알지 못한다. 이를 보완하기 위해 최신 뉴스나 기업 내부 문서 등을 검색해 답변에 활용하는 ‘검색증강생성(RAG·Retrieval-Augmented Generation)’ 기술이 널리 쓰이고 있다.
RAG가 제대로 작동하려면 수많은 자료 가운데 질문에 필요한 정보를 빠르고 정확하게 찾아내는 검색 기술이 중요하다. 현재 많은 AI 서비스는 문서나 이미지의 의미를 컴퓨터가 계산할 수 있는 숫자 묶음인 ‘벡터(Vector)’로 바꾼 뒤, 의미가 비슷한 정보들을 서로 연결해 필요한 자료를 찾는다.
문제는 실제 기업이나 인터넷의 데이터는 계속 변한다는 점이다. 새로운 문서와 뉴스, 상품 정보가 들어오는 동시에 오래된 정보는 수정되거나 삭제된다. 이런 변화가 반복되면 데이터 사이에 만들어 놓은 연결망이 조금씩 끊어지는 ‘연결성 붕괴’가 발생할 수 있다. 필요한 정보가 데이터베이스 안에 있는데도 AI가 그곳까지 찾아가지 못하면서 검색 정확도가 떨어지는 것이다.
내비게이션에 비유하면 이해하기 쉽다. 도시에는 목적지가 그대로 있지만 건물이 생기고 사라질 때마다 주변 도로를 수정하다 중요한 길까지 하나씩 끊어진다면 목적지까지 찾아가기 어려워진다. AI 검색에서도 마찬가지로 정보 자체가 사라진 것이 아니라, 그 정보까지 찾아가는 ‘길’이 끊어지는 문제가 발생할 수 있다.
연구팀이 개발한 CONDA는 데이터 사이의 거리뿐만 아니라, 필요한 정보까지 찾아갈 수 있도록 검색 경로가 제대로 연결돼 있는지를 함께 고려한다. 새로운 데이터가 추가되거나 기존 데이터가 삭제돼도 중요한 연결을 유지해 특정 정보가 검색망에서 고립되는 것을 막는 방식이다.
실험 결과, CONDA는 데이터가 쉴 새 없이 추가되고 삭제되는 환경에서도 기존 최신 기술 대비 검색 정확도를 최대 24.5% 높였으며, 데이터 처리 속도도 최대 1.90배 향상시켰다.
특히 연구팀은 1억 개의 데이터가 존재하는 대규모 환경에서 6시간 동안 검색과 데이터 업데이트를 동시에 수행했다. 그 결과 CONDA는 비교 기술 대비 가장 짧은 응답시간과 높은 검색 정확도를 유지해 대규모 AI 서비스에 적용할 수 있는 가능성을 확인했다.
이번 기술은 기업 내부 규정이나 업무 문서처럼 정보가 수시로 바뀌는 지식검색 시스템뿐만 아니라 최신 뉴스 검색, 상품 검색 및 추천 등 데이터가 지속적으로 변하는 다양한 AI 서비스에 활용될 수 있다. 특히 생성형 AI가 외부 정보를 찾아 답변에 활용하는 RAG 환경에서 최신 정보를 오랫동안 안정적으로 검색하는 기반 기술로 활용될 것으로 기대된다.
이번 연구 성과는 실제 제품에도 적용된다. 김민수 교수가 창업한 인공지능 데이터 인프라 기업 그래파이(GraphAI)의 데이터베이스 제품인 ‘아카식DB(AkasicDB)’에 CONDA 기술이 적용돼 올해 4분기 상용화될 예정이다.
김민수 교수는 “검색증강생성(RAG)의 중요한 가치는 대규모언어모델(LLM)이 미처 학습하지 못한 최신 정보를 필요한 순간 즉시 찾아 활용할 수 있다는 점”이라며, “이번 연구는 데이터가 끊임없이 변하는 현실 환경에서도 인공지능이 오랜 시간 정확하게 최신 지식을 활용할 수 있는 데이터 인프라를 제시했다는 점에서 의미가 크다”고 말했다.
이번 연구에는 KAIST 전산학부 이다래 석사과정 졸업생이 제1저자로 참여했으며 김민수 교수가 교신저자를 맡았다. 연구 결과는 지난 9월 2일 데이터베이스 분야 최고 권위 국제학술대회인 VLDB 2026에서 발표됐다.
※ 논문명: CONDA: A Connectivity-Aware Dynamic Index for Approximate Nearest Neighbor Search over Evolving Data, DOI: 10.14778/3836663.3836694
※ 저자정보: 이다래(NAVER Corporation, 제1저자), 김민수(KAIST)
한편, 이번 연구는 한국연구재단 중견연구자지원사업과 정보통신기획평가원 SW스타랩사업의 지원을 받아 수행됐다.
2026.10.06 조회수 1326 -
KAIST, 국내 최초 범용인공지능(AGI) 연구소 출범
학습한 문제를 잘 푸는 현재의 인공지능을 넘어, 처음 접하는 문제와 환경에서도 스스로 판단하고 적응할 수 있는 범용인공지능(Artificial General Intelligence, AGI) 원천기술 개발을 위해 우리 대학이 AGI 전담 연구소를 출범했다.
우리 대학은 지난 18일 내부 승인 절차를 마치고 AI연구원 산하에 AGI 연구소(AGI Research Institute)를 공식 출범했다고 밝혔다.
전산학부, AI컴퓨팅학과, 김재철AI대학원, 전기및전자공학부 소속 교수 11명이 참여하며, 김태균 전산학부 교수가 초대 소장을 맡았다. 연구진은 향후 참여 범위를 점차 확대할 계획이다.
AGI 연구소는 기초연구를 통해 범용인공지능의 과학과 공학을 발전시키고 그 성과와 혜택을 사회에 환원하는 것을 목표로 한다. 특히 기존에 접하지 않은 과제와 환경, 데이터에서도 학습한 지식을 활용할 수 있는 AI의 ‘일반화(Generalization)’ 능력을 핵심 연구과제로 삼는다.
현재 AI는 방대한 데이터와 연산 자원을 활용하면서 빠르게 발전해 왔지만, 학습한 것과 비슷한 문제에는 강한 반면 조건이나 환경이 달라지면 성능이 떨어지는 한계가 있다.
AGI 연구소는 단순히 데이터와 연산 자원의 규모를 늘리는 방식에서 벗어나, 제한된 자원에서도 기존에 학습하지 않은 문제를 추론하고 새로운 환경에 적응할 수 있는 AI의 원천기술을 개발할 계획이다.
이를 위해 새롭고 효율적인 신경망 구조와 학습 원리, 현실 세계에 대한 이해와 지능의 구현 등 AI의 근본적인 작동 원리를 연구하고, 관련 분야를 이끌 차세대 연구자도 함께 양성한다.
연구소의 주요 연구 분야는 ▲적은 연산으로도 높은 성능을 구현하는 고효율 신경망 ▲스스로 가설을 세우고 새로운 지식을 발견하는 AI 메타과학자 ▲현실 세계의 구조와 변화를 이해하고 미래를 예측하는 월드 모델 ▲로봇과 같이 실제 환경을 인지하고 행동하는 피지컬 AI ▲AI가 인간의 의도에서 벗어나지 않도록 하는 AI 안전성 등이다.
이 가운데 고효율 신경망 분야에서는 기존 트랜스포머(Transformer)를 넘어서는 새로운 신경망 구조와 학습 방식을 개발해 자원이 제한된 환경에서도 AGI를 구현하는 기술을 연구한다. AI 메타과학자 분야에서는 AI가 지식을 탐색하는 수준을 넘어 스스로 가설을 만들고 과학 연구를 수행하며 새로운 지식을 발견할 수 있도록 하는 기술을 개발한다.
연구소는 이처럼 서로 연결된 연구 분야를 하나의 연구 체계로 결집해 KAIST를 세계적인 AGI 연구 거점으로 발전시키는 것을 목표로 한다.
김태균 AGI 연구소장은 “AI 데이터센터를 계속 늘리는 방식만으로는 AI 발전에 한계가 있다”며 “자원이 제한된 환경에서도 새로운 문제에 적응할 수 있는 AI 원천기술을 꾸준히 개발하는 것이 차세대 AI 경쟁에서 중요하다”고 말했다.
연구소는 과학기술정보통신부가 지원하는 국책과제를 기반으로 본격적인 연구에 나선다. 경량·저전력 차세대 신경망 개발에는 5년간 총 100억 원, AI 메타과학자 연구에는 5년간 총 187억5,000만 원이 투입된다. 또한 LG전자가 주관하는 월드 모델·로봇 기반 피지컬 AI 기술개발 사업에도 참여하며, 해당 사업은 2년간 총 340억 원 규모로 추진된다. 이 밖에도 물리적 세계에 기반한 지능 구현을 위한 연구과제를 수행하고 있다.
최성율 연구부총장은 “KAIST의 우수한 AI 연구팀들이 인류의 지속가능한 발전을 선도하는 차세대 AGI 핵심 기술을 개발하는 데 크게 기여할 것으로 기대한다”고 말했다.
정보통신기획평가원(IITP) 홍진배 원장은 “창의적인 아이디어와 도전적인 연구가 AI 기술 혁신의 원동력인 만큼, 새로운 AGI 연구소가 미래 인공지능의 새로운 가능성을 열어가는 혁신의 중심이 되기를 기대한다”고 말했다.
2026.09.22 조회수 4731 -
한 번 배운 풀이 기억…스마트폰 AI가 비슷한 문제 스스로 푼다
어려운 문제를 풀 때마다 전문가에게 다시 묻는 대신, 한 번 배운 풀이를 공책에 적어두고 비슷한 문제에 활용하는 AI 기술이 나왔다. 우리 대학 연구진은 스마트폰 속 소형 AI가 서버의 대형 AI에게서 얻은 지식을 기기에 쌓아두고 재사용하도록 해, 높은 정확도를 유지하면서 서버 호출을 평균 55.61% 줄였다. 비슷한 문제를 만날수록 서버에 덜 의존하고 더 빠르게 판단하는 모바일 AI의 가능성을 제시한 것이다.
우리 대학은 전산학부 이재길 교수 연구팀이 기기의 소형 AI와 서버의 대형 AI를 효율적으로 연결하는 기기-서버 협업 기술 ‘CURE(Cumulative Knowledge Reuse, 누적 지식 재사용)’를 개발했다고 21일 밝혔다.
스마트폰과 같은 기기는 계산 능력과 메모리가 제한돼 가벼운 소형 AI 모델을 주로 사용한다. 소형 모델은 간단한 문제는 빠르게 처리하지만, 복잡하거나 낯선 이미지를 구분할 때는 정확도가 떨어질 수 있다.
반대로 모든 문제를 고성능 서버의 대형 AI에 맡기면 정확도를 높일 수 있지만, 데이터를 보내고 답을 기다리는 시간이 길어진다. 통신량과 서버 연산량도 늘어나 이용자의 대기 시간과 서비스 운영 비용이 커진다.
이를 보완하기 위해 기기의 소형 AI가 먼저 판단하고 어려운 문제만 서버로 보내는 협업 방식이 연구돼 왔다. 그러나 기존 방식은 서버에서 받은 답을 그때만 사용하기 때문에, 비슷한 문제가 다시 들어와도 서버에 같은 도움을 반복해서 요청해야 했다. 마치 학생이 어려운 문제의 답을 듣고도 기록해 두지 않아, 같은 유형의 문제를 만날 때마다 다시 물어보는 것과 같다. 연구팀은 서버가 알려준 답을 일회성으로 사용하지 않고, 기기가 이후에도 활용할 수 있는 지식으로 축적하는 데 주목했다.
CURE는 먼저 기기의 소형 AI가 입력을 스스로 처리할 수 있는지 판단한다. 해결하기 어렵다면 기기에 저장된 서버 지식을 활용하고, 저장된 지식으로도 부족할 때만 서버에 도움을 요청한다. ‘혼자 풀기→배운 내용 찾아보기→전문가에게 묻기’의 3단계로 문제를 처리하는 방식이다.
예를 들어 소형 AI가 사진 속 특정 차종을 구분하지 못하면 서버의 대형 AI에 답을 요청한다. 이때 CURE는 서버의 판단 결과와 이미지의 특징을 기기의 지식 저장소에 반영한다. 이후 비슷한 차종의 사진이 들어오면 앞서 저장한 지식을 참고해 서버에 다시 묻지 않고 기기에서 직접 판단한다.
특히 CURE는 서버가 처리한 사진을 하나씩 그대로 저장하지 않는다. 여러 사진이 공유하는 특징과 서로 다른 점을 요약해 지식으로 보관한다. 자동차 사진을 통째로 외우는 대신 차체 모양이나 전조등처럼 차종을 구분하는 핵심 특징을 정리해 두는 것과 같다. 이를 통해 이전에 본 사진뿐 아니라 처음 접하는 유사한 사진을 판단할 때도 축적된 지식을 활용할 수 있다.
연구팀은 이미지와 글을 함께 이해하는 ‘비전-언어 모델’을 이용해 CURE의 성능을 검증했다. 비전-언어 모델은 사람처럼 이미지를 보고, 그 내용을 언어와 연결해 이해하는 AI다.
기기용 소형 모델로는 MobileCLIP2를, 서버용 대형 모델로는 180억 개의 매개변수를 가진 EVA-CLIP을 사용했다. 매개변수는 AI가 학습 과정에서 익힌 정보를 담고 있는 내부 수치로, 사물을 구분하고 관계를 판단할 때 활용하는 ‘판단 기준’과 같다.
다양한 이미지 분류 데이터셋을 이용한 실험에서 CURE는 모든 입력을 대형 서버 모델로 처리하는 방식에 근접한 정확도를 유지했다. 그러면서 서버의 지식을 축적하지 않는 기존 기기-서버 협업 방식보다 서버 호출 횟수를 평균 55.61% 줄였다.
처리 속도는 기존 기기-서버 협업 방식보다 최대 2.80배 빨랐으며, 모든 입력을 서버로 보내는 방식보다 최대 3.67배 빨랐다. 서버에 묻는 횟수를 줄여 데이터를 주고받고 답을 기다리는 시간을 단축한 결과다.
CURE는 소형 모델과 서버 모델을 별도로 다시 학습시키지 않고도 적용할 수 있다. 기존 AI 모델은 그대로 두고 서버에서 얻은 지식을 담는 별도의 저장소를 붙이는 방식이어서, 다양한 AI 모델과 서비스에 유연하게 적용할 수 있다는 것도 장점이다.
이번 기술은 모바일 사진 인식과 이미지 검색 등에서 반복적인 데이터 전송과 서버 연산을 줄여 이용자의 대기 시간과 서비스 운영 부담을 낮추는 데 활용될 수 있다.
스마트폰뿐 아니라 제한된 기기 자원으로 주변 환경을 인식해야 하는 로봇과 웨어러블 기기에도 응용할 수 있다. 특히 통신이 느리거나 불안정한 환경에서 로봇이 서버의 답을 기다리지 않고, 이전에 얻은 지식을 바탕으로 더 많은 상황을 현장에서 직접 판단하는 데 도움을 줄 수 있다.
다만 실제 적용 효과는 기기의 성능과 저장 공간, 통신 환경, 입력 데이터의 특성 등에 따라 달라질 수 있어 다양한 기기와 환경에서 추가 검증이 필요하다.
이재길 교수는 “CURE는 기기의 소형 AI가 서버에 같은 문제를 반복해서 묻지 않고, 한 번 얻은 지식을 기억해 다시 활용하도록 한 기술”이라며 “높은 정확도를 유지하면서 통신 부담과 응답 시간을 줄여 스마트폰과 로봇, 웨어러블 등 다양한 기기에서 고성능 AI를 효율적으로 활용하는 기반이 될 것으로 기대한다”고 말했다.
이번 연구에는 KAIST 정보전자연구소 이영준 박사후연구원이 제1저자로, 전산학부 이재길 교수가 교신저자로 참여했다. Amazon 김도영 연구원, LG AI연구원 강준혁 연구원, KAIST 산업및시스템공학과 송환준 교수가 공동저자로 참여했다. 연구 결과는 지난 9월 8일부터 12일까지 스웨덴 말뫼에서 열린 컴퓨터 비전 분야 주요 국제학술대회 ‘유럽컴퓨터비전학회(ECCV 2026, European Conference on Computer Vision)’에서 10일 발표됐다.
※ 논문명: CURE: Cumulative Knowledge Reuse for Efficient Device-Server Hybrid Inference in Vision-Language Models, DOI: https://doi.org/10.1007/978-3-032-37627-5_21
※ 저자정보: 이영준 박사후연구원(KAIST 정보전자연구소, 제1저자), 김도영 연구원(KAIST 졸업, 현 Amazon, 공동저자), 강준혁 연구원(KAIST 졸업, 현 LG AI연구원, 공동저자), 송환준 교수(KAIST 산업및시스템공학과, 공동저자), 이재길 교수(KAIST 전산학부, 교신저자)
※ 관련 영상 링크: https://drive.google.com/file/d/1oIn-eYW4IEI_dOFWeTeaDotf1IBDjRLt/view?usp=share_link
한편, 이번 연구는 과학기술정보통신부와 정보통신기획평가원의 ‘사람중심인공지능핵심원천기술개발사업’ 중 ‘AI학습능력개선기술개발’ 과제(과제번호 RS-2022-II220157)의 지원 등을 받아 수행됐다.
2026.09.21 조회수 3594 -
AI 업무비서 실수해도 ‘처음부터 다시’ 없다…틀린 곳만 고친다
“지난해 가장 많이 팔린 상품을 찾아줘.” AI가 회사 자료를 찾는 과정에서 존재하지 않는 항목을 잘못 사용하면 검색이 실패할 수 있다. 지금까지는 작은 오류 하나에도 검색 명령 전체를 다시 만들어야 했지만, 우리 대학 연구진이 틀린 부분만 찾아 바로잡는 기술을 개발했다. AI의 데이터 검색을 더 빠르고 정확하게 만들어 기업의 ‘AI 업무비서’ 활용을 앞당길 것으로 기대된다.
우리 대학은 전산학부 김민수 교수 연구팀이 사람의 일상적인 질문을 데이터베이스에서 원하는 정보를 찾는 컴퓨터 명령어인 SQL(Structured Query Language)로 바꾸는 과정에서 발생하는 오류를 찾아 수정하는 기술 ‘세이프큐엘(SafeQL)’을 개발했다고 4일 밝혔다.
최근에는 “지난해 매출이 가장 많이 늘어난 상품은?”, “재고가 부족한 상품은?”처럼 일상적인 말로 질문하면 AI가 이를 SQL로 바꿔 회사의 매출·고객·재고 자료를 찾아주는 ‘Text-to-SQL’ 기술이 활용되고 있다. 복잡한 컴퓨터 명령어를 몰라도 말이나 글로 질문해 필요한 데이터를 찾을 수 있게 해주는 기술이다.
문제는 AI가 검색 명령을 만들면서 데이터베이스에 실제로 없는 테이블이나 항목의 이름을 잘못 사용하거나, 자료를 잘못 연결하는 등의 실수를 할 수 있다는 것이다. 이 경우 SQL이 실행되지 않아 AI가 필요한 데이터를 가져오지 못한다.
기존에는 이런 작은 오류 하나에도 오류 내용을 챗GPT와 같은 생성형 AI의 기반인 대형언어모델(LLM)에 다시 보내 검색 명령 전체를 새로 만들게 했다. 보고서에서 단어 하나가 틀렸다는 이유로 문서 전체를 다시 쓰는 것과 비슷하다. 이미 맞았던 부분까지 달라지거나 새로운 오류가 생길 수 있고, AI를 반복해서 사용하는 만큼 비용과 시간도 늘어난다.
SafeQL은 이 방식을 바꿨다. AI에게 검색 명령 전체를 다시 만들게 하는 대신, 데이터베이스가 알려주는 오류와 실제 저장된 정보를 이용해 어디가 잘못됐는지 찾아 해당 부분만 고친다. 존재하지 않는 테이블이나 항목을 사용했는지 확인하고, 빠진 자료의 연결이나 잘못 사용한 함수·검색값 등도 찾아 수정한다.
연구팀은 이를 위해 데이터베이스에서 실제로 실행할 수 있는 여러 수정안 가운데 원래 AI가 만든 명령과 가장 가까운 답부터 찾아가는 ‘안전 질의 공간(Safe Query Space)’ 방식을 설계했다. 쉽게 말해 가능한 수정안을 모두 확인하는 대신, 제대로 작동할 가능성이 높은 답부터 골라 확인하는 방식이다. 맞지 않는 후보를 미리 제외해 수정에 필요한 시간도 줄였다.
또한 SafeQL을 세계적으로 널리 사용되는 공개형 데이터베이스 관리 프로그램인 PostgreSQL 내부에 구현해 복잡한 명령에서도 오류가 발생한 위치를 정확하게 찾도록 했다. 틀린 부분만 고쳐서는 해결하기 어려운 경우에만 LLM을 다시 사용하도록 해 불필요한 AI 사용도 줄였다.
연구팀은 전 세계 연구자들이 AI의 데이터베이스 검색 능력을 비교하는 데 널리 사용하는 BIRD와 Spider 벤치마크를 통해 SafeQL의 성능을 검증했다.
특히 BIRD 벤치마크 평가에서 SafeQL은 AI가 처음 만든 SQL의 실행 오류를 최대 87.4% 해결했으며, 원하는 답을 정확하게 찾아내는 실행 정확도도 기존 최고 기술보다 최대 5.8%포인트 높였다. 검색 명령 전체를 AI에게 다시 만들게 하는 기존 방식과 비교하면 토큰 사용량은 최대 15.1배 줄이고, 오류 수정 시간은 최대 29.6배 단축했다.
SafeQL은 많은 데이터 요청을 처리하는 기업에서 특히 유용할 것으로 기대된다. AI가 매출·고객·재고 등 사내 데이터를 찾는 과정에서 오류가 발생해도 검색 명령 전체를 다시 만들지 않고 잘못된 부분만 빠르게 수정할 수 있기 때문이다. 이를 통해 AI 운영에 필요한 비용과 시간을 줄이고, 기업 데이터를 보다 정확하고 안정적으로 활용하는 ‘AI 에이전트’ 기반 업무 자동화를 앞당길 수 있을 것으로 기대된다.
김민수 교수는 “기업에서 AI가 실제 업무를 맡으려면 필요한 데이터를 정확하게 찾는 것이 중요하다”며 “SafeQL은 AI가 검색 과정에서 실수하더라도 처음부터 다시 하는 대신 틀린 부분만 바로잡아 오류와 비용, 시간을 함께 줄이는 기술로, 신뢰할 수 있는 AI 업무 자동화를 앞당길 것으로 기대한다”고 말했다.
이번 연구에는 KAIST 전산학부 이건호 연구원이 제1저자로 참여했으며 김민수 교수가 교신저자를 맡았다. 연구 결과는 9월 1일부터 5일까지 미국 보스턴에서 열리는 세계적인 데이터베이스 분야 국제학술대회 VLDB(International Conference on Very Large Data Bases)에서 발표될 예정이다.
※ 논문명: SafeQL: Search-based Refinement for Safe and Efficient LLM-based Text-to-SQL, DOI: 10.14778/3819518.3819545
※ 저자정보: 이건호(KAIST, 제1저자), 김민수(KAIST, 교신저자)
한편, 이번 연구는 과학기술정보통신부의 지원을 받은 한국연구재단(NRF)과 정보통신기획평가원(IITP)의 SW스타랩 사업의 지원을 받아 수행됐다.
2026.09.04 조회수 2686 -
스마트폰이 ‘몰래카메라 탐지기’로 변신한다
스마트폰이 '몰래카메라 탐지기'로 변신한다. 우리 대학 연구진이 스마트폰과 1만 원 수준의 발광다이오드(LED, Light Emitting Diode) 장치만으로 숨겨진 불법 촬영 카메라를 찾아내는 AI 기술을 개발했다. 누구나 손쉽게 자신의 프라이버시를 지킬 수 있는 새로운 보안 기술로, 호텔과 공유숙박 등 일상 공간에서 불법 촬영 범죄를 예방하는 데 활용될 것으로 기대된다.
우리 대학은 전산학부 한준 교수 연구팀이 싱가포르국립대학(NUS, National University of Singapore) 및 싱가포르경영대학(SMU, Singapore Management University)과 공동연구를 통해 스마트폰에 발광다이오드(LED) 케이스를 부착해 숨겨진 카메라를 탐지하는 기술 '스윕LED(SweepLED)'를 개발했다고 30일 밝혔다.
불법 촬영 카메라가 호텔, 공유숙박, 화장실 등 일상 공간에 몰래 설치되는 사례가 늘면서 일반인도 쉽게 활용할 수 있는 탐지 기술의 필요성이 커지고 있다. 그러나 기존 휴대용 탐지기는 사용자가 렌즈에서 반사되는 밝은 점을 직접 눈으로 확인해야 해 금속이나 유리, 광택이 있는 플라스틱의 반사를 카메라 렌즈로 오인하는 문제가 있었다.
연구팀이 개발한 스윕LED는 스마트폰 카메라는 고정한 채 LED 조명의 방향만 바꾸며 물체 표면에서 나타나는 반사 변화 패턴을 분석하는 방식이다. 일반적인 광택 물체의 반사점은 조명 방향에 따라 위치가 달라지거나 사라지지만, 카메라 렌즈는 내부 렌즈와 조리개, 이미지센서 구조 때문에 반사 모양이 독특하게 변형되는 특징을 보인다.
연구팀은 이러한 시간에 따른 반사 변화 패턴을 딥러닝 기반 영상 분석으로 학습해 카메라 렌즈를 구별했다. 기존 탐지 방식이 사용자의 눈에 의존해 단순히 '밝은 점'을 찾는 수준이었다면, 스윕LED는 여러 조명 각도에서 나타나는 반사의 움직임과 모양 변화를 인공지능이 종합적으로 분석해 숨겨진 카메라를 판별한다는 점에서 차별화된다.
이를 통해 숙박 공간에서 흔히 볼 수 있는 충전기, 탁상시계, 리모컨, 장식품 등 다양한 물체 속에 숨겨진 카메라 렌즈를 보다 안정적으로 탐지할 수 있다.
연구팀은 실제 환경에서 볼 수 있는 30개 물체를 대상으로 성능을 평가한 결과 약 94%의 탐지 정확도를 기록했으며, 물체 하나를 검사하는 데 걸리는 시간도 5초 이내인 것으로 확인했다.
또한 스마트폰에 부착하는 LED 케이스의 핵심 부품 비용이 7달러(약 1만 원) 미만으로, 향후 스마트폰 액세서리 형태의 보급형 탐지기나 일반 소비자용 제품으로 상용화될 가능성을 제시했다.
한준 교수는 "불법 촬영 카메라는 일상 공간에서 개인의 안전과 프라이버시를 심각하게 위협하는 문제" 라며 "이번 연구는 스마트폰 기반의 저비용 하드웨어와 인공지능 분석을 결합해 비전문가도 손쉽게 활용할 수 있는 실용적인 탐지 기술의 가능성을 제시했다는 점에서 의미가 있다" 고 말했다.
KAIST 윤종혁 박사과정생이 제1저자로 참여한 이번 연구는 모바일 컴퓨팅 분야 최고 권위의 국제학술대회인 ACM 모비시스 2026(ACM MobiSys 2026)에서 6월 20일 발표됐다.
※ 논문명: Hide-and-Sweep: Detecting Concealed Cameras via LED Illumination Sweeps, DOI: https://doi.org/10.1145/3812835.3814866
※ 저자정보: 윤종혁(제1저자), 문재영, 박윤서, Sean Rui Xiang Tan, 김병현, Rajesh Krishna Balan, 한준(교신저자)
한편 이번 연구는 과학기술정보통신부와 한국연구재단의 STEAM 글로벌융합연구지원사업 및 중견연구자지원사업의 지원을 받아 수행됐다.
2026.08.31 조회수 4206 -
1억 1천만 뉴스 댓글서 ‘외국발 여론 흔들기’ 찾는 AI 기술 개발
선거철마다 반복되는 온라인 갈등 뒤에 조직적인 여론 개입이 숨어 있다면 어떨까. 우리 대학 연구진이 20년간 축적된 1억 1,000만 건의 뉴스 댓글을 AI로 분석해, 외국 연계 영향력 활동으로 의심되는 흔적과 그 판단 근거까지 찾아내는 기술을 개발했다.
우리 대학은 문화기술대학원 이원재 교수, 전산학부 차미영 교수(독일 막스플랑크 연구소 단장 겸임), 오혜연 교수 공동연구팀이 막스플랑크 연구소 토르스텐 홀츠 교수와 국제 공동연구를 통해 온라인 뉴스 댓글에서 외국 연계 영향력 활동으로 의심되는 패턴을 자동으로 탐지하고, 그 판단 근거까지 제시하는 ‘설명 가능한 AI 기술’을 개발했다고 12일 밝혔다.
특정 세력이 댓글이나 게시물을 조직적으로 확산해 사람들의 인식이나 여론에 영향을 미치려는 활동을 ‘온라인 영향력 공작’이라고 한다. 기존 AI 탐지 기술은 특정 계정을 의심 계정으로 분류하더라도 “왜 이 계정을 의심하는가”에 대한 구체적인 근거를 제시하기 어렵다는 한계가 있었다.
연구팀은 이러한 한계를 해결하기 위해 국가안보전략연구원이 앞서 식별한 외국 연계 계정 70개를 출발점으로 삼았다. 이 계정들과 연관되거나 같은 기사에 반복적으로 댓글을 작성한 계정들을 추적해 2006년부터 2025년까지 20년간 네이버 뉴스에 작성된 약 1억 1,000만 건의 댓글을 분석했다.
연구팀이 개발한 AI는 댓글을 단계적으로 분석한다. 먼저 작성자가 외국과 연계됐다고 의심할 만한 표현이나 맥락이 있는지를 살피고, 이어 도덕적 비난이나 맹목적 찬양처럼 사회적 양극화를 키울 수 있는 감정이 나타나는지를 분석한다. 마지막으로 이러한 감정이 어느 국가나 대상을 향하는지 파악한다.
특히 이번 기술의 핵심은 AI가 단순히 ‘의심스럽다’는 결과만 내놓지 않는다는 점이다. AI가 판단을 내리는 데 근거가 된 댓글 속 표현을 함께 제시해 사람이 그 이유를 확인할 수 있도록 했다. 여기에 계정의 활동 빈도와 활동 기간, 다른 의심 계정과의 활동 연관성 등 다양한 행동 패턴을 함께 분석했다.
연구팀은 이를 통해 네이버 뉴스 이용자 약 400만 명 가운데 외국 연계 영향력 활동이 의심되는 계정 2만 3,998개를 식별했다. 분석 과정에서는 이들 의심 계정의 활동에서 주목할 만한 특징도 발견됐다. 특정 정치 진영을 일방적으로 지지하기보다는 한국 사회 내부의 갈등과 대립을 증폭시키는 방향의 메시지가 두드러진 것이다.
실제로 대중의 호응을 많이 얻은 상위 10개 표적 가운데 7개가 국내 유명 정치인으로 나타났다. 특정 정당이나 이념에 집중되지 않고 진보와 보수 양 진영의 전·현직 대통령과 대선 후보, 정당 등이 폭넓게 대상이 됐다.
연구팀은 이러한 결과가 외국 연계 영향력 활동을 단순히 ‘어느 정치 세력을 지지하는가’의 관점만으로 바라봐서는 안 된다는 점을 보여준다고 설명했다. 특정 진영을 직접 지원하기보다 기존의 정치적 갈등을 자극해 사회적 불신과 양극화를 확대하는 방식으로 영향력을 행사할 가능성도 살펴야 한다는 것이다.
이번 연구는 온라인 영향력 활동을 계정 단위의 단순 분류에서 한 단계 더 나아가, 어떤 메시지가 어떤 방식으로 사회적 갈등을 증폭시키는지를 AI가 찾아내고 그 판단 근거까지 제시했다는 데 의미가 있다.
향후 이 기술은 선거 또는 국가적 위기처럼 사회적 관심과 갈등이 급격히 높아지는 시기에 활용될 수 있다. 포털과 모니터링 기관이 대규모 댓글 가운데 우선적으로 살펴봐야 할 계정이나 메시지를 AI로 선별하고, 전문가가 AI가 제시한 근거를 검토해 최종적으로 판단하는 방식이다. 다만 연구팀은 AI가 의심 계정을 자동으로 차단하거나 제재하는 방식보다 전문가의 판단을 지원하는 ‘설명 가능한 콘텐츠 관리 도구’로 활용하는 것이 중요하다고 강조했다.
이원재 교수는 “20년간의 데이터를 분석한 결과, 의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다”며 “선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것”이라고 설명했다.
오혜연 교수는 “AI가 댓글의 표면적인 의미를 넘어 갈등을 유발하는 감정과 계정의 조직적인 행동 패턴까지 함께 분석했다”며 “갈수록 교묘해지는 온라인 영향력 활동을 탐지하는 데 활용될 것으로 기대한다”고 말했다.
차미영 교수는 “이번 연구는 데이터 과학을 실제 사회 문제 해결로 연결한 ‘액셔너블 데이터 과학(Actionable Data Science)’의 사례”라며 “디지털 공론장의 투명성과 신뢰를 높이는 실질적인 도구가 되길 기대한다”고 밝혔다.
공동 제1저자인 KAIST 김재홍 박사과정과 김현승 석사과정이 주도한 이번 연구는 컴퓨터 보안 분야 최고 권위 국제학술대회인 ‘USENIX Security Symposium 2026(유즈닉스 시큐리티 심포지엄 2026)’에서 8월 13일 발표될 예정이다.
※ 논문명: Cross-National Information Attacks: A Two-Decade Analysis of Troll Behavior in Korea, DOI: 10.48550/arXiv.2606.22785
이번 연구는 현대차 정몽구 재단과 글로벌 정보보호 고급 인력 양성과제(과학기술정보통신부·정보통신기획평가원, RS-2024-00441762), 중견연구자지원사업(과학기술정보통신부·한국연구재단, RS-2022-00165347), 첨단데이터컴퓨팅연구실 (KAIST, N11250080)의 지원을 받아 수행됐다.
2026.08.12 조회수 7200 -
오토아이디랩 부산혁신연구소, 국제표준 기반 ‘안전한 수산물 생태계 조성’ 다자간 업무협약 체결
우리 대학 오토아이디랩 부산혁신연구소(전산학부 김대영 교수)가 국제표준 기반의 안전한 수산물 생태계를 조성하고 수산업의 AI 전환(AX)을 앞당기며 이를 글로벌 공급망으로 확산하기 위한 업무협약(MoU)을 7월 16일 체결했다.
이번 협약에는 KAIST 오토아이디랩(전산학부 김대영 교수), 부산대학교 Better Process Control School(BPCS), 글로벌 수산물 이력추적 협의체 GDST(Global Dialogue on Seafood Traceability), 해양관리협의회 한국사무소(MSC Korea), 수산양식관리협의회 한국사무소(ASC Korea), 국제 수산 비영리기구 오션 아웃컴즈(Ocean Outcomes), 데이터 전문기업 데이터스피라(Dataspira)가 참여했다. 학계·표준기구·인증기관·비영리단체·기업이 국제표준이라는 공통의 언어 아래 하나의 협력체계를 구성했다는 데 의미가 있다.
세계 수산물 시장은 불법·비보고·비규제(IUU) 어업 근절, 국제 노동인권 보호, 공급망 투명성 강화라는 전례 없는 규제·윤리적 전환기를 맞고 있다. 이 흐름의 중심에는 GDST 표준이 있다. GDST는 수산물 공급망 전 과정에서 반드시 기록해야 할 핵심 데이터 요소(KDEs)와 중요추적이벤트(CTEs)를 국제 기준으로 정의한 체계로, 최근 미국과 유럽의 주요 식품유통 기업들이 거래 조건으로 요구하면서 사실상 글로벌 시장 진출의 필수 요건이 되고 있다.
특히 미국 식품의약국(FDA)의 식품이력추적 규정(FSMA 204)이 2028년 7월부터 시행되면, 고위험 농축수산식품에 대한 이력추적 기록 유지와 신속한 데이터 제공이 의무화된다. 이에 따라 GDST 표준 준수는 미국을 비롯한 글로벌 시장에 진출하려는 수산·식품 기업에게 선택이 아닌 필수로 자리 잡고 있다.
문제는 현장에서 식품안전을 위한 공급망 데이터와 MSC·ASC 등 친환경 인증을 위한 환경 데이터가 서로 분리돼 있는 '데이터 단절(Data Divide)' 현상이다. 이번 협약은 GS1 식별체계(GTIN, GLN)와 EPCIS 2.0, GS1 Digital Link를 GDST의 KDEs·CTEs와 연결하는 국제표준을 공통 기반으로 삼아, 참여 기관이 각자 보유한 표준·기술·인증·현장 전문성을 결합해 '인증(Certification) + 디지털 이력추적(Digital Traceability)'이 유기적으로 작동하는 안전한 수산물 생태계를 함께 조성하는 데 목표를 둔다.
이번 협력의 기술적 토대는 이미 국제적으로 검증돼 있다. KAIST 오토아이디랩이 개발한 'OLIOPASS(올리오패스)'와 데이터스피라의 'SCAN4DATA AI'는 각각 어업·양식–가공–유통물류–소비에 이르는 전 과정을 관리하는 GDST 전 구간(Full Chain) 호환 솔루션 인증을 획득한 기술로, 이 협약을 통해 실제 글로벌 공급망에 적용된다.
참여 기관들은 수산업 인프라가 밀집한 부산을 글로벌 테스트베드로 삼아, 원양 참치(어업)와 김·해조류(양식) 및 그 가공품을 대상으로 '어업·양식에서 식탁까지(From Sea to Plate)' 전 구간을 디지털로 검증하는 실증 사업을 기획한다. 이를 통해 확보한 성과를 글로벌 유통기업의 공급망 정책과 FAO·APEC 등 국제 협력체계로 연결해, K-수산물을 디지털·AI 기반 블루푸드 전환의 글로벌 기준으로 자리매김시킨다는 구상이다.
기관별 역할은 상호 보완적이다. KAIST 오토아이디랩은 GS1-GDST 국제표준을 아우르는 아키텍처 설계와 기반기술 연구, 표준 데이터를 활용한 수산업 AI 전환(AX) 기술 개발을, 부산대 BPCS는 FSMA 204·SIMP·EU CATCH 등 해외 규제 대응과 블루푸드 전략연구 및 부산 지역산업 네트워크 연계를 맡는다. GDST는 국제 이력추적 데이터 표준과 인증시험(Capability Test) 연계 및 상호운용성 검증 및 글로벌 확산을 지원하고, MSC·ASC 한국사무소는 어업·양식 수산물의 지속가능 인증 및 유통이력(CoC) 기준을 제공한다. 오션 아웃컴즈는 현장 중심의 어업개선사업(FIP)·양식개선사업(AIP) 컨설팅 및 데이터 통합을, 데이터스피라는 국제표준 기반의 이력추적 솔루션과 클라우드 플랫폼 구축을 담당한다.
김대영 교수(오토아이디랩 부산혁신연구소장)는 “안전한 수산물 생태계는 어느 한 기관의 기술만으로는 완성될 수 없으며, 국제표준을 매개로 정책·기술·인증·현장이 함께 움직일 때 비로소 가능하다”며 “이번 협약을 통해 한국이 세계 수산물 디지털 전환의 시험대이자 국제표준 협력의 거점으로 성장하는 데 일익을 담당하겠다”고 말했다.
2026.08.03 조회수 2015 -
AI가 택배 배송·인력 배치까지 스스로 짠다...‘실행 가능한 계획’ 만드는 기술 개발
택배 배송과 공장 생산계획, 병원 근무표까지. 앞으로는 인공지능(AI)이 현실의 모든 조건을 고려해‘실제로 실행 가능한 계획'을 스스로 만드는 시대가 열린다. 우리 대학 연구진이 외부 전문 최적화 프로그램의 도움 없이 AI가 스스로 실행 가능한 계획을 만드는 기술을 개발했다.
우리 대학은 전산학부 김민수 교수 연구팀이 외부의 전문 최적화 프로그램(솔버, Solver·복잡한 최적화 문제의 정답을 자동으로 계산하는 프로그램) 없이도 AI가 스스로 실행 가능한 계획을 만들도록 학습하는 강화학습(Reinforcement Learning·시행착오를 반복하며 더 나은 선택을 배우는 AI 학습 방식) 기술‘RL-SPH(Reinforcement Learning-based Start Primal Heuristic)'를 개발했다고 3일 밝혔다.
이번 기술은 AI가 현실의 여러 제약조건을 스스로 만족하는 계획을 만들어낼 수 있도록 한 것이 핵심이다. 향후 물류와 제조, 반도체 생산, 인력 운영 등 다양한 산업 분야에서 AI 기반 의사결정을 구현하는 핵심 기술이 될 것으로 기대된다.
물류 배송과 차량 경로 탐색, 공장 생산 일정, 병원 근무표 작성은 모두 여러 조건을 만족하면서 가장 효율적인 계획을 찾아야 하는 대표적인 정수선형계획법(ILP, Integer Linear Programming·여러 조건을 만족하는 최적의 계획을 찾는 계산 기법) 문제다. 예를 들어 택배 배송은 배송 시간을 줄이는 것뿐 아니라 차량 적재량과 기사 근로시간을 지키고 모든 배송지를 빠짐없이 방문해야 한다. 조건 하나만 어겨도 아무리 빠른 경로라도 실제로 사용할 수 없다.
기존 AI는 비용이 적게 드는 계획을 제안하더라도 차량 적재량이나 근로시간 같은 현실의 조건을 위반하는 경우가 많았다. 결국 Gurobi나 SCIP 같은 전문 솔버가 마지막으로 오류를 수정해야 했기 때문에 AI만으로는 완전한 해결이 어려웠다.
연구팀이 개발한 RL-SPH는 처음부터 정답을 예측하는 대신 사람이 계획을 하나씩 고쳐 나가듯 현재 계획을 단계적으로 수정한다. 변수(인원 수, 차량 수, 생산량처럼 조정 가능한 값)를 하나씩 바꾸며 제약조건(반드시 지켜야 하는 현실의 조건)을 해결하고, 그 결과를 학습해 점점 더 나은 계획을 만들어간다.
특히 연구팀은‘가장 좋은 계획'보다‘실제로 사용할 수 있는 계획'을 먼저 찾도록 AI를 설계했다. 예를 들어 공장에서는 먼저 납기일과 설비 용량, 작업 인력 등 모든 조건을 만족하는 생산계획을 만든 뒤, 그 상태를 유지하면서 생산비와 시간을 줄여나가는 방식이다. 이를 위해 먼저 실행가능해(모든 제약조건을 만족해 실제 사용할 수 있는 계획)를 찾고, 이후 비용과 시간을 줄이는 2단계 탐색 전략을 적용했다.
또한 변수와 제약조건의 관계를 학습하는 새로운 AI 모델‘ILP-GT'와, 문제 해결에 가장 효과적인 변수부터 우선 수정하는 실행가능성 인식 탐색 전략을 적용해 계산 효율도 크게 높였다.
연구팀은 대표적인 5종의 벤치마크에서 RL-SPH를 평가한 결과 모든 문제에서 100%의 실행가능해를 찾는 데 성공했다. 일반 정수 변수가 포함된 더욱 복잡한 문제에서도 같은 성능을 유지했다.
기존 기술과 비교하면 최적해와의 차이를 나타내는 프라이멀 갭(Primal Gap)은 평균 28.6배, 탐색 과정 전체의 품질과 속도를 평가하는 프라이멀 인터그럴(Primal Integral)은 2.6배 개선됐다. 또한 처음으로 실행 가능한 계획을 찾는 시간도 평균 2.5배 빨라졌다.
PAS, DDIM, DiffILO 등 최신 AI 기술과 비교한 결과에서도 RL-SPH만이 모든 벤치마크에서 실행 가능한 계획을 100% 찾아냈다. 학습 시간도 평균 30분으로 기존 기술보다 14.7배, 최근 비지도학습(정답을 미리 알려주지 않고 데이터에서 스스로 규칙을 찾는 AI 학습 방식) 기반 기술보다 약 34배 빨랐다.
특히 산업계와 학계에서 널리 사용하는 국제 최적화 벤치마크인 MIPLIB(Mixed Integer Programming Library)에서도 높은 범용성을 입증했다. 기존보다 최대 67배 큰 문제는 물론, 학습 과정에서 한 번도 접하지 못한 새로운 형태의 문제에서도 실행 가능한 계획을 안정적으로 찾아냈다.
김민수 교수는 "현실에서는 가장 좋은 답보다 실제로 실행할 수 있는 계획이 더 중요하다”며 "이번 연구는 전문 최적화 프로그램의 도움 없이 AI가 스스로 실행 가능한 계획을 만들 수 있음을 보여준 성과로, 앞으로 물류와 제조, 반도체 생산, 인력 운영 등 다양한 산업 현장에서 AI 기반 의사결정을 구현하는 핵심 기술이 될 것으로 기대한다”고 말했다.
이번 연구는 KAIST 전산학부 이태훈 박사과정이 제1 저자로 참여했으며, 김민수 교수가 교신저자를 맡았다. 연구 결과는 7월 6일부터 11일까지 개최된 세계 최고 권위의 기계학습 국제 학술대회인 ‘국제 기계학습 학회(ICML, International Conference on Machine Learning)’에서 발표됐다.
※ 논문명: RL-SPH: Learning to Achieve Feasible Solutions for Integer Linear Programs, DOI: https://doi.org/10.48550/arXiv.2411.19517
※ 저자정보: 이태훈(KAIST, 제1 저자), 김민수(KAIST, 교신저자)
한편, 이번 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)의 SW스타랩 및 대학ICT연구센터(ITRC) 사업, 한국연구재단의 지원을 받아 수행됐다.
2026.08.03 조회수 2994 -
국내 유일 Microsoft AI 안전성 연구 프로그램 선정
생성형 AI가 산업과 사회 전반으로 빠르게 확산되면서 AI의 안전성과 보안성을 확보하는 기술이 새로운 핵심 경쟁력으로 떠오르고 있다. 우리 대학이 국내에서는 유일하게 Microsoft(마이크로소프트)의 글로벌 AI 안전성 연구 프로그램에 선정돼 차세대 AI 보안·신뢰성 기술 개발에 나선다.
우리 대학은 전산학부 손수엘 교수가 국내에서는 유일하게 Microsoft AI Red Team(마이크로소프트 AI 레드팀)이 운영하는 글로벌 AI 안전성 연구 프로그램 ‘EXTRA(External Red Team Alliance, 외부 레드팀 연합)'의 연구지원 대상자로 선정됐다고 28일 밝혔다.
EXTRA는 Microsoft AI Red Team이 올해 새롭게 출범한 글로벌 연구지원 프로그램으로, AI 시스템의 안전성과 보안 취약점을 다양한 관점에서 검증하고 독립적인 AI 안전성 연구 생태계를 확대하기 위해 마련됐다. AI 안전성 평가를 기업 내부에만 맡기지 않고 전 세계 대학과 연구기관으로 확대했다는 점에서 의미가 크다.
Microsoft는 AI 시스템이 고도화될수록 사이버보안(Cybersecurity), 다국어 환경(Multilingual Environment), 지역·문화적 맥락, AI 정렬(Alignment, 인공지능이 인간의 의도와 가치에 맞게 동작하도록 만드는 기술), 악용 가능성 등 다양한 분야의 전문성을 종합적으로 검증해야 하지만, 하나의 조직만으로는 이러한 위험을 충분히 평가하기 어렵다고 판단해 EXTRA를 출범시켰다.
이번 선정에 따라 KAIST는 Microsoft로부터 AI 안전성, 보안, AI 정렬(Alignment) 및 책임 있는 AI(Responsible AI) 개발 연구를 위한 미화 2만5천 달러(한화 약 3,700만 원) 규모의 연구지원금을 받는다. 이번 지원은 연구과제 수행 기간을 별도로 정하지 않는‘기프트 어워드(Gifted Award)' 형태로 제공되며, 해당 연구비는 손수엘 교수 연구팀의 AI 보안 및 안전성 연구에 활용될 예정이다.
EXTRA에는 KAIST를 비롯해 전 세계 6개 대륙 10여개가 넘는 대학이 참여하며, 국내에서는 KAIST가 유일하다. Microsoft는 이번 프로그램을 통해 독립적인 AI 안전성 연구 생태계를 확대하고 학계와 산업계 간 협력을 강화해 나갈 계획이다.
손수엘 교수 연구팀은 생성형 AI와 대규모 언어모델(LLM, Large Language Model) 기반 AI 시스템의 보안과 개인정보 보호 기술을 연구하고 있다. 특히 모델 탈취(Model Stealing), 멤버십 추론(Membership Inference), 개인정보 추출(Information Extraction), 모델 전도(Model Inversion), 탈학습(Unlearning), 프롬프트 주입(Prompt Injection) 등 심층신경망과 언어모델을 대상으로 한 다양한 적대적 공격 기법을 분석해 AI 시스템의 취약점을 평가하고, 이를 방어하는 기술을 개발하고 있다.
또한 이러한 연구를 기반으로 웹 에이전트(Web Agent)와 에이전틱 브라우저(Agentic Browser) 등 실제 서비스 환경에서 운영되는 AI 에이전트가 안전하고 신뢰성 있게 동작할 수 있도록 하는 시스템 수준의 방어 기술도 연구하고 있다.
손수엘 교수는 "AI 시스템이 사회 전반에 빠르게 확산되면서 성능뿐 아니라 안전성과 신뢰성을 확보하는 것이 무엇보다 중요해지고 있다”며 "이번 Microsoft AI Red Team의 EXTRA 참여를 계기로 실제 AI 서비스 환경에서 발생할 수 있는 다양한 보안 위협을 체계적으로 분석하고, 누구나 안심하고 활용할 수 있는 AI 기술 개발에 기여하겠다”고 말했다.
Microsoft AI Red Team을 이끄는 램 샹카르 시바 쿠마르(Ram Shankar Siva Kumar)는 "AI 안전성 연구는 그 어느 때보다 중요해졌으며 대학은 이 분야를 발전시키는 데 핵심적인 역할을 하고 있다”며 "EXTRA를 통해 점점 더 강력해지는 AI 시스템을 어떻게 평가하고 보호하며 책임감 있게 관리할 수 있는지에 대한 이해를 높이는 연구자들을 지원하고자 한다”고 밝혔다.
배충식 KAIST 총장은 "AI 기술 경쟁은 이제 성능을 넘어 안전성과 신뢰성을 확보하는 경쟁으로 확대되고 있다"며 "KAIST가 국내 유일의 연구기관으로 Microsoft의 글로벌 AI 안전성 연구 네트워크에 참여하게 된 것은 우리나라 AI 연구 경쟁력을 보여주는 의미 있는 성과"라고 말했다. 이어 "앞으로도 세계 최고 수준의 AI 보안 및 안전성 연구를 통해 누구나 신뢰하고 활용할 수 있는 책임 있는 AI 기술 발전을 선도해 나가겠다”고 밝혔다.
2026.07.28 조회수 5252 -
아이처럼 세상의 원리 스스로 배우는 AI 월드모델 개발..ICML 2026 최우수논문상
AI에게 변화 전과 변화 후만 보여줬더니, 다음을 예측하는 것을 넘어 왜 그렇게 변했는지 스스로 원리를 찾아 이해하는 AI가 등장했다. 우리 대학 연구진이 관측만으로 세계의 작동 원리를 스스로 이론화하는 차세대 월드모델(World Model, AI가 세상을 이해하고 예측하기 위해 내부적으로 만드는 세계 모델) 기술을 개발했다.
우리 대학은 전산학부 안성진 교수 연구팀이 AI가 관측한 정보만으로 세계의 작동 원리를 스스로 이론화하도록 하는 새로운 학습 패러다임‘이론화 학습(L2T, Learning-to-Theorize)’을 제안하고, 이를 구현한 신경망 기반 이론 생성 모델 ‘NEO(Neural Theorizer, 네오)’를 개발했다고 27일 밝혔다.
이번 연구는 지난 7월 9일 서울에서 열린 세계 최고 권위의 인공지능 학회 제43회 국제기계학습학회(ICML 2026, International Conference on Machine Learning)에서 구두발표(Oral) 논문으로 선정됐다. 이는 전체 투고 논문 23,918편 가운데 상위 0.7%(168편)에 해당하는 성과다. 또한 구성적 학습 워크숍(Compositional Learning Workshop)에서는 최우수논문상(Best Paper Award)을 수상했다.
인공지능의 월드모델(World Model)은 로봇 제어와 자율주행, 생성형 AI, 자율 에이전트(스스로 판단하고 행동하는 AI) 등 다양한 분야의 핵심 기반기술이다. 지금까지의 월드모델은 주로‘다음에 무엇이 일어날지'를 예측하는 데 초점을 맞춰 왔다. 하지만 다음 장면을 잘 예측하더라도 왜 그런 변화가 일어났는지, 즉 세상의 작동 원리까지 이해하지는 못한다는 한계가 있었다.
연구팀은 이러한 한계를 인간의 학습 방식에서 해결책을 찾았다. 사람은 말을 배우기 전 어린 시절부터 세상이 어떻게 움직이는지에 대한 내부 이론을 스스로 만들며 세상을 이해한다. 연구팀은 이러한 발달인지과학의 관점을 인공지능에 적용해, 미래를 예측하는 AI가 아니라 세상의 원리를 스스로 이해하는 AI를 구현했다.
연구팀이 제안한 L2T(Learning-to-Theorize)는 정답이나 규칙을 미리 알려주지 않는다. 오직‘변화 전'과‘변화 후'의 관측 결과만 제시하면 AI가 그 사이에서 어떤 규칙이 작동했는지를 스스로 찾아낸다. 즉, 기존 AI가‘다음을 맞히는 것'에 집중했다면, 이번 AI는‘왜 그런 변화가 일어났는지'를 이해하도록 만든 것이 핵심이다.
이를 구현하기 위해 연구팀은 NEO(Neural Theorizer, 신경망 기반 이론 생성 모델)도 함께 개발했다. NEO는 관측된 변화 속에 숨어 있는 규칙을 스스로 찾아 이를 실행 가능한 형태의 규칙으로 정리한다. 이렇게 만들어진 규칙은 새로운 상황에서도 자유롭게 조합해 활용할 수 있다.
예를 들어 NEO는 회전(Rotate), 이동(Left·Down), 색칠(Paint)과 같은 기본 규칙을 각각 독립적으로 스스로 학습한다. 이후 학습 과정에서 한 번도 보지 못했던 새로운 조합인‘아래로 이동한 뒤 색을 칠하고 회전하는' 작업이 주어져도, 이미 익힌 기본 규칙들을 조합해 새로운 상황을 설명하고 해결할 수 있다.
반면 기존 AI는 여러 규칙이 섞인 패턴 자체를 통째로 외우는 방식이어서 처음 보는 새로운 조합이 등장하면 성능이 크게 떨어졌다. 연구팀은 다양한 실험을 통해 이번 기술이 구성적 일반화(Compositional Generalization, 기존에 배운 기본 규칙을 조합해 처음 보는 문제까지 해결하는 능력)에서 기존 방식보다 뛰어난 성능을 보였음을 입증했다.
안성진 교수는 "이번 연구는 인공지능(AI)의 세계 이해를 단순한 미래 예측에서 세상의 작동 원리를 스스로 설명하는 단계로 확장한 첫걸음”이라며 “예측 중심의 월드모델을 넘어‘월드 시어리 모델(World Theory Model)'이라는 새로운 방향을 제시했다. 앞으로 지능형 로봇과 자율 에이전트는 물론 과학적 발견을 지원하는 AI 등 다양한 분야의 핵심 기술로 발전할 것으로 기대한다”고 말했다.
이번 연구는 전산학부 백두진 석사과정과 이규빈 석사과정이 공동 제1저자로 참여하였다.
※ 논문명: Learning to Theorize the World from Observation, 논문 링크: https://arxiv.org/abs/2605.03413
※ 저자: Doojin Baek*, Gyubin Lee*, Junyeob Baek, Hosung Lee, Sungjin Ahn (*공동 제1저자) 한편, 해외우수과학자유치사업과 해외우수연구기관 협력허브 구축사업(과기부, 한국연구재단)의 지원을 받아 수행됐다.
2026.07.27 조회수 5963 -
투명한 유리도 보고 미래도 예측하는 ‘피지컬 AI’ 핵심기술 개발
인공지능(AI)이 화면 속 정보를 분석하는 기술을 넘어, 현실 세계의 물리적 특성을 이해하고 스스로 판단·행동하는 단계로 진화하고 있다. 우리 대학 연구진은 빛과 물질의 상호작용, 공간 인식, 미래 상황 예측, 행동 계획을 아우르는 피지컬 AI(Physical AI·물리 기반 인공지능) 핵심 기술을 개발했다. 이번 성과는 자율주행차와 휴머노이드 로봇, 산업용 로봇, 디지털 트윈 등 실제 환경에서 작동하는 차세대 자율 시스템 구현을 앞당길 것으로 기대된다.
우리 대학은 전산학부 윤성의 교수 연구팀이 ▲유리나 물처럼 투명한 물체를 정확히 인식하는 기술 ▲빛과 물질의 상호작용을 분석해 주변 환경을 이해하는 기술 ▲사진 한 장만으로 로봇이 목적지를 찾아가는 기술 ▲미래 상황을 예측해 행동을 계획하는 기술을 개발했다고 6일 밝혔다.
이번 연구는 시각 인식부터 물리적 이해, 미래 예측, 행동 계획까지 하나의 기술 흐름으로 연결했다는 점에서 의미가 크다. 이를 통해 AI가 '보고(인식) → 이해하고(물리 이해) → 예측하고(미래 예측) → 행동하는(계획)' 전 과정을 수행하는 기반을 제시했으며, 다양한 자율 시스템의 성능과 활용 범위를 한층 넓힐 것으로 기대된다.
이번 연구 성과는 세계 최고 권위의 AI 학회인 ICLR 2026(International Conference on Learning Representations)과 CVPR 2026(Conference on Computer Vision and Pattern Recognition)에서 구두 발표 2편과 하이라이트 논문 2편 등 총 4편의 논문으로 발표됐다. 특히 ICLR과 CVPR의 구두 발표는 각각 약 1.13%, 0.8%만 선정되는 최상위 발표 형식으로, 연구의 독창성과 우수성을 국제적으로 인정받았다.
▲ 유리까지 이해하는 AI… 투명한 물체도 정확히 인식
연구팀은 글린트(GLINT, 투명 환경 시각 인식 기술)를 개발해 AI가 유리와 같은 투명한 물체도 정확하게 인식할 수 있도록 했다.
사람은 유리창을 볼 때 유리에 비친 모습과 유리 너머의 풍경을 자연스럽게 구분한다. 하지만 기존 AI는 두 정보를 하나의 영상으로 인식해 투명한 물체를 제대로 이해하지 못하는 경우가 많았다.
연구팀은 유리에 반사된 모습과 유리 뒤의 물체를 각각 분리해 분석하는 새로운 기술을 개발함으로써 AI가 투명한 환경에서도 장면을 정확하게 이해할 수 있도록 했다.
※ 논문 정보 : GLINT: Modeling Scene-Scale Transparency via Gaussian Radiance Transport, 논문 원본: https://arxiv.org/abs/2603.26181 (CVPR 2026 Oral, 6월 5일 구두 발표, Award Candidate(4천여 편 발표 논문 가운데 74편 선정)
▲ 빛의 움직임까지 이해하는 AI
연구팀은 라디오GS(RadioGS, 빛과 재질을 이해하는 장면 복원 기술)를 개발해 빛이 물체에 닿아 반사되고 퍼지는 과정까지 AI가 이해하도록 했다.
같은 물체라도 햇빛 아래와 실내 조명 아래에서는 다르게 보인다. 기존 AI는 이러한 조명 변화에 영향을 받기 쉬웠다. 연구팀은 빛과 물체의 상호작용을 AI가 학습하도록 만들어 조명이 달라져도 물체의 재질과 주변 환경을 더욱 정확하게 이해할 수 있도록 했다.
※ 논문 정보 : Radiometrically Consistent Gaussian Surfels for Inverse Rendering, 논문 원본: https://arxiv.org/abs/2603.01491 (ICLR 2026 Oral, 4월 23일 구두 발표)
▲ 사진 한 장만 보고 목적지를 찾아가는 로봇
연구팀은 비주얼-RRT(Visual-RRT, 이미지 기반 로봇 경로 계획 기술)를 개발해 시각 정보를 실제 행동으로 연결했다. 기존 로봇은 목적지의 좌표 정보가 필요했지만, 이번 기술은 현재 로봇이 보는 장면과 목표 사진을 비교하며 스스로 이동 경로를 찾아간다.
실제 로봇 실험에서도 사진 한 장만으로 목적지에 성공적으로 도달해 서비스 로봇과 자율주행 로봇 등 다양한 분야에 활용될 가능성을 확인했다.
※ 논문 정보: Visual-RRT: Finding Paths toward Visual-Goals via Differentiable Rendering, 논문원본: https://arxiv.org/abs/2604.16388 (CVPR 2026 Highlight) ３월 27일 하이라이트 논문 선정
※ 동영상: https://www.youtube.com/watch?v=nAPk27vHwEE
▲ 미래를 예측하고 스스로 행동을 계획하는 AI
연구팀은 클래드(CLaD, 미래 예측 기반 행동 계획 기술)를 개발해 AI가 행동하기 전에 미래 상황을 예측하고 가장 적절한 행동을 계획하도록 했다.
사람은 행동하기 전에 "이렇게 움직이면 다음에는 어떤 일이 생길까?"를 먼저 생각한다. 클래드는 AI도 이처럼 행동의 결과를 미리 예측한 뒤 가장 효과적인 행동을 선택하도록 만든 기술이다. 이를 통해 복잡한 환경에서도 높은 성공률로 작업을 수행할 수 있어 차세대 자율 로봇의 핵심 기술로 활용될 것으로 기대된다.
※ 논문 정보 : CLaD: Planning with Grounded Foresight via Cross-Modal Latent Dynamics, 논문원본: https://arxiv.org/abs/2603.29409(CVPR 2026 Highlight)
윤성의 교수는 "이번 연구는 AI가 단순히 눈으로 보는 것을 넘어 현실 세계를 이해하고 앞으로 일어날 상황까지 예측해 스스로 행동을 결정하는 방향으로 발전하고 있음을 보여준다"며 "이번 성과가 자율주행차와 휴머노이드 로봇 등 실제 환경에서 작동하는 다양한 피지컬 AI 기술의 발전에 기여하기를 기대한다"고 말했다.
윤성의 교수가 교신저자로 참여한 이번 연구들은 과학기술정보통신부와 정보통신기획평가원(IITP), 한국연구재단(NRF)의 지원을 받아 수행 중인 피지컬 AI 및 지능형 로봇 연구과제의 일환으로 수행됐다.
2026.07.06 조회수 4607 -
문수복 교수, 한국연구재단 국가전략연구본부장 선임
전산학부 문수복 교수가 7월 1일자로 한국연구재단 국가전략연구본부장에 선임됐다. 임기는 2년이며, 문 교수는 국가전략 분야 학술 및 연구개발 지원사업의 기획과 평가를 총괄하게 된다.
문수복 교수는 앞으로 정부가 위탁한 국가전략 분야 연구개발 지원사업의 관리와 평가를 맡는다. 구체적으로는 사업 기획, 중장기 발전방안 제안, 정책 수립 및 자문, 예산 배분과 집행, 연구성과 활용 촉진 등을 담당한다. 이와 함께 분야별 연구 수요 발굴, 기술 예측, 연구 동향 조사와 분석도 주요 업무로 수행하게 된다.
문 교수는 서울대학교 컴퓨터공학과를 졸업하고 같은 대학에서 석사학위를 받았으며, 미국 매사추세츠대학교 애머스트 캠퍼스에서 전산학 박사학위를 취득했다.
2003년 KAIST 전산학부 교수로 부임한 이후 분산시스템과 컴퓨터시스템 분야를 중심으로 연구를 수행해 왔다. 2019년부터 2021년까지 KAIST 학술정보원장을 지냈으며, 2021년부터 한국공학한림원 컴퓨팅분과 정회원으로 활동하고 있다. 2022년부터 지난 6월까지는 KB국민은행 사외이사를 역임했으며, 올해는 한국정보과학회 회장으로 활동 중이다.
2026.07.03 조회수 2090