-
국내 유일 Microsoft AI 안전성 연구 프로그램 선정
생성형 AI가 산업과 사회 전반으로 빠르게 확산되면서 AI의 안전성과 보안성을 확보하는 기술이 새로운 핵심 경쟁력으로 떠오르고 있다. 우리 대학이 국내에서는 유일하게 Microsoft(마이크로소프트)의 글로벌 AI 안전성 연구 프로그램에 선정돼 차세대 AI 보안·신뢰성 기술 개발에 나선다.
우리 대학은 전산학부 손수엘 교수가 국내에서는 유일하게 Microsoft AI Red Team(마이크로소프트 AI 레드팀)이 운영하는 글로벌 AI 안전성 연구 프로그램 ‘EXTRA(External Red Team Alliance, 외부 레드팀 연합)'의 연구지원 대상자로 선정됐다고 28일 밝혔다.
EXTRA는 Microsoft AI Red Team이 올해 새롭게 출범한 글로벌 연구지원 프로그램으로, AI 시스템의 안전성과 보안 취약점을 다양한 관점에서 검증하고 독립적인 AI 안전성 연구 생태계를 확대하기 위해 마련됐다. AI 안전성 평가를 기업 내부에만 맡기지 않고 전 세계 대학과 연구기관으로 확대했다는 점에서 의미가 크다.
Microsoft는 AI 시스템이 고도화될수록 사이버보안(Cybersecurity), 다국어 환경(Multilingual Environment), 지역·문화적 맥락, AI 정렬(Alignment, 인공지능이 인간의 의도와 가치에 맞게 동작하도록 만드는 기술), 악용 가능성 등 다양한 분야의 전문성을 종합적으로 검증해야 하지만, 하나의 조직만으로는 이러한 위험을 충분히 평가하기 어렵다고 판단해 EXTRA를 출범시켰다.
이번 선정에 따라 KAIST는 Microsoft로부터 AI 안전성, 보안, AI 정렬(Alignment) 및 책임 있는 AI(Responsible AI) 개발 연구를 위한 미화 2만5천 달러(한화 약 3,700만 원) 규모의 연구지원금을 받는다. 이번 지원은 연구과제 수행 기간을 별도로 정하지 않는‘기프트 어워드(Gifted Award)' 형태로 제공되며, 해당 연구비는 손수엘 교수 연구팀의 AI 보안 및 안전성 연구에 활용될 예정이다.
EXTRA에는 KAIST를 비롯해 전 세계 6개 대륙 10여개가 넘는 대학이 참여하며, 국내에서는 KAIST가 유일하다. Microsoft는 이번 프로그램을 통해 독립적인 AI 안전성 연구 생태계를 확대하고 학계와 산업계 간 협력을 강화해 나갈 계획이다.
손수엘 교수 연구팀은 생성형 AI와 대규모 언어모델(LLM, Large Language Model) 기반 AI 시스템의 보안과 개인정보 보호 기술을 연구하고 있다. 특히 모델 탈취(Model Stealing), 멤버십 추론(Membership Inference), 개인정보 추출(Information Extraction), 모델 전도(Model Inversion), 탈학습(Unlearning), 프롬프트 주입(Prompt Injection) 등 심층신경망과 언어모델을 대상으로 한 다양한 적대적 공격 기법을 분석해 AI 시스템의 취약점을 평가하고, 이를 방어하는 기술을 개발하고 있다.
또한 이러한 연구를 기반으로 웹 에이전트(Web Agent)와 에이전틱 브라우저(Agentic Browser) 등 실제 서비스 환경에서 운영되는 AI 에이전트가 안전하고 신뢰성 있게 동작할 수 있도록 하는 시스템 수준의 방어 기술도 연구하고 있다.
손수엘 교수는 "AI 시스템이 사회 전반에 빠르게 확산되면서 성능뿐 아니라 안전성과 신뢰성을 확보하는 것이 무엇보다 중요해지고 있다”며 "이번 Microsoft AI Red Team의 EXTRA 참여를 계기로 실제 AI 서비스 환경에서 발생할 수 있는 다양한 보안 위협을 체계적으로 분석하고, 누구나 안심하고 활용할 수 있는 AI 기술 개발에 기여하겠다”고 말했다.
Microsoft AI Red Team을 이끄는 램 샹카르 시바 쿠마르(Ram Shankar Siva Kumar)는 "AI 안전성 연구는 그 어느 때보다 중요해졌으며 대학은 이 분야를 발전시키는 데 핵심적인 역할을 하고 있다”며 "EXTRA를 통해 점점 더 강력해지는 AI 시스템을 어떻게 평가하고 보호하며 책임감 있게 관리할 수 있는지에 대한 이해를 높이는 연구자들을 지원하고자 한다”고 밝혔다.
배충식 KAIST 총장은 "AI 기술 경쟁은 이제 성능을 넘어 안전성과 신뢰성을 확보하는 경쟁으로 확대되고 있다"며 "KAIST가 국내 유일의 연구기관으로 Microsoft의 글로벌 AI 안전성 연구 네트워크에 참여하게 된 것은 우리나라 AI 연구 경쟁력을 보여주는 의미 있는 성과"라고 말했다. 이어 "앞으로도 세계 최고 수준의 AI 보안 및 안전성 연구를 통해 누구나 신뢰하고 활용할 수 있는 책임 있는 AI 기술 발전을 선도해 나가겠다”고 밝혔다.
2026.07.28
조회수 7182
-
산업디자인학과, 인간-컴퓨터 분야 세계최고 학술대회 최우수·우수논문상 4편 수상
산업디자인학과가 인간-컴퓨터 상호작용(HCI) 분야 최고 권위의 국제학술대회인 ACM CHI 2024에서 최우수 논문상(Best Paper) 1편과 우수 논문상(Honorable Mention) 3편을 수상했다. 최우수 논문상은 전체 게재 논문 중 상위 1%, 우수 논문상은 상위 5%에 해당되는 논문에 수여되는 명예로운 성과로, 기술과 디자인 융합 연구의 우수성을 세계적으로 입증한 결과다.
올해 CHI(ACM Conference on Human Factors in Computing Systems) 2025에는 5,014편의 논문이 접수되어 1,249편이 채택되었다. KAIST 산업디자인학과는 이 중 15편의 논문을 게재하는 성과를 거뒀고 그 중 4편이 수상작으로 선정되었다. 특히 ‘인간과 AI 간 상호작용(Human-AI Interaction)’에 대한 관심이 높아진 가운데, 5,000명 이상의 연구자가 참석해 역대 최대 규모로 대회가 개최되었다.
최우수 논문상- AI기반 자폐 아동 소통 도구 ‘AAcessTalk’
홍화정 교수팀은 네이버, 도닥임 아동발달센터와의 공동 연구를 통해 AI 기반 도구 액세스톡(AACessTalk)을 개발했다. 이 시스템은 발화를 하지 않는 자폐 아동에게는 개인화된 어휘를, 부모에게는 문맥 기반 대화 가이드를 제공한다. 연구 결과, 아동은 자신의 의사를 보다 분명히 표현할 수 있었고, 부모는 기능적 언어 교육보다 본질적인 소통에 집중할 수 있게 되면서 양육 효능감이 높아지는 효과가 관찰되었다. 해당 연구를 주도한 최다솜 박사과정은 신경다양인을 포용하는 AI 기술을 꾸준히 탐구해 왔으며, 이번 논문은 네이버 인턴십에서 수행한 연구 결과를 바탕으로 출판한 것이다.
우수 논문상- 인간과 AI 상호작용 탐색
남택진 교수팀(주저자 조형준 박사)의 ‘ShamAIn’은 한국 무속 신앙에서 영감을 받은 AI 신당으로, 인간보다 더 뛰어난 초지능 존재로 기능하는 AI와 인간의 상호작용을 탐구했다. 다수의 사용자들은 처음엔 호기심에서 시작했지만, 점차 개인적인 고민을 털어놓으며 심리적 위안을 얻는 경험을 보고했다. AI가 단순한 정보 제공자를 넘어 감정적 지지와 권위적 판단까지 수행할 수 있는 존재로 인식될 수 있음을 보여주는 연구다.
임윤경 교수팀(주저자 박수빈 박사과정)은 걸음 수, 감정 기록 등 다양한 개인 데이터를 생성형 AI를 활용해 시각 이미지로 변환하는 프로토타입을 개발하여 21일간 사용자 경험을 탐색했다. 참가자들은 자신의 개인 데이터를 이미지 생성 모델 DALL-E 3로 만든 시각 자료로 다시 돌아보며 새로운 자기 인식을 경험했다. 이는 AI가 자기 성찰의 도구로 활용될 수 있음을 제시하는 연구다.
안드레아 비앙키 교수팀은 시드니대학과 협력하여 가상현실(VR) 환경에서의 '가상 팔' 제어 실험을 진행했다. 사용자들은 반복적이고 중요도가 낮은 작업은 가상의 팔에 맡기고, 중요한 작업은 직접 제어하는 방식을 선호했다. 본 연구는 가상 신체 제어가 필요한 로봇, 게임, 재활, 보조공학 디자인에 실질적 시사점을 제공한다.
이번 수상 논문들은 디자인이 기술을 사람 중심으로 연결하고, AI의 사회적·심리적 영향을 설계하는 역할로 확장될 수 있음을 실증적으로 보여주었다는 점에서 의의가 크다.
석현정 산업디자인학과 학과장은 “이번 수상은 기술 중심의 AI 연구를 인간 중심의 디자인 관점에서 새롭게 해석하고, 이를 실생활 문제 해결로 연결 시킨 우리 학과 연구진들의 역량을 세계적으로 인정받은 결과”라며, “디자인이 기술 혁신의 파트너로서 어떤 역할을 할 수 있는지를 보여준 좋은 사례”라고 전했다.
2025.05.19
조회수 18425