-
오토아이디랩 부산혁신연구소, 국제표준 기반 ‘안전한 수산물 생태계 조성’ 다자간 업무협약 체결
우리 대학 오토아이디랩 부산혁신연구소(전산학부 김대영 교수)가 국제표준 기반의 안전한 수산물 생태계를 조성하고 수산업의 AI 전환(AX)을 앞당기며 이를 글로벌 공급망으로 확산하기 위한 업무협약(MoU)을 7월 16일 체결했다.
이번 협약에는 KAIST 오토아이디랩(전산학부 김대영 교수), 부산대학교 Better Process Control School(BPCS), 글로벌 수산물 이력추적 협의체 GDST(Global Dialogue on Seafood Traceability), 해양관리협의회 한국사무소(MSC Korea), 수산양식관리협의회 한국사무소(ASC Korea), 국제 수산 비영리기구 오션 아웃컴즈(Ocean Outcomes), 데이터 전문기업 데이터스피라(Dataspira)가 참여했다. 학계·표준기구·인증기관·비영리단체·기업이 국제표준이라는 공통의 언어 아래 하나의 협력체계를 구성했다는 데 의미가 있다.
세계 수산물 시장은 불법·비보고·비규제(IUU) 어업 근절, 국제 노동인권 보호, 공급망 투명성 강화라는 전례 없는 규제·윤리적 전환기를 맞고 있다. 이 흐름의 중심에는 GDST 표준이 있다. GDST는 수산물 공급망 전 과정에서 반드시 기록해야 할 핵심 데이터 요소(KDEs)와 중요추적이벤트(CTEs)를 국제 기준으로 정의한 체계로, 최근 미국과 유럽의 주요 식품유통 기업들이 거래 조건으로 요구하면서 사실상 글로벌 시장 진출의 필수 요건이 되고 있다.
특히 미국 식품의약국(FDA)의 식품이력추적 규정(FSMA 204)이 2028년 7월부터 시행되면, 고위험 농축수산식품에 대한 이력추적 기록 유지와 신속한 데이터 제공이 의무화된다. 이에 따라 GDST 표준 준수는 미국을 비롯한 글로벌 시장에 진출하려는 수산·식품 기업에게 선택이 아닌 필수로 자리 잡고 있다.
문제는 현장에서 식품안전을 위한 공급망 데이터와 MSC·ASC 등 친환경 인증을 위한 환경 데이터가 서로 분리돼 있는 '데이터 단절(Data Divide)' 현상이다. 이번 협약은 GS1 식별체계(GTIN, GLN)와 EPCIS 2.0, GS1 Digital Link를 GDST의 KDEs·CTEs와 연결하는 국제표준을 공통 기반으로 삼아, 참여 기관이 각자 보유한 표준·기술·인증·현장 전문성을 결합해 '인증(Certification) + 디지털 이력추적(Digital Traceability)'이 유기적으로 작동하는 안전한 수산물 생태계를 함께 조성하는 데 목표를 둔다.
이번 협력의 기술적 토대는 이미 국제적으로 검증돼 있다. KAIST 오토아이디랩이 개발한 'OLIOPASS(올리오패스)'와 데이터스피라의 'SCAN4DATA AI'는 각각 어업·양식–가공–유통물류–소비에 이르는 전 과정을 관리하는 GDST 전 구간(Full Chain) 호환 솔루션 인증을 획득한 기술로, 이 협약을 통해 실제 글로벌 공급망에 적용된다.
참여 기관들은 수산업 인프라가 밀집한 부산을 글로벌 테스트베드로 삼아, 원양 참치(어업)와 김·해조류(양식) 및 그 가공품을 대상으로 '어업·양식에서 식탁까지(From Sea to Plate)' 전 구간을 디지털로 검증하는 실증 사업을 기획한다. 이를 통해 확보한 성과를 글로벌 유통기업의 공급망 정책과 FAO·APEC 등 국제 협력체계로 연결해, K-수산물을 디지털·AI 기반 블루푸드 전환의 글로벌 기준으로 자리매김시킨다는 구상이다.
기관별 역할은 상호 보완적이다. KAIST 오토아이디랩은 GS1-GDST 국제표준을 아우르는 아키텍처 설계와 기반기술 연구, 표준 데이터를 활용한 수산업 AI 전환(AX) 기술 개발을, 부산대 BPCS는 FSMA 204·SIMP·EU CATCH 등 해외 규제 대응과 블루푸드 전략연구 및 부산 지역산업 네트워크 연계를 맡는다. GDST는 국제 이력추적 데이터 표준과 인증시험(Capability Test) 연계 및 상호운용성 검증 및 글로벌 확산을 지원하고, MSC·ASC 한국사무소는 어업·양식 수산물의 지속가능 인증 및 유통이력(CoC) 기준을 제공한다. 오션 아웃컴즈는 현장 중심의 어업개선사업(FIP)·양식개선사업(AIP) 컨설팅 및 데이터 통합을, 데이터스피라는 국제표준 기반의 이력추적 솔루션과 클라우드 플랫폼 구축을 담당한다.
김대영 교수(오토아이디랩 부산혁신연구소장)는 “안전한 수산물 생태계는 어느 한 기관의 기술만으로는 완성될 수 없으며, 국제표준을 매개로 정책·기술·인증·현장이 함께 움직일 때 비로소 가능하다”며 “이번 협약을 통해 한국이 세계 수산물 디지털 전환의 시험대이자 국제표준 협력의 거점으로 성장하는 데 일익을 담당하겠다”고 말했다.
2026.08.03
조회수 456
-
AI 스스로 숨은 약점 찾는다…더 안전한 생성형 AI 만든다
튼튼한 성을 만들려면 먼저 약한 곳을 찾아야 한다. 생성형 인공지능(AI)도 마찬가지다. 우리 대학 연구진이 AI의 숨은 취약점을 기존보다 약 7배 더 다양하게 찾아내는 안전성 검증 기술을 개발했다. 더욱 안전하고 신뢰할 수 있는 AI 개발의 기반이 될 것으로 기대된다.
우리 대학은 전기및전자공학부 김준모 교수 연구팀이 대규모 언어모델(Large Language Model, LLM)의 안전성을 검증하는 레드팀(Red Teaming, AI를 의도적으로 공격해 취약점을 찾는 안전성 검증 과정) 기술의 한계를 극복한 새로운 프레임워크 ‘스테이블-지플로우넷(Stable-GFlowNet)'을 개발했다고 30일 밝혔다.
생성형 AI의 레드팀(Red Teaming)은 프로그램을 배포하기 전에 AI가 유해하거나 위험한 답변을 하도록 유도하는 공격 프롬프트(Attack Prompt, AI의 취약점을 시험하기 위한 질문)를 만들어 숨은 약점을 찾아내는 과정이다. 가능한 한 다양한 공격 방법을 찾아낼수록 더 많은 취약점을 사전에 제거할 수 있어, 공격 성공률과 공격 다양성이 모두 중요하다.
기존에는 강화학습(Reinforcement Learning, 보상을 최대화하도록 학습하는 AI 기법)을 이용해 공격 프롬프트를 생성하는 방식이 주로 사용됐다. 하지만 가장 성공률이 높은 한두 가지 공격 방법만 반복적으로 생성하는 모드 붕괴(Mode Collapse, 다양한 결과 대신 일부 결과에만 치우치는 현상)가 자주 발생해 여러 유형의 취약점을 충분히 찾지 못하는 한계가 있었다.
이를 해결하기 위해 생성 흐름 네트워크(Generative Flow Network, GFlowNet, 보상에 비례해 다양한 결과를 생성하도록 학습하는 AI 생성 기술)가 제안됐지만, 학습 과정에서 계산이 복잡하고 불안정하며 의미 없는 문장에도 높은 보상이 주어져 성능이 쉽게 무너지는 문제가 있었다.
연구팀은 이러한 문제를 해결하기 위해 좋은 공격은 더 잘 배우고, 잘못된 공격은 걸러내는 세 가지 핵심 기술을 개발했다.
첫째, 여러 길 가운데 더 나은 길을 비교해 선택하듯, 대조 궤적 균형(Contrastive Trajectory Balance, CTB) 기법을 도입해 계산이 복잡한 과정을 줄이고 학습을 안정화했다.
둘째, 시끄러운 환경에서도 필요한 목소리만 골라 듣듯, 노이즈 경사 가지치기(Noise Gradient Pruning, NGP)를 적용해 불필요한 잡음은 제거하고 중요한 정보만 학습하도록 했다.
셋째, 횡설수설하는 말보다 자연스러운 문장을 우선 평가하듯 유창성 안정화 장치(MKS)를 적용해 사람이 실제 사용할 법한 공격 프롬프트를 생성하도록 유도했다.
그 결과 연구팀이 개발한 스테이블-지플로우넷(Stable-GFlowNet)은 기존 기술이 찾아낸 17개의 고유 공격 유형보다 약 7배 많은 134개의 공격 유형을 발굴하면서도 92%의 높은 공격 성공률을 유지했다.
또한 스테이블-지플로우넷으로 학습한 방어 모델은 서로 다른 공격 기법을 이용해 평가하는 교차 공격(Cross Attack) 시험에서도 다양한 공격을 효과적으로 방어하며 우수한 일반화 성능을 입증했다.
이번 기술은 AI 안전성 검증뿐 아니라 신약 후보 물질을 생성하는 분자 생성(Molecular Generation) 등 다양한 분포 매칭(Distribution Matching) 문제에서도 기존보다 빠르고 안정적인 성능을 보여 범용적으로 활용될 가능성도 확인했다.
김준모 교수는 “이번 기술은 적은 데이터와 잡음이 많은 현실적인 환경에서도 AI의 다양한 취약점을 안정적으로 찾아낼 수 있다는 점에서 의미가 크다”며 “생성형 AI를 실제 서비스에 적용하기 전에 더 폭넓은 위험 요소를 찾아내고 방어할 수 있어, 더욱 안전하고 신뢰할 수 있는 AI 개발의 핵심 기반기술이 될 것으로 기대한다”고 말했다.
이번 연구는 KAIST 전기및전자공학부 권민찬 박사과정이 제1저자로 참여했으며, 인공지능 분야 세계 최고 권위 학회인 '국제머신러닝학회(ICML) 2026'에서 상위 2.2%에 해당하는 스포트라이트(Spotlight) 논문으로 선정되는 쾌거를 이뤘다.
※ 논문명: Stable-GFlowNet: Toward Diverse and Robust LLM Red-Teaming via Contrastive Trajectory Balance,DOI : https://arxiv.org/abs/2605.00553
한편, 이번 연구는 과학기술정보통신부 정보통신기획평가원 SW스타랩 사업의 지원을 받아 수행됐다.
2026.07.30
조회수 904
-
국내 유일 Microsoft AI 안전성 연구 프로그램 선정
생성형 AI가 산업과 사회 전반으로 빠르게 확산되면서 AI의 안전성과 보안성을 확보하는 기술이 새로운 핵심 경쟁력으로 떠오르고 있다. 우리 대학이 국내에서는 유일하게 Microsoft(마이크로소프트)의 글로벌 AI 안전성 연구 프로그램에 선정돼 차세대 AI 보안·신뢰성 기술 개발에 나선다.
우리 대학은 전산학부 손수엘 교수가 국내에서는 유일하게 Microsoft AI Red Team(마이크로소프트 AI 레드팀)이 운영하는 글로벌 AI 안전성 연구 프로그램 ‘EXTRA(External Red Team Alliance, 외부 레드팀 연합)'의 연구지원 대상자로 선정됐다고 28일 밝혔다.
EXTRA는 Microsoft AI Red Team이 올해 새롭게 출범한 글로벌 연구지원 프로그램으로, AI 시스템의 안전성과 보안 취약점을 다양한 관점에서 검증하고 독립적인 AI 안전성 연구 생태계를 확대하기 위해 마련됐다. AI 안전성 평가를 기업 내부에만 맡기지 않고 전 세계 대학과 연구기관으로 확대했다는 점에서 의미가 크다.
Microsoft는 AI 시스템이 고도화될수록 사이버보안(Cybersecurity), 다국어 환경(Multilingual Environment), 지역·문화적 맥락, AI 정렬(Alignment, 인공지능이 인간의 의도와 가치에 맞게 동작하도록 만드는 기술), 악용 가능성 등 다양한 분야의 전문성을 종합적으로 검증해야 하지만, 하나의 조직만으로는 이러한 위험을 충분히 평가하기 어렵다고 판단해 EXTRA를 출범시켰다.
이번 선정에 따라 KAIST는 Microsoft로부터 AI 안전성, 보안, AI 정렬(Alignment) 및 책임 있는 AI(Responsible AI) 개발 연구를 위한 미화 2만5천 달러(한화 약 3,700만 원) 규모의 연구지원금을 받는다. 이번 지원은 연구과제 수행 기간을 별도로 정하지 않는‘기프트 어워드(Gifted Award)' 형태로 제공되며, 해당 연구비는 손수엘 교수 연구팀의 AI 보안 및 안전성 연구에 활용될 예정이다.
EXTRA에는 KAIST를 비롯해 전 세계 6개 대륙 10여개가 넘는 대학이 참여하며, 국내에서는 KAIST가 유일하다. Microsoft는 이번 프로그램을 통해 독립적인 AI 안전성 연구 생태계를 확대하고 학계와 산업계 간 협력을 강화해 나갈 계획이다.
손수엘 교수 연구팀은 생성형 AI와 대규모 언어모델(LLM, Large Language Model) 기반 AI 시스템의 보안과 개인정보 보호 기술을 연구하고 있다. 특히 모델 탈취(Model Stealing), 멤버십 추론(Membership Inference), 개인정보 추출(Information Extraction), 모델 전도(Model Inversion), 탈학습(Unlearning), 프롬프트 주입(Prompt Injection) 등 심층신경망과 언어모델을 대상으로 한 다양한 적대적 공격 기법을 분석해 AI 시스템의 취약점을 평가하고, 이를 방어하는 기술을 개발하고 있다.
또한 이러한 연구를 기반으로 웹 에이전트(Web Agent)와 에이전틱 브라우저(Agentic Browser) 등 실제 서비스 환경에서 운영되는 AI 에이전트가 안전하고 신뢰성 있게 동작할 수 있도록 하는 시스템 수준의 방어 기술도 연구하고 있다.
손수엘 교수는 "AI 시스템이 사회 전반에 빠르게 확산되면서 성능뿐 아니라 안전성과 신뢰성을 확보하는 것이 무엇보다 중요해지고 있다”며 "이번 Microsoft AI Red Team의 EXTRA 참여를 계기로 실제 AI 서비스 환경에서 발생할 수 있는 다양한 보안 위협을 체계적으로 분석하고, 누구나 안심하고 활용할 수 있는 AI 기술 개발에 기여하겠다”고 말했다.
Microsoft AI Red Team을 이끄는 램 샹카르 시바 쿠마르(Ram Shankar Siva Kumar)는 "AI 안전성 연구는 그 어느 때보다 중요해졌으며 대학은 이 분야를 발전시키는 데 핵심적인 역할을 하고 있다”며 "EXTRA를 통해 점점 더 강력해지는 AI 시스템을 어떻게 평가하고 보호하며 책임감 있게 관리할 수 있는지에 대한 이해를 높이는 연구자들을 지원하고자 한다”고 밝혔다.
배충식 KAIST 총장은 "AI 기술 경쟁은 이제 성능을 넘어 안전성과 신뢰성을 확보하는 경쟁으로 확대되고 있다"며 "KAIST가 국내 유일의 연구기관으로 Microsoft의 글로벌 AI 안전성 연구 네트워크에 참여하게 된 것은 우리나라 AI 연구 경쟁력을 보여주는 의미 있는 성과"라고 말했다. 이어 "앞으로도 세계 최고 수준의 AI 보안 및 안전성 연구를 통해 누구나 신뢰하고 활용할 수 있는 책임 있는 AI 기술 발전을 선도해 나가겠다”고 밝혔다.
2026.07.28
조회수 1262
-
‘나만의 AI’ 더 안전하게 만든다...AI 개인화 시대 핵심기술 개발
“우리 회사 문서만 학습한 AI 비서를 만들어줘.”
기업과 개인이 자신의 문서와 데이터를 AI에 학습시켜 ‘나만의 AI’를 만드는 시대가 열리고 있다. 하지만 AI를 맞춤형으로 학습시키면 업무 능력은 높아지는 반면 기존의 안전장치가 약해질 수 있다는 한계가 있었다. 국내 연구진이 맞춤형 성능은 그대로 유지하면서 안전성은 오히려 높이는 AI 핵심 기술을 개발했다.
우리 대학은 전기및전자공학부 김창익 교수 연구팀이 챗GPT와 같은 대형언어모델(LLM, Large Language Model)을 개인이나 기업의 데이터에 맞게 다시 학습시키는 파인튜닝(Fine-tuning, 기존 AI에 새로운 지식이나 업무를 추가로 학습시키는 과정)에서 안전성이 훼손되는 문제를 해결하는 ‘버퍼 앤드 리인포스(Buffer-and-Reinforce)’ 학습 프레임워크를 개발했다고 15일 밝혔다.
기존에는 AI를 맞춤형으로 학습시키면 새로운 업무 능력은 향상되지만 기존의 안전 규칙이 함께 약화되는 문제가 AI 개인화 시대의 가장 큰 과제로 꼽혀왔다. 연구팀은 먼저 AI가 원래 거부해야 할 위험한 요청에도 응답할 수 있도록 만든 ‘탈옥(Jailbreak)’ 상태의 AI를 맞춤형으로 학습시키면 오히려 안전성이 크게 훼손되지 않는다는 기존 연구 결과에 주목했다.
이에 연구팀은 탈옥 상태를 실제 서비스에 사용하는 것이 아니라 완충 모듈인 ‘버퍼로라(BufferLoRA)’를 활용해 맞춤형 학습 과정에서만 일시적으로 적용한 뒤 제거하는 새로운 접근법을 고안했다.
연구팀은 왜 이러한 현상이 발생하는지를 세계 최초로 규명했다. 그 결과 탈옥 상태의 AI는 위험한 정보에는 더 이상 쉽게 영향을 받지 않는 반면, 사용자가 원하는 새로운 업무 능력은 그대로 효과적으로 학습한다는 사실을 확인했다. 즉, 위험한 정보는 추가로 받아들이지 않으면서 필요한 지식은 계속 학습하는 원리를 밝혀낸 것이다.
이를 바탕으로 연구팀은 ‘완충(Buffer)’과 ‘안전성 강화(Reinforce)’의 두 단계 학습 기법을 개발했다.
먼저 완충 모듈인 ‘버퍼로라(BufferLoRA)’를 AI에 임시로 적용해 맞춤형 학습 과정에서 악성 데이터가 AI 본체에 직접 영향을 주지 못하도록 막아주는 보호막 역할을 하도록 했다. 맞춤형 학습이 끝나면 이 모듈은 제거된다.
이후 안전성 강화 모듈인 ‘리인포스로라(ReinforceLoRA)’를 적용해 AI의 안전성을 다시 높였다. 이 과정에서는 큐알 분해(QR Decomposition, 서로 다른 정보를 분리해 필요한 정보만 선택적으로 반영하는 수학적 기법)를 활용해 사용자가 학습시킨 새로운 기능은 그대로 유지하면서 안전성만 선택적으로 강화하는 데 성공했다.
쉽게 말해, 연구팀은 AI 본체에 임시 보호막(BufferLoRA)을 씌워 악성 데이터가 직접 영향을 주지 못하도록 한 뒤 필요한 업무만 학습시켰다. 이후 보호막을 제거하고 안전성 강화 모듈(ReinforceLoRA)을 적용해 AI의 안전장치를 다시 강화함으로써 맞춤형 성능은 그대로 유지하면서 안전성까지 높이는 데 성공한 것이다.
실험 결과, 사용자 데이터가 모두 위험한 질문과 답변으로 구성된 극단적인 환경에서도 AI는 높은 안전성을 유지했다. 재학습 이후 위험한 답변을 생성하는 비율은 약 8%로, 재학습을 하지 않은 기존 모델의 약 18%보다도 낮은 수준을 기록했다. 또한 별도의 안전성 재학습이나 추가적인 계산 비용 증가 없이 맞춤형 성능과 최고 수준의 안전성을 동시에 확보해 실제 AI 개인화 서비스에도 효율적으로 적용할 수 있는 가능성을 제시했다.
김창익 교수는 “이번 연구는 누구나 자신의 데이터로 맞춤형 AI를 자유롭게 만들면서도 더욱 안전하게 사용할 수 있도록 하는 핵심 기반 기술”이라며 “AI 안전성이 더욱 강조되는 AI 개인화와 AI 에이전트 시대에 신뢰할 수 있는 AI 서비스 환경을 구축하는 데 크게 기여할 것으로 기대한다”고 말했다.
이번 연구는 KAIST 전기및전자공학부 함석일 박사과정이 제1저자로 참여했으며, 인공지능 분야 세계 최고 권위 학술대회인 국제머신러닝학회(ICML, International Conference on Machine Learning) 2026에서 7월 전체 투고 논문 중 상위 약 2.2%에만 주어지는 스포트라이트(Spotlight) 논문으로 채택되어 세계적인 주목을 받았다.
※ 논문명 : Jailbreak to Protect: Buffering and Reinforcing via Temporary Jailbreaking for Safe Fine-Tuning in Large Language Models, DOI: 10.48550/arXiv.2605.24550
※ 저자 정보 : 함석일(한국과학기술원, 제1 저자), 장재혁(한국과학기술원, 제2 저자), 이원준(한국과학기술원, 제3 저자), 김창익(한국과학기술원, 교신저자)
※ 관련 동영상 파일: https://drive.google.com/file/d/1gfok06dE8699qtiUR7gVsRoVmBGADaWQ/view?usp=sharing
한편, 이번 연구는 과학기술정보통신부 정보통신기획평가원(IITP)이 지원하는 ‘공존가능한 신뢰AI를 위한 AI Safety 기술개발사업’의 지원을 받아 수행됐다.
2026.07.15
조회수 1412
-
“지구 안전선 이미 넘었다”...탄소 배출 한계 두 배 초과
지구는 무한하지 않다. 일정 수준을 넘는 오염은 기후와 생태계를 위협한다. 과학자들은 이를 막기 위해 ‘플래니터리 바운더리(Planetary Boundaries)’라는 지구 안전선을 제시해 왔다. 우리 대학 연구진이 기후변화와 질소 오염을 같은 기준으로 다시 계산한 결과, 현재 탄소 배출은 지구가 감당할 수 있는 한계를 두 배 이상 넘은 상태로 나타났다.
우리 대학은 녹색성장지속가능대학원 전해원 교수가 미국 에너지부 산하 태평양북서부국립연구소(PNNL)의 폴 울프람(Paul Wolfram) 박사팀과 공동 연구를 통해, 이산화탄소 배출 한계를 기존의 ‘탄소 총량(저량, stock)’ 기준에서 질소·인 오염과 같은 ‘연간 배출량(유량, flow)’ 기준으로 재산정했다고 6일 밝혔다.
그동안 기후변화는 대기 중에 얼마나 CO₂가 쌓였는지(저량)를 기준으로 평가해 왔다. 반면 질소·인 오염은 1년에 얼마나 배출되는지(유량)를 기준으로 계산했다. 서로 다른 잣대를 사용하다 보니 어떤 문제가 더 심각한지 공정하게 비교하기 어려웠다. 연구팀은 탄소 역시 질소와 동일한 ‘연간 배출량’ 기준으로 다시 계산했다.
지구 평균 온도 상승을 1.5°C 이내로 제한하는 조건에 맞춰 분석한 결과, 지구가 감당할 수 있는 연간 CO₂ 배출 한계는 약 ‘4~17기가톤(Gt CO₂/년)’으로 나타났다. 그러나 현재 인류의 연간 배출량은 약 ‘37기가톤(Gt CO₂/년)’에 달한다. 이는 지구의 안전 작동 범위를 두 배 이상 초과한 수준이다.
전해원 교수는 “탄소 배출을 질소 오염과 같은 기준으로 비교하면 기후변화의 심각성이 훨씬 더 분명하게 드러난다”며 “이번 연구는 서로 다른 환경 문제를 동일한 기준에서 바라볼 수 있게 해 정책 우선순위를 보다 명확히 정하는 데 기여할 것”이라고 말했다.
이어 “탄소와 질소·인 오염을 함께 고려한 통합적 전략 수립의 필요성도 더욱 커지고 있다”며 “전 세계적인 탈탄소화 노력을 한층 더 가속해야 한다”고 강조했다.
이번 연구는 전해원 교수와 폴 울프람(Paul Wolfram) 박사가 공동 교신으로 총괄하였으며, 미국 PNNL 연구원 하싼 니아지(Hassan Niazi)와 페이지 카일(Page Kyle) 등이 공동연구에 참여했다. 연구 결과는 국제 학술지 ‘네이처 서스테인어빌리티(Nature Sustainability)’에 2월 16일 자 게재되었다.
※ 논문명: Ensuring consistency between biogeochemical planetary boundaries, DOI: https://doi.org/10.1038/s41893-026-01770-6
이 연구는 AI기반 기후-인간 상호영향 차세대 통합평가모델 개발(과학기술정보통신부, 한국연구재단)과제의 지원을 받아 수행됐다.
한편, 전 교수는 3월 5일 자 사이언스(Science) 기고문 ‘지구 기후의 안정화를 위한 36가지 방법’에서 지난 20년간의 기후테크 발전을 재조명했다. 인류가 필요한 기술을 상당 부분 보유하고 있었음에도 충분히 빠르게 적용하지 못해 기후위기가 심화됐다고 지적했다. 또한 탄소중립 달성을 위해 탈탄소화 속도를 더욱 높여야 한다고 강조했다.
※ 기고문: Thirty-six solutions to stabilize Earth’s climate, 기고문 링크: https://doi.org/10.1126/science.aed5212
2026.03.06
조회수 3014
-
4개 연구실 '안전관리 우수연구실' 인증 취득
우리 대학 4개 연구실이 과학기술정보통신부가 주관하는 '2025년도 안전관리 우수연구실 인증'을 획득했다.
안전관리 우수연구실 인증제는 해당 인증제는 2013년 시범사업으로 시작되었으며, 대학이나 연구기관 내 연구실의 안전관리 수준을 평가해 자율적 안전관리 역량이 우수한 연구실을 발굴·인증함으로써 연구실 안전관리 문화의 확산을 유도하는 제도이다.
이번에 인증을 획득한 연구실은 총 4개로 건설및환경공학과 ①스마트구조시스템연구실(손훈 교수), 물리학과 ②공동장비실(양찬호 교수), ③양자 에너지 소자 연구실(양희준 교수)이 신규 인증을 받았으며, 화학과 ④지속가능촉매연구실(박윤수 교수)은 재인증을 통해 우수한 안전관리 수준을 다시 한번 입증했다.
해당 연구실들은 ▴연구실 안전 환경 시스템 분야(30점) ▴연구실 안전 환경 활동 수준 분야(50점), ▴연구실 안전관리 관계자 안전의식 분야(20점) 등 세 가지로 구분된 심사 항목에서 각 분야 배점의 80% 이상을 득점하고 80점 이상의 총점을 얻었다. 또한, 안전관리 우수연구실 인증제 운영에 관한 규정에 명시된 필수 이행항목 4종에 대한 평가를 동시에 충족해 우수 연구실로 선정됐다.
이광형 총장은 "KAIST가 세계를 향해 끊임없이 도전하고 꿈을 펼치기 위해서는 '안전'이라는 단단한 뿌리가 무엇보다 깊게 내려져야 한다"며, “이번 인증이 단순히 규정을 준수하는 것을 넘어, 연구자들이 안심하고 혁신적인 연구에 몰입할 수 있는 우리만의 고유한 연구 문화로 정착되길 기대한다”고 강조했다.
6일 오전 11시부터 진행된 인증서 수여식에는 이균민 교학부총장, 양재영 행정처장, 윤여갑 재난안전본부장 등 보직자들과 인증 취득 연구실 관계자들이 참석하여 인증서 및 인증패 수여와 함께 그간의 노고를 격려하는 시간을 가졌다.
2026.02.06
조회수 1689
-
‘뇌처럼 배우는 AI’ 가능성 열렸다...인간 전두엽의 학습 비밀 규명
사람은 갑작스러운 변화가 닥쳐도 금세 계획을 새로 세우고 목표를 조정하는 안정성과 유연성을 동시에 갖추고 있다. 그러나 이세돌 기사와 대국을 펼친 알파고를 비롯해 로봇 분야에 널리 사용되는 모델 프리 AI는 이러한 두 능력을 함께 구현하지 못한다. 우리 대 연구팀은 그 이유가 전두엽의 독특한 정보 처리 방식에 있으며, 이 원리가 ‘뇌처럼 유연하고 안정적인 AI’를 만들 핵심 열쇠가 될 수 있음을 규명했다.
우리 대학은 뇌인지과학과 이상완 교수 연구팀이 IBM AI 연구소와 함께 인간의 뇌가 목표 변화와 불확실한 상황을 처리하는 방식을 규명하고, 차세대 AI 강화학습이 나아가야 할 방향을 제시했다고 14일 밝혔다.
연구팀은 기존 강화학습 모델들이 목표가 바뀌는 상황에서는 안정성이 떨어지고, 환경이 불확실하면 유연성이 부족해지는 한계가 있지만 인간은 두 요소를 동시에 달성한다는 점을 집중했다. 연구팀은 이 차이가 전두엽이 정보를 표현하는 방식 자체에서 비롯된다고 보았다.
뇌 기능 MRI(fMRI) 실험, 강화학습 모델, AI 분석 기법을 활용한 결과, 인간 전두엽은 ‘목표 정보’와 ‘불확실성 정보’를 서로 간섭하지 않도록 분리해 저장하는 특별한 구조를 가지고 있음이 밝혀졌다. 이런 구조가 뚜렷할수록 사람은 목표가 바뀌면 빠르게 전략을 바꾸고, 환경이 불확실해도 안정적인 판단을 유지했다. 연구팀은 이를 통신 기술의 멀티플렉싱(multiplexing)처럼 서로 다른 정보를 한 번에 처리하는 특징을 갖는다는 점도 확인했다.
이렇게 인간의 전두엽은 목표가 바뀔 때마다 그 변화를 민감하게 추적해 의사결정의 유동성을 확보하는 ‘채널’이 있고, 동시에 또 다른 채널을 통해 환경의 불확실성을 분리해 안정적인 판단을 유지한다.
흥미로운 점은 전두엽이 첫 번째 채널을 통해 단순히 학습을 실행하는 수준을 넘어서, 두 번째 채널을 활용하여 상황에 따라 어떤 학습 전략을 쓸지 스스로 고르는 역할까지 한다는 것이다.
연구팀은 전두엽이 단순히 학습을 실행하는 수준을 넘어, 상황에 따라 어떤 학습 전략을 사용할지 스스로 선택하는 ‘메타학습 능력’을 갖고 있다는 점을 보여줬다.
즉, 전두엽은 무엇을 배울지뿐 아니라 어떻게 배울지도 학습하는 구조를 가지고 있으며, 이것이 인간이 끊임없이 바뀌는 상황에서도 흔들리지 않는 이유다.
이 연구는 개인의 강화학습·메타학습 능력 분석, 맞춤형 교육 설계, 인지 능력 진단, 인간-컴퓨터 상호작용 등 다양한 분야에 활용될 수 있으며, 뇌 기반 표현 구조를 활용하면 ‘뇌처럼 생각하는 AI’기술로서 AI가 인간의 의도와 가치를 더 잘 이해해 위험한 판단을 줄이고 사람과 더 안전하게 협력하는 기술로 이어질 수 있다.
연구 책임자인 이상완 교수는 “이번 연구는 변화하는 목표를 유연하게 따라가면서도 안정적으로 계획을 세우는 뇌의 작동 원리를 AI 관점에서 규명한 성과이며, 이러한 원리가 앞으로 AI가 사람처럼 변화에 적응하고 더 안전하고 똑똑하게 학습하는 차세대 AI의 핵심 기반이 될 것”이라고 말했다.
이 연구는 성윤도 박사과정 학생이 1 저자, IBM AI 연구소 마티아 리고티(Mattia Rigotti) 박사가 2저자로 참여했으며, 이상완 교수가 교신저자를 맡았다. 연구 결과는 국제 학술지 `네이처 커뮤니케이션스 (Nature Communications)‘ 11월 26일 자 게재됐다.
(논문명: Factorized embedding of goal and uncertainty in the lateral prefrontal cortex guides stably flexible learning) DOI: 10.1038/s41467-025-66677-w)
특히 이번 연구는 과학기술정보통신부 한계도전 R&D 프로젝트 사업 지원을 받아 수행됐다.
2025.12.15
조회수 3558
-
제7회 연구실 안전의 날, 건설및환경공학과 우수학과 선정
우리 대학은 5월 13일‘제7회 KAIST 연구실 안전의 날’을 맞아 건설및환경공학과를 연구실 안전관리 우수학과로 선정했다.
연구실 안전관리 우수학과 포상은 연구실 안전교육 이수율, 일상점검 실시율, 학과안전관리위원회 개최 등 주요 지표를 종합적으로 평가하여, 우수한 실적을 보인 학과에 수여된다. 올해 수상한 건설및환경공학과는 연구실 안전교육 이수율과 정기점검 후속조치율 등에서 높은 평가를 받아 우수학과로 선정되었다.
이날 기념식에서는 최근 개최된 ‘KAIST 안전디자인 공모전’의 당선작에 대한 시상도 진행되었다.
연구실 안전 분야에서는 생명과학과행정팀 임승영 기술원이, 교통안전 분야에서는 산업디자인학과 김민수 학사과정생이, 소방안전 분야에서 산업디자인학과 강은주 석사과정생이 각각 최우수상을 수상하였다.
이균민 교학부총장은 “한 사람 한 사람의 관심과 실천이 쌓여 우리 KAIST의 연구실이 더 안전해지고 연구에 몰입할 수 있는 환경이 만들어지기를 바란다”라고 전했다.
한편, KAIST 연구실 안전의 날은 2003년 5월 13일에 발생한 풍동 실험실 사고를 기억하고, 연구실 안전에 대한 구성원의 공감대 형성과 안전의식 제고를 위해 2013년 5월 13일에 처음 제정되어 기념되고 있다.
2025.05.13
조회수 3715
-
6개 연구실, ‘안전관리 우수 연구실’ 인증 취득
우리 대학 6개 연구실이 과학기술정보통신부가 주관하는 2024년도 안전관리 우수연구실 인증을 획득했다.
안전관리 우수연구실 인증제는 대학이나 연구기관 내 연구실의 안전관리 수준을 평가해 자율적 안전관리 역량이 우수한 연구실을 발굴·인증함으로써 연구실 안전관리 문화 확산을 유도하는 제도이다.
이번에 인증을 획득한 연구실은 총 6개로 건설및환경공학과 ①환경분석연구실(강석태 교수), 신소재공학과 ②신소재영상화 및 융합연구실(홍승범 교수), 원자력및양자공학과 ③핵융합 및 플라즈마 동역학 연구실(성충기 교수), ④저온플라즈마공학연구실(박상후 교수), 화학과 ⑤유전자손상및수리기작연구실(전용웅 교수) ⑥친환경 광전기 화학 연구실(김태규 교수) 등이다.
해당 연구실들은 ▴연구실 안전 환경 시스템 분야(30점) ▴연구실 안전 환경 활동 수준 분야(50점), ▴연구실 안전관리 관계자 안전의식 분야(20점) 등 세 가지로 구분된 심사 항목에서 각 분야 배점의 80% 이상을 득점하고 80점 이상의 총점을 얻었다. 또한, 안전관리 우수연구실 인증제 운영에 관한 규정에 명시된 필수 이행항목 4종에 대한 평가를 동시에 충족해 우수 연구실로 선정됐다.
이광형 총장은 "최근 신소재공학과 신종화 교수 연구실이 '안전관리 최우수연구실'로 선정되는 등, KAIST의 연구실 안전관리 수준은 외부 기관으로부터 높은 평가를 받고 있다"며, "우리 대학의 우수한 연구자들이 보다 안전한 환경에서 연구에 몰입할 수 있도록 '안전관리 우수연구실 인증제'를 더욱 확대하고, 안전관리 전반에 만전을 기하겠다"고 강조했다.
28일 오후 3시부터 진행된 인증서 수여식에는 이균민 교학부총장, 양재영 행정처장 등 보직자들과 해당 연구실 관계자들이 참여했다.
2025.03.28
조회수 4514
-
4개 연구실, ′안전관리 우수연구실′ 인증 취득
우리 대학 4개 연구실이 과학기술정보통신부가 주관하는 우리 대학 4개 연구실이 과학기술정보통신부가 주관하는 ′2023 안전관리 우수연구실 인증′을 취득했다.
정부가 2013년 도입한 '안전관리 우수연구실 인증제'는 대학이나 연구기관 등에 설치된 과학기술 분야 연구실이 자율적으로 안전관리 역량을 강화할 수 있도록 마련한 제도다. 안전관리 표준모델을 발굴하고 확산을 목표로 안전관리 활동이 우수한 연구실에 전문가의 심사를 통한 인증을 부여하고 있다.이번에 신규 인증을 취득한 연구실은 ①고분자 에너지 전자 연구실(김범준 교수, 생명화학공학과), ②고등 광 재료 및 소자 연구실(신종화 교수, 신소재공학과), ③지속가능촉매연구실(박윤수 교수, 화학과), ④무기합성 연구실(백윤정 교수, 화학과) 등 총 4개다.
해당 연구실들은 ▴연구실 안전 환경 시스템 분야(30점) ▴연구실 안전 환경 활동 수준 분야(50점), ▴연구실 안전관리 관계자 안전의식 분야(20점) 등 세 가지로 구분된 심사 항목에서 각 분야 배점의 80% 이상을 득점하고 80점 이상의 총점을 얻었다. 또한, 안전관리 우수연구실 인증제 운영에 관한 규정에 명시된 필수 이행항목 4종에 대한 평가를 동시에 충족해 우수 연구실로 선정됐다.
이광형 총장은 "최근 중대재해 처벌 등에 관한 법률이 시행되어 공공기관의 사회적 책임에 부응하기 위해 KAIST는 안전보건경영시스템 'ISO45001' 인증을 취득하는 등 연구실 안전관리에 많은 관심을 가지고 있다"라고 전했다. 이어 이 총장은, "KAIST의 우수한 연구자들이 안전하게 연구할 수 있도록 안전관리 우수연구실 인증을 향후 확대하여 시행하는 등 안전관리에 만전을 기하겠다"고 강조했다.13일 오후 3시에 열린 인증서 수여식에는 이동만 교학부총장, 양재영 행정처장 등 보직자들과 해당 연구실 관계자들이 참여했다.
2024.02.15
조회수 11809
-
식품의약품안전처와 연구협력 MOU 체결
우리 대학은 16일 오후 식품의약품안전처(처장 오유경)와 식품·의약품·마약류 등 분야에서 연구를 포함한 포괄적인 협력을 강화하는 MOU를 체결했다.
이번 협약을 바탕으로 두 기관은 ▴식품·의약품·마약류 등 분야의 공동연구 발굴·추진 ▴국가연구개발사업 상호협력 및 공동연구 추진 ▴양 기관 교육프로그램 연계·공유 ▴국내외 최신 식·의약 연구 정보·동향 공유 등에 적극적으로 협력할 예정이다.
특히, 'KAIST-원진 세포치료센터(센터장, 김대수)'를 주축으로 뇌 오가노이드(인공장기) 기술을 개발해 약물중독 및 금단증상, 재활에 관해 연구하고 국제적인 표준을 마련할 계획이다.
날로 증가하는 신종 마약의 위협을 신속하게 진단하고 대응하기 위해 우리 대학의 인공지능 기술을 활용해 마약류가 뇌와 행동에 미치는 영향을 초고속으로 정밀 진단할 수 있는 시스템 개발도 진행한다.
이와 함께, mRNA 백신·치료제 기술·플랫폼 개발 등 식품 및 의료 관련 신물질과 제품 안전성에 대한 첨단 평가기술 개발 분야에서도 폭넓게 협력할 예정이다.
오유경 식약처장은 "이번 업무협약을 계기로 식약처와 KAIST가 함께 연구를 수행하게 되어 국민 안전이 한층 더 강화될 수 있을 것으로 기대한다"며 "식약처는 앞으로도 과학적 근거에 기반하여 식품, 의료제품의 안전을 더욱 철저히 관리하겠다"고 말했다.이광형 총장은 "이번 협약이 식약처와 KAIST의 유기적인 협력관계 구축으로 이어져 양 기관이 상호 발전하는 계기가 되길 바란다"며 "앞으로 KAIST의 첨단과학 연구 역량을 바탕으로 식약처와 공동연구를 수행하여 규제과학 전문성을 높이기 위해 지속해서 노력하겠다"고 밝혔다.
2023.10.17
조회수 9610
-
KAIST 안전보건경영시스템(ISO45001:2018) 인증 취득
우리 대학이 이달 5일(수) 국제표준화기구(ISO) 인증기관으로부터 안전보건경영시스템(ISO45001:2018) 인증을 취득했다.
안전보건경영시스템(ISO45001:2018)은 최고경영자가 경영방침에 안전보건정책을 선언하고 이에 대한 계획수립, 실행, 점검 및 시정조치, 검토를 통하여 지속적인 개선이 이루어지도록 하는 등의 체계적인 안전보건활동을 말한다. 이를 통해, 안전하고 건강한 연구환경 및 자율적인 안전보건경영체계 구축하는 것이 목표다. 우리 대학은 캠퍼스 내 연구실, 작업장 및 시설물 등 모든 캠퍼스 현장에 안전에 대한 총장의 강력한 의지를 표명하며 지속적인 자율안전관리체계를 구축하고 운영하기 위해 노력해왔다. 지난해 10월 인증 준비를 위한 실무교육을 시작으로 관련 매뉴얼, 절차서, 지침서 제정 등 철저한 사전 준비와 3일간 5명의 심사단이 엄격하게 진행한 심사를 통과해 인증을 취득했다.특히, 연구현장의 안전을 위한 안전관리시스템과 다양한 교육 프로그램이 우수한 평가를 받았다.이동만 교학부총장은 인증서 수여식에서 "중대재해 예방을 위해서는 최고경영자의 안전에 대한 관심과 의지가 무엇보다 중요하다"라며 "이번에 구축한 안전보건경영시스템을 활용해 KAIST의 모든 캠퍼스에서 안전사고 예방활동을 통한 사고 없는 캠퍼스를 기원하고, 아울러 우리나라 연구현장의 안전문화 확산에 많은 선도적인 역할을 담당해 주길 바란다"고 밝혔다.
2023.07.06
조회수 6688