< (왼쪽부터) 전기및전자공학부 황의종 교수, 노유지 박사과정 >
인공지능 기술이 사회 전반에 걸쳐 광범위하게 활용되며 인간의 삶에 많은 영향을 미치고 있다. 최근 인공지능의 긍정적인 효과 이면에 범죄자의 재범 예측을 위해 머신러닝 학습에 사용되는 콤파스(COMPAS) 시스템을 기반으로 학습된 모델이 인종 별로 서로 다른 재범 확률을 부여할 수 있다는 심각한 편향성이 관찰되었다. 이 밖에도 채용, 대출 시스템 등 사회의 중요 영역에서 인공지능의 다양한 편향성 문제가 밝혀지며, 공정성(fairness)을 고려한 머신러닝 학습의 필요성이 커지고 있다.
우리 대학 전기및전자공학부 황의종 교수 연구팀이 학습 상황과 달라진 새로운 분포의 테스트 데이터에 대해서도 편향되지 않은 판단을 내리도록 돕는 새로운 모델 훈련 기술을 개발했다고 30일 밝혔다.
최근 전 세계의 연구자들이 인공지능의 공정성을 높이기 위한 다양한 학습 방법론을 제안하고 있지만, 대부분의 연구는 인공지능 모델을 훈련시킬 때 사용되는 데이터와 실제 테스트 상황에서 사용될 데이터가 같은 분포를 갖는다고 가정한다. 하지만 실제 상황에서는 이러한 가정이 대체로 성립하지 않으며, 최근 다양한 어플리케이션에서 학습 데이터와 테스트 데이터 내의 편향 패턴이 크게 변화할 수 있음이 관측되고 있다.
이때, 테스트 환경에서 데이터의 정답 레이블과 특정 그룹 정보 간의 편향 패턴이 변경되면, 사전에 공정하게 학습되었던 인공지능 모델의 공정성이 직접적인 영향을 받고 다시금 악화된 편향성을 가질 수 있다. 일례로 과거에 특정 인종 위주로 채용하던 기관이 이제는 인종에 관계없이 채용한다면, 과거의 데이터를 기반으로 공정하게 학습된 인공지능 채용 모델이 현대의 데이터에는 오히려 불공정한 판단을 내릴 수 있다.
연구팀은 이러한 문제를 해결하기 위해, 먼저 `상관관계 변화(correlation shifts)' 개념을 도입해 기존의 공정성을 위한 학습 알고리즘들이 가지는 정확성과 공정성 성능에 대한 근본적인 한계를 이론적으로 분석했다. 예를 들어 특정 인종만 주로 채용한 과거 데이터의 경우 인종과 채용의 상관관계가 강해서 아무리 공정한 모델을 학습을 시켜도 현재의 약한 상관관계를 반영하는 정확하면서도 공정한 채용 예측을 하기가 근본적으로 어려운 것이다. 이러한 이론적인 분석을 바탕으로, 새로운 학습 데이터 샘플링 기법을 제안해 테스트 시에 데이터의 편향 패턴이 변화해도 모델을 공정하게 학습할 수 있도록 하는 새로운 학습 프레임워크를 제안했다. 이는 과거 데이터에서 우세하였던 특정 인종 데이터를 상대적으로 줄임으로써 채용과의 상관관계를 낮출 수 있다.
< 그림 1. 채용과 인종의 상관관계가 변할 때 훈련 데이터를 개선하는 예시 >
제안된 기법의 주요 이점은 데이터 전처리만 하기 때문에 기존에 제안된 알고리즘 기반 공정한 학습 기법을 그대로 활용하면서 개선할 수 있다는 것이다. 즉 이미 사용되고 있는 공정한 학습 알고리즘이 위에서 설명한 상관관계 변화에 취약하다면 제안된 기법을 함께 사용해서 해결할 수 있다.
제1 저자인 전기및전자공학부 노유지 박사과정 학생은 "이번 연구를 통해 인공지능 기술의 실제 적용 환경에서, 모델이 더욱 신뢰 가능하고 공정한 판단을 하도록 도울 것으로 기대한다ˮ고 밝혔다.
연구팀을 지도한 황의종 교수는 "기존 인공지능이 변화하는 데이터에 대해서도 공정성이 저하되지 않도록 하는 데 도움이 되기를 기대한다ˮ고 말했다.
이번 연구에는 노유지 박사과정이 제1 저자, 황의종 교수(KAIST)가 교신 저자, 서창호 교수(KAIST)와 이강욱 교수(위스콘신-매디슨 대학)가 공동 저자로 참여했다. 이번 연구는 지난 7월 미국 하와이에서 열린 머신러닝 최고권위 국제학술 대회인 `국제 머신러닝 학회 International Conference on Machine Learning (ICML)'에서 발표됐다. (논문명 : Improving Fair Training under Correlation Shifts)
한편, 이 기술은 정보통신기획평가원의 지원을 받은 `강건하고 공정하며 확장가능한 데이터 중심의 연속 학습' 과제 (2022-0-00157)와 한국연구재단 지원을 받은 `데이터 중심의 신뢰 가능한 인공지능' 과제의 성과다.
우리 대학이 뉴욕대학교(New York University, 총장 린다 밀스, Linda G. Mills)와 인공지능 분야 공동학위제(Joint Degree) 도입을 위한 업무협약을 9일 오후 체결했다. 이번 협약은 인공지능 분야의 역량 강화하고 글로벌 인재를 양성하는 것은 단순한 기술 교육을 넘어 미래 사회 전반에 큰 발전을 도모할 수 있는 필수 요소라는 양교의 공감대를 바탕으로 추진됐다. 양교는 그간 인공지능 및 이와 융합한 다양한 산업 분야의 공동연구 그룹을 운영해 왔으며, 이번 협약을 바탕으로 인공지능 관련 분야 대학원 과정의 공동학위제를 설계하기 위한 운영위원회를 올해 안에 설치할 예정이다. 우리 대학 관계자는 "인공지능 공동학위제가 시행되면 KAIST가 뉴욕대와 힘을 합쳐 ‘하나의 인공지능 학위’를 창조하는 사상 초유의 혁신적 실험이 될 것으로 기대한다"라고 전했다. 위원회는 양교 교수진을 동수로 포함해 구성하며, ▴교육과정 구조
2024-09-10우리 대학 전산학부 안성진 교수 연구팀이 세계적인 인공지능 권위자인 캐나다의 요슈아 벤지오(Yoshua Bengio) 교수와 함께 ‘KAIST-밀라(MILA) 프리프론탈 인공지능 연구센터’를 KAIST에 7월 1일부로 설립했다고 4일 밝혔다. 이 사업은 과학기술정보통신부와 한국연구재단이 지원하는 ‘2024년도 해외우수연구기관 협력허브구축사업’의 일환으로, 안성진 교수 연구팀은 2024년 7월부터 2028년 12월까지 총 27억 원의 지원을 받게 된다. 이 센터는 차세대 인공지능 기술 개발을 위한 국제공동연구의 중심지로서 역할을 하게 될 예정이다. 요슈아 벤지오 교수는 딥러닝 분야의 창시자 중 한 명으로, 현대 인공지능 연구에 지대한 영향을 미친 인물이다. 그의 연구는 현재의 딥러닝 기술을 탄생시키고 발전시키는 데 중요한 역할을 했다. KAIST 안성진 교수팀과의 이번 협력은 요슈아 벤지오 교수의 몬트리올 학습 알고리즘 연구
2024-09-04우리 대학 기계공학과 윤국진 교수 연구팀의 논문 12편이 세계 최고 권위 컴퓨터비전 국제학술대회 중 하나인 ECCV 2024 (European Conference on Computer Vision)에 채택되어, 컴퓨터 비전 분야 세계 최고의 연구 역량을 다시 한번 인정받았다. CVPR, ICCV와 함께 컴퓨터 비전 분야 뿐 아니라 전체 인공지능 분야에서도 세계 최고 권위 학술대회로 꼽히는 ECCV는 1990년부터 격년으로 개최되는 학술대회로, Google Scholar 기준 H5-색인 206을 기록하고 있으며, 공학 및 컴퓨터과학 (Engineering & Computer Science)전분야에서 최고 수준의 국제 학술대회 중 하나이다. 이번 ECCV 2024에는 총 8,585개의 논문들이 제출되었고 그 중 2,395개의 논문이 채택되어 약 27.9%의 낮은 채택률을 기록하였다. 단일 연구실에서 12편의 논문이 채택된 것은 극히 이례적인 경우다. 윤국진 교수 연구팀의
2024-08-29우리 대학은 GS건설(대표 허윤홍)과 '스마트시티 기술 선도 역량 상호 발전을 위한 협력관계 구축' 양해각서를 22일 체결했다. 이번 협약을 통해 양 기관은 미래 스마트 도시에 필요한 디지털 기술 연구센터를 연내 우리 대학에 설립한다. 해당 산학연구센터는 디지털 전환으로 생성되는 다양한 도시 데이터를 최적화, 머신러닝, 인공지능 학습 등을 통해 디지털 지능(Digital Intelligence)을 발굴하는 연구를 수행한다. 이를 통해 도시민의 편의, 건강 등 삶의 질을 향상하는 동시에 과밀화, 에너지 전환, 기후변화 등 도시가 당면한 복합적인 미래 도전에 대한 과학적 해결 방법을 연구한다. 국내 최초로 시도되는 이번 도시 디지털 지능 산학 협력은 ▴도시 인프라 디지털 전환 ▴디지털 도시 지능(Urban Digital Intelligence) 발굴 ▴도시-인간 상호작용(Urban-Human Interaction) ▴디지털 도시 툴킷(Urban Digital Toolkit
2024-08-22과학기술정보통신부와 정보통신기획평가원은 대한민국 AI G3 도약을 위해, 대한민국을 대표하는 AI 연구거점을 구축·운영할 수행기관으로 KAIST(책임자 김기응)·고려대(책임자 이성환)·연세대(책임자 김선주)·POSTECH(책임자 조민수) 컨소시엄을 선정했다고 18일 밝혔다. 글로벌 AI 선진국은 AI의 경제·안보적 중요성을 인식하고, 국가 주도 대규모 투자를 통해 AI 연구 구심점을 조성해오고 있으며, 이에 발맞춰 우리나라도 세계 최고 수준 AI 산·학·연 협력 생태계를 집약하는 구심점 조성을 위해 대한민국을 대표하는 AI 연구거점 구축을 추진한다고 과기정통부는 밝혔다. 실제 캐나다는 정부 주도로 3대 국가 AI 연구소 구축(토론토 vector institute가 대표적)을, 영국은 정부기관 및 5개 대학이 공동 투자해 앨런 튜링 연구소 설립을, 미국은 국립과학재단(NSF)가 나서 미국 전
2024-08-19