신뢰할 수 있는 인공지능 연구실

About Us

신뢰할 수 있는 인공지능(Trustworthy AI)이란, 인공지능이 단지 기술적인 혁신을 넘어 인간의 가치와 사회·윤리적 원칙을 존중하는 방향으로 발전하기 위한 개념입니다.

인공지능은 지금도 일상 곳곳에 빠르게 스며들고 있지만, 우려의 목소리도 커져가고 있습니다. 이에 유럽연합, 미국, 일본 등 주요 국가들은 인공지능법(AI Act, ’21)을 포함한 다양한 법률과 가이드라인을 세워 인공지능의 신뢰성을 강조하고 있습니다.

본 연구실은 신뢰할 수 있는 인공지능 개발을 통해, 인공지능이 '믿을 수 있는 동료'로서 인간과 따뜻하게 어우러진 미래를 만들어가고자 합니다.

테슬라 자율주행 사고 (Euronews)

애플 인식시스템 해킹 (Forbes)

ChatGPT 개인정보 유출 (Nasr, M. et al. `23)

.

Key Concepts

본 연구실은 신뢰할 수 있는 인공지능(Trustworthy AI)을 위해 세 가지 핵심 개념⁺들을 연구합니다.

⁺"Trustworthy AI: From Principles to Practices," Bo Li et al.(’23); "인공지능 신뢰성을 높이는 Trustworthy AI," Deloitte(’22); "Strategy to realize trustworthy artificial intelligence," MSIT(’21);

강건성
Robustness

강건성은 훈련되지 않은 데이터나 악의적인 조작에 대해서도 안전하게 작동하는 능력입니다. 외부의 공격 및 환경 변화에 대해 안전성을 보장합니다.

프라이버시
Privacy

프라이버시는 인공지능이 데이터의 기밀성을 유지하고 불필요한 개인 정보 수집을 방지하는 능력입니다. 민감 정보 유출 최소화를 보장합니다.

설명성
Explainability

설명성은 작동 과정과 그 결과를 인간이 이해할 수 있는 형태로 명확히 제시하는 능력입니다. 법적·윤리적 책임을 준수하기 위한 선행 목표입니다.

.

Strength

본 연구실은 연구·교육·협업을 통해 신뢰할 수 있는 인공지능을 추구합니다.

연구 Research

본 연구실은 새로운 시각을 제시하며, 영향력 있는 연구에 도전합니다.
AI 최우수 학회(NeurIPS, ICML, AAAI)에 다수의 핵심 연구를 발표하며 학문적 성과를 선도해왔으며,
규제 준수형 AI 응용 연구를 위해 산업 공정·금융 분야로 영역을 확장해 나가고 있습니다.

AI 핵심연구: 다양한 적대적 학습 기법 및 환경에서의 강건성 측정 지표들에 대한 실증적 검증 [NeurIPS 2023]

AI 응용연구(금융 분야): 부실 은행 예측을 위한 해석 가능한 인공지능의 개발 및 설명 도출 [AEL, Finance]

AI 응용연구(산업 공정 분야): IoT 기반 공정에서의 적대적 공격 가능성 탐지 및 강건성 측정 [EAAI, Industrial Factory]

[NeurIPS 2024] Are Self-Attentions Effective for Time Series Forecasting?
[AAAI 2024] Fair Sampling in Diffusion Models Through Switching Mechanism
[NeurIPS 2023] Fantastic Robustness Measures: The Secrets of Robust Generalization
[ICML 2023] Differentially Private Sharpness-Aware Training
[AEL, Finance] Explaining Determinants of Bank Failure Prediction via Neural Additive Model
[EAAI, Industrial Factory] Evaluating Practical Adversarial Robustness of Fault Diagnosis Systems via Spectrogram-Aware Ensemble Method
...more

교육 Education

본 연구실은 신뢰할 수 있는 인공지능의 중요성을 알릴 수 있는 교육을 고민합니다.
'안전한 인공지능(Safe AI)', '신뢰할 수 있는 인공지능(Trustworthy AI)' 등 신규 교과목을 개설하였습니다.
나아가, 소프트웨어 플랫폼 Github 상의 플랫폼을 제공하여 2700개 이상의 Star을 달성하였습니다.