About Us

신뢰할 수 있는 인공지능(Trustworthy AI)이란, 인공지능이 단지 기술적인 혁신을 넘어 인간의 가치와 사회·윤리적 원칙을 존중하는 방향으로 발전하기 위한 개념입니다.

인공지능은 지금도 일상 곳곳에 빠르게 스며들고 있지만, 우려의 목소리도 커져가고 있습니다. 이에 유럽연합, 미국, 일본 등 주요 국가들은 인공지능법(AI Act, ’21)을 포함한 다양한 법률과 가이드라인을 세워 인공지능의 신뢰성을 강조하고 있습니다.

본 연구실은 신뢰할 수 있는 인공지능 개발을 통해, 인공지능이 '믿을 수 있는 동료'로서 인간과 따뜻하게 어우러진 미래를 만들어가고자 합니다.

테슬라 자율주행 사고 (Euronews)

애플 인식시스템 해킹 (Forbes)

ChatGPT 개인정보 유출 (Nasr, M. et al. `23)

.

Key Concepts

본 연구실은 신뢰할 수 있는 인공지능(Trustworthy AI)을 위해 세 가지 핵심 개념⁺들을 연구합니다.

⁺"Trustworthy AI: From Principles to Practices," Bo Li et al.(’23); "인공지능 신뢰성을 높이는 Trustworthy AI," Deloitte(’22); "Strategy to realize trustworthy artificial intelligence," MSIT(’21);

강건성(Robustness)

강건성은 악의적인 조작이나 개인정보 탈취 시도에도 안전하게 작동하는 능력입니다. 외부의 공격으로부터 견고성을 유지하고 지속적인 안전성을 보장합니다.

일반화(Generalization)

일반화는 훈련되지 않은 새로운 데이터에 대해 정확하게 예측할 수 있는 능력입니다. 다양한 현실 환경의 복잡한 시나리오에 대응하기 위한 필수 요소입니다.

설명성(Explainability)

설명성은 작동 과정과 그 결과를 인간이 이해할 수 있는 형태로 명확히 제시하는 능력입니다. 법적·윤리적 책임을 준수하고 검토하기 위한 선행 목표입니다.

.

Research

본 연구실은 (1) 연구·(2) 교육·(3) 협업을 통해 신뢰할 수 있는 인공지능을 추구합니다.

0%

본 연구실은 새로운 시각을 제시하는 영향력 있는 연구를 추구합니다.
78.5%의 논문을 최우수 학회(NeurIPS, ICML, AAAI) 및 상위 10% 이내 SCI 저널(IEEE TPAMI)에 게재하였습니다.

Fantastic Robustness Measures: The Secrets of Robust Generalization [NeurIPS ’23]

GradDiv: Randomized Neural Networks via Gradient Diversity Regularization [TPAMI ’23]

Understanding Catastrophic Overfitting in Single-step Adversarial Training [AAAI ’21]

0+

본 연구실은 인공지능의 투명하고 개방적인 공유 생태계 구축을 지향합니다.
소프트웨어 플랫폼 Github에서 2700개 이상의 Star 및 다수의 특허를 보유하고 있습니다.

0+

본 연구실은 적극적인 학문 간 융합 연구와 인재 양성을 추구합니다.
서울대, UNIST, 한양대 및 중국 雲南大, 호주 Macquarie Univ. 등 국내외 10개 이상의 기관과 함께하고 있습니다.

.

Location

중앙대학교 서울캠퍼스 310관 1006호

Contact

trustworthyai.cau@gmail.com